Mythos 2: Versteht eine KI wirklich, was sie sagt?
Gerade Chatbots werden von Nutzern immer wieder wie menschliche Entitäten behandelt, die selbstständig Probleme lösen und Situationen verstehen. Letztendlich kann eine KI aber nur das ausführen, was Menschen ihr durch Programmierung und Datenfütterung vorgeben. Die angesprochenen Sprachmodelle generieren plausibel klingende Texte auf Basis statistischer Wahrscheinlichkeiten, ohne den Inhalt im menschlichen Sinne wirklich zu „verstehen“. Phrasen wie „ich freue mich“ sind lediglich erlernte Sprachmuster, können Nutzer aber hinters Licht führen.
