Eine kurze Spracheingabe oder eine geschriebene Frage genügt und die KI unserer Wahl spuckt uns eine fundiert klingende, wissenschaftlich anmutende Antwort aus. Diese ist so gut formuliert, dass wir erst gar nicht beginnen, über das Thema nachzudenken. Das hat fatale Auswirkungen. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Hintergrund
- Der Medienpädagogische Forschungsverband Südwest hat für die JIM-Studie 2025 untersucht, wie Jugendliche und junge Erwachsene KI nutzen. Knapp drei Viertel der 12- bis 19-Jährigen setzen KI für Hausaufgaben oder das Lernen ein. Damit nehmen ChatGPT und Co. schon den zweiten Platz hinter klassischen Suchmaschinen ein. Besonders bedenklich: 57 Prozent der Befragten halten die KI-Antworten für vertrauenswürdig.
- Das ist fatal. Denn: 45 Prozent aller KI-Antworten haben mindestens ein schwerwiegendes Defizit. Zu diesem Ergebnis ist die Studie „News Integrity in AI Assistants“ der Europäischen Rundfunkunion gekommen. Zu diesen Defiziten gehören beispielsweise veraltete Quellen, fehlende oder frei erfundene Quellen oder eine Vermischung von Fakten und Meinung. Tatsächlich gefährden wir nicht nur unsere Glaubwürdigkeit, sondern auch unseren Denkapparat.
- Ein Forscherteam des MIT Media Labs unter Leitung von Nataliya Kosmyna hat sich mit den Auswirkungen der KI-Nutzung auf unser Gehirn beschäftigt. Das Ergebnis von „Your Brain on ChatGPT“: Bei Probanden, die ChatGPT für ihre Recherche genutzt haben, wurde im EEG die geringste Gehirnaktivität verzeichnet. Die Probanden, die über Google suchten oder sich selbst eine Geschichte ausdenken mussten, wiesen sehr aktive Gehirnareale auf.
Unser Gehirn ist einfach zu alt für KI
Die Auswirkungen von KI auf unser Gehirn sind fatal, denn nur selten denken wir über unser Gehirn nach. Unser Gehirn ist sehr alt und von der Evolution darauf geprägt, in Gefahrensituationen schnell reagieren zu können. Wer den Säbelzahntiger sieht, muss rennen – sonst stirbst du. Wer dagegen nachdenkt, ist tot. Und tatsächlich ist unser Gehirn nicht sonderlich viel weiter – auch, wenn sich die Welt um uns herum stark verändert hat.
Die beiden Forscher Daniel Kahnemann und Amos Tversky haben seit den 1970er Jahren über unser Gehirn und kognitive Verzerrungen geforscht und die Erkenntnisse in verständlicher Form im Buch „Schnelles Denken, langsames Denken“ veröffentlicht. Darin beschreiben die Autoren unter anderem die unterschiedlichen Denk- und Verhaltensmuster unseres Gehirns. Aus Faulheit tendieren wir dazu, Ergebnisse aus kleinen Stichproben zu überinterpretieren oder Wahrscheinlichkeiten und Basiswerte unzureichend zu berücksichtigen.
Ein schönes Beispiel dazu ist Linda. Sie ist 31 Jahre alt, single, offen und sehr intelligent. Sie hat Philosophie studiert. Als Studentin engagierte sie sich stark gegen Diskriminierung und für soziale Gerechtigkeit und nahm an Anti-Atomkraft-Demonstrationen teil. Die Probanden der Studie sollten sagen, ob Linda eine einfache Bankangestellte ist oder eine Bankangestellte, die zudem in einer feministischen Bewegung aktiv ist.
Über 85 Prozent wählten die zweite Option, obwohl die Schnittmenge zweier Ereignisse niemals wahrscheinlicher als ein Einzelereignis sein kann. Das zeigt: Unser Gehirn liebt Prototypen und ignoriert alles, was wir zum Thema Wahrscheinlichkeit lernen. Oder anders ausgedrückt: Unser Gehirn liebt es, wenn es nicht denken muss. Es liegt gerne auf dem Sofa. Genau an dieser Stelle wird es für uns Menschen durch Künstliche Intelligenz so gefährlich. Sie liefert uns schnell, plausibel klingende Antworten, die uns dazu einladen, nicht mehr nachzudenken. Das müssen wir auf jeden Fall verhindern.
Stimmen
- Zishan Khan ist Kinder- und Jugendpsychiater und arbeitet als Regional Medical Director bei Mindpath Health. Nach der Publikation der MIT-Media-Lab-Studie sagte er gegenüber dem Time Magazine: „Aus psychiatrischer Sicht sehe ich, dass eine übermäßige Abhängigkeit von LLMs unbeabsichtigte psychologische und kognitive Folgen haben kann – insbesondere für junge Menschen, deren Gehirne sich noch in der Entwicklung befinden.“ Er ergänzt: „Diese neuronalen Verbindungen, die ihnen beim Zugriff auf Informationen, dem Erinnern von Fakten und der Fähigkeit zur Resilienz helfen, werden sich alle abschwächen.“
- Ross Dawson bezeichnet sich selbst als Futurist, arbeitet als Keynote-Speaker für globale Konzerne wie Coca-Cola und ist im Australian Institute of Company Directors aktiv. Er warnt auf LinkedIn: „Bei der Arbeit mit KI ist Faulheit die größte Sünde. In dem Moment, in dem Sie ein Ergebnis als ‚gut genug‘ akzeptieren, hören Sie auf, Ihre kognitiven Fähigkeiten zu trainieren. Von da an ist es ein schleichender Prozess nach unten. Sie können sich stattdessen dafür entscheiden, KI als Gegenüber zu nutzen, um Ihre Absicht zu klären und Ihr Denken zu schärfen – um es besser zu machen als je zuvor. Aber das muss Ihre ausdrückliche Absicht sein. Ohne diese Absicht werden Sie von der KI geformt.“
- Am Institut für Digitale Ethik an der Hochschule für Medien (HdM) in Stuttgart wurden die „10 Gebote der KI-Ethik“ entwickelt. Dr. Petra Grimm, Professorin für Medienforschung und Kommunikationswissenschaft an der HdM, erklärt im Interview: „Denke zuerst selbst nach, bevor du KI nutzt, und trainiere deine eigenen Fähigkeiten. Generative KI wie ChatGPT, Grok oder Mistral wurde nicht für Bildungszwecke entwickelt, dringt aber in Schulen ein. KI kann als Tutor helfen – erst, wenn Kinder eigenständiges Denken gelernt haben. Sonst riskieren wir, Problemlösungskompetenz und kritisches Denken zu schwächen.“
KI als Werkzeug richtig nutzen
Es wäre gelogen, sich als Moralapostel aufzuspielen, der sich noch nie blind auf eine KI-Antwort verlassen hat. Das ist mir mehr als einmal so gegangen. Mehr als einmal habe ich allerdings auch festgestellt, wie fehlerbehaftet die KI-Antworten sind – einmal auf der Suche nach einem Krankenhaus mit Geburtsstation und einmal bei den Kursen von Edelmetallen. Beide Male ließ sich die KI keines Besseren belehren – trotz offizieller Quellen und Links als Belege für Falschaussagen.
Diese kleinen Aha-Momente gibt es viel zu selten. Das liegt auch daran, dass wir ChatGPT selten zu unseren Fachgebieten befragen. Wir fragen nicht in den Bereichen, in denen wir uns auskennen, sondern sind auf der Suche nach Wissen an den Stellen, an denen wir blinde Flecken haben. Dadurch entziehen wir uns selbst der Möglichkeit, Fehler zu entdecken und zu lernen, dass KI (viele) Fehler macht.
Ein weiterer Fakt ist: Unser Gehirn liebt Routinen. Im Durchschnitt dauert es rund 60 aufeinanderfolgende Tage, bis wir eine neue Gewohnheit etabliert haben. Diesen verhältnismäßig kurzen Zeitraum sollten wir nutzen, um unserem in die Jahre gekommenen Gehirn ein KI-Upgrade zu verpassen.
Das könnte so gehen: Für mindestens zwei Monate zwingen wir uns dazu, jede KI-Antwort über eine klassische Google-Recherche zu verifizieren oder falsifizieren. Dadurch bringen wir unserem Gehirn bei, KI-Antworten zu misstrauen und stets eine Korrekturschleife durchzuführen. Nach einigen Monaten haben wir eine simple Routine entwickelt, die uns davor schützt, dass unser Gehirn biologisch verkümmert.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
