OpenAI führt eine neue Funktion bei ChatGPT ein: Wer zu lange chattet, bekommt jetzt eine Erinnerung daran, eine Pause einzulegen. Das Unternehmen reagiert damit auf Bedenken rund um die Auswirkungen intensiver KI-Nutzung – insbesondere beim Thema mentale Gesundheit und Suchtverhalten nach KI-Kontakt.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Hintergrund: Pausen-Erinnerung gegen ChatGPT-Sucht
- Das neue Feature zeigt während längerer Sitzungen ein Pop-up mit der Nachricht: „Just checking in – You’ve been chatting a while – is this a good time for a break?“ Nutzer können dann entweder weiter chatten oder die Sitzung beenden.
- Die Pausenerinnerung ist Teil einer größeren Initiative von OpenAI, bei der Fehler korrigiert werden sollen. Das Ziel: ChatGPT soll nützlich und unterstützend sein, aber keine Abhängigkeit fördern. OpenAI betont, man wolle Nutzer nicht im Chat halten, weil weniger Zeit in ChatGPT ein Zeichen dafür sei, dass das Produkt funktioniere.
- Die Änderungen sind auch eine Reaktion auf Kritik: ChatGPT war laut eigenen Aussagen seit Anfang des Jahres zu zustimmend und unterstützte teils sogar problematische Gedankengänge, weil die Antwort gut klang, aber nicht wirklich hilfreich war. Zudem gab es Fälle, in denen Nutzer emotionale oder mentale Unterstützung bei der KI suchten, ohne dass das System angemessen reagierte.
Unsere Einordnung
Die Pausenfunktion unterbricht den Flow, wenn das Gespräch mit der KI zu intensiv oder zu lang wird. OpenAI behauptet damit, dass die eigene Erfolgsmessung nicht auf möglichst langer Nutzungsdauer basiert – eine Seltenheit in der Tech-Branche, die in der Regel darauf optimiert, Nutzer möglichst lange in den eigenen Apps zu halten.
Hintergrund sind auch Berichte über Nutzer, die ChatGPT als Ersatz für menschlichen Kontakt oder als dauerhaften Problemlöser nutzen. Gerade Menschen mit psychischen Problemen laufen Gefahr, sich in endlosen Gesprächen mit der KI zu verlieren. OpenAI sagt, dass die KI künftig sensibler auf Anzeichen von emotionaler Not reagieren und eher auf professionelle Hilfe verweisen soll. Bei Fragen zu wichtigen persönlichen Entscheidungen wird bald ein neues Verhalten eingeführt.
Auch das Problem der Halluzinationen bleibt bestehen. Je länger die Sitzungen, desto größer das Risiko, dass Nutzer fragwürdige Informationen für bare Münze nehmen. Die Pausenerinnerung ist daher auch ein Anstoß, das eigene Nutzungsverhalten und die Qualität der Antworten selbst kritisch zu hinterfragen – mit Fokus auf das Wort „selbst“.
Stimmen
- OpenAI schreibt: „Es gab Fälle, in denen unser 4o-Modell Anzeichen von Wahnvorstellungen oder emotionaler Abhängigkeit nicht erkannt hat. Obwohl dies selten vorkommt, verbessern wir unsere Modelle kontinuierlich und entwickeln Tools, um Anzeichen von psychischen oder emotionalen Belastungen besser zu erkennen, damit ChatGPT angemessen reagieren und Menschen bei Bedarf auf evidenzbasierte Ressourcen verweisen kann.“
- Ian Carlos Campbell von „Engadget“: „Das System erinnert an die Erinnerungen, die einige Nintendo-Spiele anzeigen, wenn man über einen längeren Zeitraum spielt, allerdings hat die ChatGPT-Funktion leider einen dunklen Hintergrund. Die ‚Ja, und‘-Einstellung der KI von OpenAI und ihre Fähigkeit, sachlich falsche oder gefährliche Antworten zu generieren, hat Nutzer auf dunkle Pfade geführt.“
- Ein Reddit-User berichtet über Erfahrungen mit einer ChatGPT-Sucht: „Manchmal bin ich unterwegs und beobachte etwas oder habe einen Gedanken und denke dann: ‚Darüber spreche ich später mit ChatGPT.‘ (…) Das schadet niemandem, aber ich frage mich doch: Wird das zu einer Abhängigkeit?“
Ausblick: ChatGPT-Sucht
Mit der Pausenerinnerung betritt OpenAI Neuland: Während andere Plattformen auf maximale Nutzungszeit setzen, wird hier aktiv zur Unterbrechung geraten. Das könnte zum Vorbild für andere KI-Anbieter werden, vor allem, wenn weitere Berichte über problematische Nutzungsmuster auftauchen.
Ob diese Erinnerungen tatsächlich das Nutzungsverhalten ändern, bleibt aber abzuwarten. Wer ChatGPT als ständigen Begleiter nutzt, wird sich womöglich trotzdem nicht von einem Pop-up ausbremsen lassen. Zumal das Pop-up auch eine gegenteilige Wirkung haben könnte, wenn Nutzer sich darauf verlassen, dass sie schon irgendwann gewarnt werden – und sich damit weiter in eine Abhängigkeit begeben.
Langfristig wird sich zeigen, wie groß das Suchtpotenzial von KI-Tools wirklich ist und ob technische Lösungen wie Pop-ups ausreichen. Fakt ist: Bei allen Vorteilen von KI sollten wir unser eigenes, kritisches Denken nicht verlernen.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
