ChatGPT, Gemini und Co. beantworten Nachrichtenfragen direkt. Doch für Nutzer ist vollkommen unklar, nach welchen Kriterien KI-Modelle ihre Quellen auswählen. Eine neue Studie offenbart ein erschreckendes Bild. Denn: Sprachmodelle spucken als Quelle nicht nur wenige etablierte Medien aus, sondern platzieren auch unkommentiert Desinformationsseiten neben seriösen Quellen. Für die öffentliche Meinungsbildung ist das eine große Gefahr. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Quellenauswahl von KI-Chatbots kaum nachvollziehbar
- Immer mehr Menschen lassen sich Nachrichten von ChatGPT und Co. zusammenfassen, anstatt originale Artikel zu lesen. Zahlreiche Medien spüren zunehmend die daraus resultierenden wirtschaftlichen Folgen. Schätzungen der Analyseplattform Sistrix zufolge gehen deutschen Websites durch solche sogenannten Zero-Click-Suchen mittlerweile 265 Millionen Klicks pro Monat verloren – und damit indirekt auch Werbeeinnahmen.
- Laut einer Analyse der Denkfabrik Agora Digital sind das eigentliche Problem nicht nur die Fehler, die KI-Modelle in ihren Antworten produzieren, sondern ihre Rolle als neue Gatekeeper. Will heißen: Chatbots treffen eine Vorauswahl von Quellen – nach Kriterien, die für Nutzer meist nicht nachvollziehbar sind. Die Studie hat 675 Nachrichtenanfragen an ChatGPT, Gemini, Claude, Perplexity und Google AI Overview analysiert und knapp 5.000 Quellenverweise ausgewertet.
- Das Ergebnis: Die Forscher stießen zwar auf 554 unterschiedliche Websites, die als Quelle auftauchten. Die meisten Antworten der untersuchten KI-Modelle konzentrierten sich aber auf wenige etablierte Medien. Teilweise wurden laut Analyse auch Domains, die Desinformation verbreiten, neben seriösen Quellen aufgeführt, ohne dass Nutzer darauf hingewiesen wurden. Welche Quellen erscheinen, würde vom jeweiligen KI-Modell, vom Thema und sogar von der Formulierung der Anfrage abhängen.
KI als neuer Torwächter der Nachrichtenwelt?
Die Ergebnisse von Agora Digital offenbaren, dass KI längst mehr als nur ein Werkzeug zur Informationssuche ist. Sie entwickelt sich zu einem Torwächter öffentlicher Debatten. Denn wer Antworten direkt serviert bekommt, klickt seltener auf Originalquellen.
Das Problem: Viele Nutzer verlassen sich nicht nur auf KI-Antworten, die ohnehin schon fehleranfällig sein können, sondern auch auf einen eingeschränkten Quellen- und damit auch Informationskreis. Parallel wandert die Macht der Aufmerksamkeit zunehmend von Redaktionen und Suchmaschinen hin zu den Betreibern großer Sprachmodelle.
Fernab davon, dass jede zehnte KI-Antwort falsch ist oder Fehler enthält, entsteht dadurch eine weitere Gefahr für die öffentliche Meinungsbildung. Denn Nutzer können kaum nachvollziehen, wie KI-Modelle den digitalen Nachrichtentisch decken – und auch nicht, welche Zutaten überhaupt in Erwägung gezogen werden.
Besonders problematisch sind zudem Kooperationen zwischen KI-Anbietern und Verlagen, wie zwischen dem Axel Springer Verlag und OpenAI. Nicht unbedingt, weil ChatGPT per se keine Bild-Zeitung als Quelle heranziehen sollte, sondern weil es dadurch inflationär geschieht.
Das macht KI-Antworten nicht nur relativ einseitig, sondern untergräbt aufgrund mangelnder Transparenz auch die Mündigkeit vieler Nutzer – von russischen Propagandanetzwerken, die als Quelle zitiert werden, ganz zu schweigen.
Stimmen
- Vivien Benert, Hauptautorin der Studie von Agora Digital, fordert gegenüber dem Spiegel: „Transparenz und Offenlegung der Kriterien zur Quellenauswahl im laufenden Betrieb, eine überprüfbare Zuordnung von Aussagen und Quellen sowie Offenlegung bestehender Kooperationen zwischen KI-Anbietern und Medienhäusern für Nutzende. Ohne Einblick in die Quellenauswahl lasse sich weder Haftung noch Vielfalt noch faire Vergütung durchsetzen. (…) Kein Anbieter dokumentiert transparent, wie die Quellenauswahl zur Beantwortung von Prompts funktioniert.“
- Mika Beuster, Bundesvorsitzender des Deutschen Journalisten-Verbands (DJV), in einem Statement: „Der Qualitätsjournalismus lebt von menschlicher Recherche. Generative KI, die nur wiederkäut, was bereits gedacht und gesagt wurde, kann keine neuen Perspektiven schaffen. Ich sehe die Gefahr, dass Leser und Werbekunden der Verlage nicht bereit sein werden, Geld für Roboterjournalismus auszugeben. (…) Da liegt der Verdacht nahe, dass KI nicht zur Unterstützung, sondern zum Ersatz journalistischer Arbeit genutzt wird. Das darf kein Vorbild für andere Medienhäuser werden. Wo es etwa um die Auswertung riesiger Datenmengen geht, ist KI für Redaktionen eine willkommene Hilfe.“
- Liz Reid, Leiterin von Google Search, verteidigt die plattformeigenen KI-Funktionen: „Wir leiten weiterhin täglich Milliarden von Klicks an Websites weiter und sind davon überzeugt, dass der Werteaustausch zwischen der Suche und dem Web nach wie vor stark ist. (…) Wir haben unsere Modelle so trainiert, dass sie das Web tiefgreifend verstehen und wissen, wann und wie sie auf die relevantesten Seiten verweisen sollen. Und unsere KI-Antworten enthalten gut sichtbare Links, klare Quellenangaben und Inline-Quellenverweise.“
Was sich jetzt ändern muss
Die Untersuchung macht nicht nur deutlich, wie unterschiedlich die Quellenprofile der einzelnen KI-Modelle mittlerweile sind, sondern auch wie wenig Nutzer nachvollziehen können, warum bestimmte Quellen auftauchen und andere nicht. Forderungen nach mehr Transparenz werden deshalb zu Recht immer lauter.
Denn: Die Auswahl der Quellen muss überprüfbar sein, damit Inhalte ihren Ursprüngen zugeordnet werden können und der Umgang mit journalistischen Inhalten sowie Desinformation verbindlich geregelt wird. Auf Nutzerebene zeigt das einmal mehr auf, dass KI-Antworten vielleicht einen Einstieg in ein Thema liefern, aber kein Ersatz für die Originalquellen sind.
Oder: Wer sich bei politischen oder gesellschaftlichen Streitfragen ausschließlich auf KI-Zusammenfassungen verlässt, bekommt am Ende nicht die ganze Debatte serviert, sondern nur einen Ausschnitt, den ein Algorithmus für relevant hält. Wobei es traurig genug ist, dass viele Menschen ohnehin schon keine unterschiedlichen Quellen oder Standpunkte mehr miteinander vergleichen, sondern vor allem nach Bestätigungen der eigenen Meinung suchen.
Und als würde das unserer Debattenkultur, der öffentlichen Meinung und auch der Bildung nicht schon genug schaden, verschärft KI diese Einfältigkeit auch noch. Sprich: Aus Informationsvielfalt wird zunehmend Informationsbequemlichkeit – und zwar mit gravierenden Nachteilen wie einem Verlust von Empathie, Mündigkeit und Diskursfähigkeit.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
