Google hat eine KI-Übersicht in seine Suche integriert. In den Suchergebnissen erscheinen KI-generierte Kurzzusammenfassungen zu bestimmten Inhalten. Diese enthalten aber immer wieder fehlerhafte Informationen – bei Gesundheitsfragen kann das schwerwiegende Folgen haben. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Übersicht mit KI: Google verbreitet Falschinformationen
- Übersicht mit KI ist eine Suchfunktion von Google, die KI-generierte Zusammenfassungen in den Suchergebnissen anzeigt. Die Künstliche Intelligenz erstellt bei bestimmten Suchanfragen automatisch kurze Zusammenfassungen mit entsprechenden Informationen. Diese werden oberhalb der herkömmlichen Suchergebnissen angezeigt. Ziel ist es, Nutzern schneller Informationen bereitzustellen und Rechercheaufwand zu ersparen.
- Ob Höllenhunde, Spaghetti mit Benzin oder Pizza mit Klebstoff: Die Google-KI besticht regelmäßig mit unsinnigen bis komplett falschen Antworten. In vielen Fällen mag das harmlos sein. Doch wenn es um Gesundheit oder Recht geht, können KI-Zusammenfassungen verheerende Folgen haben.
- In einem besonders brisanten Fall riet Google Menschen mit Bauchspeicheldrüsenkrebs fälschlicherweise, fettreiche Lebensmittel zu vermeiden. Experten empfehlen aber das Gegenteil. Die Google-Empfehlung könne sogar das Risiko erhöhen, dass Patienten sterben. Auch bei Suchanfragen zu psychischen Erkrankungen liefert AI Overviews problematische Antworten.
Unsere Einordnung
Ähnlich wie bei ChatGPT oder KI, sollte man sich nicht blind auf eine Künstliche Intelligenz verlassen. Denn immer wieder werden Inhalte verkürzt oder inhaltliche Fehler so formuliert, dass sie beim oberflächlichen Lesen überzeugend erscheinen.
Heißt konkret: Was Google mit seiner KI liefert, ist keine neutrale Abkürzung zur Wahrheit, sondern eine neue Form algorithmischer Autorität. Die Zusammenfassungen wirken zwar präzise, basieren aber auf Mustern und Wahrscheinlichkeiten. Doch wer Antworten liefert, ohne Verantwortung zu tragen, verkauft Ungewissheit als Gewissheit.
In der Logik der Suchmaschine entscheidet nämlich oftmals nicht die beste Quelle, sondern die prominenteste Darstellung. Dass KI dabei dominiert, ist keine technische Spielerei, sondern eine Verschiebung im Internet – und zwar nicht nur zum Positiven.
Stimmen
- Athena Lamnisos, Chefin der Wohltätigkeitsorganisation Eve Appeal für gynäkologische Krebserkrankungen: „Selbst bei identisch formulierten Fragen ist es praktisch unmöglich, von der KI dieselbe Antwort zu erhalten, was zu dringenden Bedenken hinsichtlich der Konsistenz und Genauigkeit der bereitgestellten Informationen oder der Möglichkeit für jemanden, einen Ratschlag erneut abzurufen, führt.“
- Google teilte gegenüber CNBC mit, dass es sich bei vielen der Beispiele um ungewöhnliche Anfragen handle: „Die überwiegende Mehrheit der KI-Übersichten bietet qualitativ hochwertige Informationen mit Links zu weiterführenden Informationen im Internet.“
- Stephanie Parker, Leiterin der Digitalabteilung der Sterbebegleitungsorganisation Marie Curie, weist auf den emotionalen Hintergrund vieler Suchanfragen zum Thema Gesundheit hin: „Menschen wenden sich in Momenten der Sorge an das Internet – ungenaue oder entkontextualisierte Informationen können ihre Gesundheit ernsthaft gefährden.“
Warnhinweise und menschliche Überprüfung
Es ist absehbar, dass die Politik stärkere Qualitäts- und Transparenzstandards für KI-gestützte Informationsdienste einfordern wird – vor allem in Bereichen wie Gesundheit oder Recht. Staaten wie die EU haben bereits KI-Gesetzesrahmen in Arbeit, die genau solche Risiken adressieren könnten.
Google und andere Plattformen sollten KI-Zusammenfassungen künftig explizit kennzeichnen, für kritische Themen Warnhinweise einführen oder menschliche Überprüfung verpflichtend machen, bevor sie auf die Allgemeinheit losgelassen werden.
Langfristig könnte diese Debatte dazu beitragen, dass Nutzer wieder bewusster zwischen schneller Antwort und qualifizierter Information unterscheiden – inklusive der Bereitschaft, medizinische oder fachliche Quellen direkt zu konsultieren statt sich auf KI-Kurzantworten zu verlassen.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
