Eine erfundene Krankheit, die auf einen Scherz aus dem Jahr 2017 zurückgeht, hat es in die Ergebnisse der KI-Suche von Google geschafft. Wir erklären dir, was dahinter steckt.
Erst vor wenigen Tagen hat es die Google-KI Gemini in die Schlagzeilen geschafft, weil sie einen US-Studenten mit einer Drohbotschaft konfrontierte. Der KI-Chatbot hatte den Studenten und seine Schwester mit der Aussage „Bitte stirb. Bitte.“ überrascht.
Doch das ist nicht der einzige Fall von fragwürdigen Ergebnissen, die die KI-Suche von Google ausgibt. Denn wie ein Bluesky-Nutzer schreibt, hat es auch eine von ihm erfundene Krankheit in die Suchergebnisse geschafft.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Sonos Era 100 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Kyloren Syndrome: Erfundene Krankheit in der KI-Suche von Google
Der Bluesky-Nutzer Neuroskeptic hat sich nach eigenen Angaben im Jahr 2017 die Krankheit „Kyloren Syndrome“ ausgedacht. Er habe die fiktive Erkrankung „als Teil einer verdeckten Operation erfunden“, schreibt er auf der Plattform.
Das „Kyloren Syndrom“ diente ihm als Grundlage für einen wissenschaftlichen Artikel. Sein Ziel war es, diesen Artikel in einer Fachzeitschrift zu veröffentlichen.
Damit wollte er beweisen, „dass man jeden Unsinn in raffgierigen Fachzeitschriften veröffentlichen kann“. Das ist ihm offenbar geglückt, denn seine fiktive Krankheit hat es sogar bis in die Ergebnisse der KI-Suche von Google geschafft.
Wieso erkennt KI den Fake nicht?
Heute hätte er sich den Scherz „zweimal überlegt, wenn ich gewusst hätte, dass ich damit KI-Datenbanken kontaminieren könnte“, so Bluesky-Nutzer Neuroskeptic in seinem Thread. Im Jahr 2017 sei ihm diese Vorgehensweise jedoch als „eine lustige Art“ erschienen, um auf ein wissenschaftliches Problem aufmerksam zu machen.
Laut der KI-Suche von Google ist das „Kyloren Syndrome“ zu einer angeblich realen Krankheit geworden. Diese werde durch Mutationen in der mitochondrialen DNA verursacht und von Müttern an ihre Kinder vererbt
Während die KI-Suche von Google die Krankheit als Fakt darstellt, führt die „normale“ Google-Suche zu einem anderen Ergebnis. Denn dort ist ein PDF-Dokument zu finden, das klar aufzeigt, dass es es sich um ein gefälschtes wissenschaftliches Paper handelt.
In den „AI Overviews“ hat die Google-KI Gemini das jedoch ignoriert, obwohl das Paper als Quelle angegeben ist.
Wie geht die KI-Suche von Google mit Satire um?
Gerade in Gesundheitsfragen können falsche Antworten von KI-Chatbots gefährliche Auswirkungen haben. Auch dafür stand Google in der Vergangenheit bereits in der Kritik.
Im Juli 2024 hatten Recherchen gezeigt, dass „die Google-KI falsche, möglicherweise tödliche Informationen zu verschiedenen Gesundheitsfragen“ als Antworten ausgibt, wie CBS News schreibt. Dabei hatte der KI-Chatbot empfohlen, „mindestens einen kleinen Stein pro Tag“ zu essen, damit der Körper alle wichtigen Vitamine und Mineralien erhält.
Seither habe Google nach eigenen Angaben die Aufnahme von satirischen und humoristischen Websites in seine Gesundheitsübersichten eingeschränkt. Außerdem wurden virale Suchergebnisse entfernt. Doch trotz dieser Maßnahmen hat es das „Kyloren Syndrome“ als vermeintlich echte Krankheit in die „AI Overview“ geschafft.
Auch interessant:
