Der Einfluss von KI auf die Wissenschaft wächst rasant – mit negativen Konsequenzen. Denn: Die Anzahl an fehlerhaften Zitaten, erfundenen Studien und gefälschten Artikeln steigt massiv. Die bisherigen Kontrollmaßnahmen von Magazinen und Universitäten genügen nicht mehr. Ein neues Geschäftsmodell muss her.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Hintergrund: KI in der Wissenschaft
- Diomidis Spinellis, Professor für Software Engineering an der University of Economics and Business in Athen, befasst sich gezielt mit gefälschten KI-Zitaten. Einer seiner eigenen Texte, der im Fachjournal BMC erschienen ist, wurde 53 Mal zitiert. 48 dieser Zitate waren in wissenschaftlichen Arbeiten, die komplett von KI erstellt worden sind. In den verbleibenden fünf Fällen war KI zumindest teilweise im Einsatz. Seine Erkenntnisse hat er in einer eigenen Studie veröffentlicht.
- Der US-amerikanische Wissenschaftsjournalist Carl Zimmer hat sich in einem ausführlichen Artikel in der New York Times eingehend mit den Auswirkungen von Künstlicher Intelligenz auf Forschung und Wissenschaft befasst. Demnach verdoppelt sich jedes Jahr die Anzahl der Fake-KI-Studien – Tendenz steigend.
- Durch Künstliche Intelligenz entsteht im Bereich der Wissenschaft ein Schwarzmarkt an gefälschten Studien und Abschlussarbeiten. Eine aktuelle Studie an der Northwestern University hat nachgewiesen, dass der systematische Betrug in der Wissenschaft schnell ansteigt. Mittlerweile gibt es sogar mehr KI-Studien als echte. Das Vertrauen in die Wissenschaft leidet deshalb massiv.
Einordnung: KI stellt Forscher vor neue Herausforderungen
KI stellt die Wissenschaft vor eine große Herausforderung. Das Problem: Je mehr Fake-Zitate und gefälschte Studien erscheinen und veröffentlicht werden, desto mehr ist das Grundkonstrukt der Wissenschaft in Gefahr.
Bislang haben Forscher neue Erkenntnisse gewonnen und damit den gesellschaftlichen und ökonomischen Fortschritt ermöglicht. Neues Wissen – zum Beispiel im Bereich der Genetik – hat dazu beigetragen, dass gefährliche Krankheiten erfolgreich bekämpft werden konnten und wir Menschen länger leben.
Im Gegenzug für diese wissenschaftliche Hilfe wurden Forscher von Staaten, Bundesländern und Stiftungen mit großzügigen finanziellen Mitteln und ausreichend Zeit ausgestattet, um die Menschheit voranzubringen.
Diese gewachsene Partnerschaft wird durch die neue Geliebte – die Künstliche Intelligenz – nachhaltig gefährdet, weil es immer schwerer wird, echte Erkenntnisse von KI-Halluzinationen zu unterscheiden.
Stimmen
- Luis A. Nunes Amaral, Data Scientist an der Northwestern University, sagt in einem Interview mit der New York Times mit Blick auf die Flut an gefälschten KI-Studien: „Wenn dieser Trend nicht gestoppt wird, wird die Wissenschaft zerstört. Wissenschaft beruht darauf, darauf zu vertrauen, was andere gesagt haben, sodass nicht alles wiederholt werden muss.“
- Liudmila Zavolokina, Assistenzprofessorin an der Universität Lausanne, berichtet in einem LinkedIn-Post wie sie zufällig von einem erfundenen KI-Zitat erfahren hat, das angeblich von ihr stammt: „Ich sehe unzählige Risiken, die mit diesem Vorfall in Verbindung stehen: Risiken von Fehlinformationen, Vertrauensverlust in die akademische Forschung, Kollateralschäden für Wissenschaftsjournale, verzerrte Kennzahlen für Erwähnungen und Veröffentlichungen von Autoren, Reputationsschäden für falsch zitierte Wissenschaftler und rechtliche Risiken.“
- Will Kitchen, Lehrbeauftragter an der University of Chichester und Prüfer an der University of Wolverhampten, unterstreicht die Gefahren vom Einsatz von KI in der Wissenschaft: „Ich habe einen Studenten gebeten, mittels KI mein letztes Buch zusammenzufassen und die Zusammenfassung war exakt das Gegenteil meiner Argumentation. Es wirkt so, als hätte die KI nur den Titel gelesen und danach geraten, was ich geschrieben habe.“
Ausblick: KI könnte Wissenschaft zum Verhängnis werden
Die ersten Schritte im Bereich der Künstlichen Intelligenz wurden als gigantische Fortschritte und große Errungenschaften gefeiert. Jetzt zeigt sich – wie in einem guten Weltuntergangsfilm – dass das wissenschaftliche Wunderkind seinen Schöpfern zum Verhängnis werden könnte.
Damit es nicht soweit kommt, müssen Forscher und Journalisten damit beginnen, die bisherigen Kontrollmaßnahmen zu überprüfen und neue Maßstäbe für Wissenschaftlichkeit und Wahrheit zu erschaffen. Schon im September 2024 musste das renommierte Wissensmagazin Springer Nature 200 versehentlich erschienene KI-Veröffentlichungen zurückziehen.
Wenn es der Wissenschaft nicht gelingt, die eigene Faulheit zu überwinden und Arbeiten wieder ernsthaft zu kontrollieren, werden nicht nur Studenten von Künstlicher Intelligenz profitieren. Nein, Künstliche Intelligenz wird dann früher oder später selbst zum Professor, der erfundenes Wissen aus erfundenen Studien an Wissbegierige weitergibt.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
