Seit dem Release von ChatGPT ist das Thema KI schier allgegenwärtig. Doch das bisherige Erfolgskonzept von Künstlicher Intelligenz könnte auch ihr Untergang sein. Darauf deuten zumindest aktuelle Forschungsergebnisse hin, die einen Modellkollaps prophezeien.
Das Interesse an Künstlicher Intelligenz hat mit dem Release von ChatGPT deutlich zugenommen. Das zeigen auch die Suchanfragen bei Google, die seit Ende 2022 massiv angestiegen sind. Aktuelle Forschungsergebnisse deuten jedoch darauf hin, dass die bisherige Basis des Erfolgs von KI gleichzeitig ihr Untergang sein könnte.
Modellkollaps: KI lernt von KI – und wird immer schlechter
Forscher der Universitäten Cambridge und der Universität Oxford haben untersucht, was passiert, wenn KI-Tools Inhalte abfragen, die von einer anderen KI stammen. Das Ergebnis: Der Studie zufolge, die im Wissenschaftsmagazin Nature veröffentlicht wurde, wird Künstliche Intelligenz immer schlechter, wenn sie ausschließlich auf KI-generierte Inhalte zurückgreift.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück AirPods 4 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Demnach sank die Qualität der Inhalte im Rahmen eines Tests mit zunehmenden Aufforderungen. Bereits ab dem fünften Versuch hätte ein KI-Modell, das auf die Daten einer anderen KI zurückgriff, immer schlechtere Antworten ausgespuckt. Bei der neunten aufeinanderfolgenden Anfrage sei nur noch unsinniger Einheitsbrei herausgekommen.
Die Forscher bezeichnen diesen Vorgang als „Modellkollaps“, der durch eine zyklische Überdosis an Inhalten entstehen könne, bis das Ergebnis einer wertlosen Verzerrung der Realität gleichkommt. Die Ergebnisse sind insofern alarmierend, da immer mehr KI-generierte Inhalte im Netz kursieren. Laut einer Studie von Forschern des Amazon Web Service stammen etwa über 50 Prozent aller Übersetzungen im Internet von KI-Modellen.
Sollte diese Entwicklung anhalten und das KI-Training nicht grundlegend umgekrempelt werden, ist es den Forscher zufolge möglich, dass KI nicht nur sich selbst, sondern auch das gesamte Internet verschlechtert.
Macht Künstliche Intelligenz auch das Internet schlechter?
Eine weitere Studie, die ebenfalls im Wissenschaftsmagazin Nature veröffentlicht wurde, kam zu ähnlichen Ergebnissen. Demnach schloss eine KI, die auf Hunderassen trainiert wurde, mit der Zeit immer mehr eher unbekanntere Rassen aus. Laut den Forschern entwickelte das Modell eine eigene „Use it or lose it“-Methode.
Warum genau KI-Modelle immer mehr den Faden zur Realität verlieren, wenn sie auf andere KI-Inhalte zugreifen, konnten die Wissenschaftler bislang jedoch nicht eindeutig erklären. Um eine gewisse Qualität und Fakten zu gewährleisten sei es deshalb wichtig, dass eine Künstliche Intelligenz regelmäßig auf Inhalte, die von Menschenhand stammen, zurückgreifen kann.
Die Forscher gehen jedoch davon aus, dass der Anteil von KI-Inhalten im Internet in den kommenden Jahren weiter zunehmen wird. Erschwerend käme dabei hinzu, dass es für Menschen immer schwieriger wird, diese eindeutig zu identifizieren. Die Notwendigkeit einer Lösung für dieses Problem sei den Forschern zufolge deshalb enorm.
Alles, was online geschieht, müsse ansonsten über ein unveränderliches System wie eine Blockchain-Datenbank aufgezeichnet werden. Andernfalls drohe nicht nur der Tod der KI und des Internets, sondern auch der Tod der Wahrheit,
Auch interessant:
