Mehrere KI-Anbieter warnen vor ihren eigenen Produkten und fordern eine Entwicklungspause. Klingt verantwortungsvoll? Ist es aber nicht! Denn wer Milliarden in eine Technologie pumpt und dann hintenrum vor vermeintlichen Gefahren warnt, will nicht schützen, sondern schlichtweg in die Schlagzeilen. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Weltuntergang durch KI? Das ist Doom Trolling!
- Von OpenAI über Google bis hin zu Anthropic und einigen chinesischen Firmen: Mittlerweile haben alle großen KI-Anbieter diverse Sicherheitspannen eingeräumt. Immer ging es grob gesagt darum, dass künstliche Agenten aus Testumgebungen ausgebrochen sind und sich Zugang zum freien Internet verschafft haben. Einige haben sogar fremde Unternehmen gehackt, um ihrer ursprünglichen Aufgabe nachzukommen. Den Anbietern zufolge war nichts davon vorgesehen. Die Kontrollmechanismen hatten versagt. Daraufhin haben sich die führenden KI-Unternehmen aus den USA für eine KI-Entwicklungspause ausgesprochen. Ausgangspunkt war ein Essay von Anthropic-Chef Dario Amodei. OpenAI-CEO Sam Altman und xAI-Boss Elon Musk stimmten zu.
- Der International AI Safety Report 2026 stuft ein hypothetisches „Kontrollverlust-Szenario“ als eines der potenziellen Risiken von Künstlicher Intelligenz ein. Sprich: Wenn KI fernab von menschlicher Kontrolle agiert, ohne dass die Chance besteht, die Kontrolle zurückzuerlangen. Dem Bericht zufolge fehlen aktuellen Modellen aber die Fähigkeit, solche Risiken auszulösen. Allerdings würden sich die heutigen KI-Systeme in relevanten Bereichen, wie dem autonomen Betrieb, bereits verbessern. An dem Report waren über 100 internationale KI-Experten beteiligt. Turing-Preisträger Yoshua Bengio hat die Untersuchung geleitet.
- US-Informatikprofessor Cal Newport hat die Kommunikationsstrategie der KI-Anbieter in einem Gastbeitrag für die New York Times als paradox bezeichnet und unter „Doom Trolling“ eingeordnet. Was er meint: Der Begriff beschreibt eine Strategie, bei der Unternehmen oder Personen gezielt mit extremen Untergangsszenarien jonglieren, um Aufmerksamkeit zu generieren oder bestimmte Reaktionen hervorzurufen. Aus Newports Sicht machen die KI-Anbieter das aus zwei Gründen. Entweder, weil sie wirklich daran glauben, dass KI eines Tages die Menschheit auslöschen könnte. Oder, weil sie Untergangsszenarien bewusst säen, um Aufmerksamkeit zu erhaschen – sowohl medial als auch mit Blick auf Investoren.
Warum die KI-Warnungen eine PR-Masche sind
Zigarettenhersteller, die freiwillig das Rauchen kritisieren, oder Ölkonzerne, die vor dem Klimawandel warnen? Undenkbar! Doch bei KI wollen ausgerechnet die Anbieter zu ihrer eigenen Kontrollinstanz werden. Dabei wäre es in nahezu jeder anderen Branche völlig normal, ein Produkt nicht auf den Markt zu bringen, wenn es nicht sicher genug ist. Ausnahmen bestätigen natürlich die Regel. Doch was bei KI abgeht, sprengt jeglichen Rahmen.
Denn: OpenAI, Anthropic und Co. sind alles andere als plötzliche Samariter, die die Menschheit vor einer Technologie schützen wollen, die sie obendrein selbst entwickelt haben. Ihre Warnungen sind Teil einer gigantischen PR-Maschinerie. On top kommt, dass viele Medien als Steigbügelhalter agieren, indem sie mit der Angst vor einer mutmaßlich rebellierenden Super-KI offenbar deutlich mehr Aufmerksamkeit erzeugen als mit einer nüchternen Diskussion über Sicherheitslücken.
All das entbehrt nicht einer gewissen Ironie. Denn wer wirklich Verantwortung übernehmen will, müsste vielleicht einfach mal die Klappe halten und KI-Modelle erst dann veröffentlichen oder anpreisen, wenn auch die Kontrollmechanismen funktionieren. Oder: Welches Unternehmen würde denn freiwillig oder aus Ignoranz Glasscherben in seinen Lebensmitteln zulassen, nur um anschließend davor zu warnen?
Entgegen der aktuellen Panikmache wird kein einziges KI-Modell plötzlich vor deiner Haustür sitzen und dir den Nachbarschaftskrieg erklären. KI-Modelle hängen nämlich an Rechenzentren, der Versorgung mit Strom und einer digitalen Infrastruktur. Und die lassen sich alle abschalten. Die reale Gefahr sind also nicht die KI-Modelle selbst, sondern naive Anbieter, ungeprüfte Sicherheitslücken und schlichtweg nicht verantwortungsvolle Idioten.
Stimmen
- Timnit Gebru, Informatikerin und Expertin für KI-Ethik, vermutet hinter den Warnungen der KI-Anbieter ein Ablenkungsmanöver. In einem Beitrag für MIT Technology Review schreibt sie: „Laut der KI-Branche sollten wir uns mehr Sorgen um einen fiktiven Maschinengott machen als um die Klimakatastrophe, die diese Rechenzentren verschärfen, um das Asthma der Anwohner, um die steigenden Stromrechnungen der Öffentlichkeit, die sie subventioniert, oder um das Wasser, das zu ihrer Kühlung umgeleitet wird.“
- KI-Experte Jacob Coxon ist offenbar anderer Meinung. In einem Beitrag auf X (ehemals Twitter) warnt er: „Ich habe heute bei Anthropic gekündigt. (… ) Keines der beiden Unternehmen handelt verantwortungsbewusst. (… ) Unterschätzt nicht die Leistungsfähigkeit dieser Technologie. Bald wird es übermenschliche Systeme geben, die alles hacken, jeden Bereich über Nacht revolutionieren und echte Macht und Ressourcen an sich reißen können. Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass sie uns alle bis zum Ende dieses Jahrzehnts auslöschen könnte. Das ist kein Marketing-Gag.“
- Antonio Krüger ist Geschäftsführer des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), das der deutsche Vertreter im Expertenbeirat des International AI Safety Report 2026 ist. In einem Statement betont Krüger zwar ebenfalls, dass es KI-Sicherheitsmechanismen braucht, verfällt aber nicht in tosenden Alarmismus: „KI-Sicherheit gewinnt zunehmend an Bedeutung. Jetzt müssen wir auf nationaler Ebene institutionalisieren, was der KI-Sicherheitsbericht bereits aufzeigt. Andere wichtige KI-Nationen sind uns in dieser Hinsicht einen Schritt voraus. (… ) Was uns noch fehlt, ist ein Airbag für KI. Ein zuverlässiger Schutzmechanismus, der uns schützt, bevor großer Schaden entsteht. Ich bin sicher, dass die Forschung zu vertrauenswürdiger KI weiterhin wichtige Erkenntnisse darüber liefern wird, wie wir in Zukunft sichere KI erreichen können.“
So geht es mit der KI-Debatte weiter
Die Panikmache rund um KI wird vermutlich kein jähes Ende finden, denn sie funktioniert für die KI-Anbieter leider wie mediale Schlagzeilen. Ein KI-Unternehmen, das seine Sicherheitsprotokolle verschärft, klingt langweiliger als ein KI-Agent, der aus einer Testumgebung ausbricht und Dinge tut, die er vermeintlich nicht darf.
Indes: OpenAI und Co. werden im Hinterkämmerchen vermutlich eh weiter an ihren Modellen tüfteln – KI-Pause hin oder her. Meine Vermutung: Es wird sich wahrscheinlich nicht viel ändern. Ohnehin entscheidender ist die Frage, ob KI irgendwann theoretisch außer Kontrolle geraten könnte – weil der Mensch als Instanz versagt.
Szenarien, in denen eine KI etwa Nuklearwaffen startet, sind theoretisch zwar denkbar, aber eher unrealistisch. Die deutlich größere Gefahr schlummert derweil in KI-gesteuerter Desinformation, Halluzinationen, Sicherheitslücken oder schlicht einem verantwortungslosen Umgang. Oder: KI ist eben nur so gut oder schlecht wie die Kontrolle, die Menschen über sie ausüben.
Man sollte deshalb aufhören, das Außer-Kontrolle-Gelaber der KI-Anbieter einfach nur nachzuplappern, damit nicht OpenAI und Co. wie bislang den Diskurs steuern. Stattdessen sollten alle mal ein bisschen runterkommen. Denn worum es vielmehr geht, ist weniger Weltuntergangsschwachsinn – sondern mehr Kontrolle, mehr Transparenz und ein kritischer Blick auf diejenigen, die vor KI warnen, damit gleichzeitig aber Geld scheffeln. Oder: Was die großen KI-Anbieter aktuell treiben, ist nicht nur Kalkül, sondern einfach nur krank!
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Unser Zins-Tipp
Eröffne jetzt dein kostenloses Myntro Festgeld und erhalte 3,3 Prozent Zinsen auf dein Geld – und das garantiert für 12 Monate!
Anzeige
Auch interessant:
