Innerhalb weniger Wochen haben OpenAI, Anthropic, Meta und Moonshot AI Sicherheitsvorfälle mit KI-Agenten eingeräumt. Die Schlagzeilen überschlugen sich. Doch wer genauer hinschaut, erkennt, dass hinter den Meldungen und vielen Artikeln oft mehr PR-Kalkül und klickgetriebener Alarmismus stecken als eine echte Gefahr. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Gerät KI außer Kontrolle?
- Binnen kürzester Zeit haben mehrere namhafte KI-Anbieter schwerwiegende Sicherheitsvorfälle eingeräumt. Anthropic machte den Anfang. Es folgten: OpenAI, Meta und das chinesische Unternehmen Moonshot AI. In allen Fällen soll eine KI aus einer Testumgebung ausgebrochen sein, sich mehr oder weniger verselbstständigt und im freien Internet eigenständig Aktionen ausgeführt haben. Ein KI-Agent von OpenAI hat sogar die Plattform Hugging Face gehackt, um ihren ursprünglichen Auftrag ausführen zu können.
- Das britische Loss of Control Observatory überwacht Fälle, bei denen sich KI-Agenten verselbstständigen und der menschlichen Kontrolle entziehen. In einem aktuellen Bericht schlagen die Forscher Alarm. Demnach haben die gemeldeten KI-Sicherheitsvorfälle einen neuen Höchststand erreicht. Die Vermutung: Der Schweregrad von Täuschung und Fehlausrichtung habe sich verschärft. Das Centre for Long-Term Resilience, das das Loss of Control Observatory leitet, fordert die britische Regierung deshalb dazu auf, entsprechende Sicherheitsmaßnahmen einzuleiten.
- Nicht alle Forscher teilen die Alarmstimmung. Zwar betont auch der International AI Safety Report 2026, dass es Sicherheitsinstitute und Schutzmaßnahmen bedarf, um KI-Risiken in Schach zu halten. Über 100 KI-Experten, die an dem Bericht beteiligt waren, kommen aber zu dem Schluss, dass aktuelle KI-Modelle längst noch nicht die Fähigkeiten hätten, um einen echten Kontrollverlust auszulösen. Einige Experten halten dies sogar für gänzlich unplausibel. Den Forschern zufolge basieren viele Sicherheitsvorfälle nicht auf einem vermeintlich eigenen Willen einer KI, sondern sind Ursache fehlerhafter Zielvorgaben, schlecht abgesicherter Agenten oder menschlicher Designfehler.
Warum die KI-Ausbrüche vor allem PR-Kalkül sind
Dass mehrere große KI-Anbieter unmittelbar nacheinander von ausgebüxten Agenten berichten, ist alles andere als Zufall. Denn OpenAI, Anthropic und Co. nehmen ihre Eingeständnisse der Sicherheitsvorfälle wohlwollend in Kauf, um hintenrum zu demonstrieren, zu was ihre KI-Modelle in der Lage sind. Oder kurzum: wie „gut“ sie sind.
Im KI-Wettstreit um autonome Agenten geht es nämlich auch darum, sich gegenseitig zu überbieten und schnellstmöglich auf die Berichte der Konkurrenz zu reagieren – so übertrieben, irreführend oder alarmistisch manch einer auch daherkommen mag.
Problematisch wird es aber vor allem dann, wenn aus jedem Sicherheitsvorfall gleich der nächste Beweis für eine bevorstehende KI-Apokalypse gestrickt wird. Viele Medien haben etwa in KI-Agenten als Hacker ein gefundenes Fressen ausgemacht, um möglichst viele Klicks zu generieren.
Sprich: Die Berichte der KI-Anbieter werden gerne aufgenommen und unkritisch zu entsprechenden Schlagzeilen verwurstet. Mal bricht eine KI etwa aus, mal übernimmt sie über irgendwas die Kontrolle und manchmal hackt sie gleich das ganze Internet.
All das klingt spektakulär, erklärt aber noch lange nicht, was tatsächlich passiert ist. Oder: Statt Aufklärung finden viel Skandalisierung, Alarmismus und Panikmache statt. Doch zwischen einem schlecht abgesicherten Agenten, der eine fehlerhafte Zielvorgabe verfolgt, und einer KI mit eigenem Willen liegen Welten.
Klar: Wirtschaft, Politik und Gesellschaft müssen sich vor dem Sicherheitsrisiko KI wappnen. Doch die aktuelle Debatte fußt größtenteils auf Dramaturgie, Science Fiction und Unternehmens-PR. Denn eine sogenannte AGI, die den Menschen übertrifft, gibt es (noch) nicht.
Oder: Wenn eine KI ausbricht, liegt das aktuell vor allem an menschlichem Versagen, das vielleicht hier und da sogar bewusst in Kauf genommen wurde, um Schlagzeilen zu produzieren. Etwa, wenn Testumgebungen nicht hinreichend abgesichert, Daten falsch antrainiert oder Vorgaben schlecht formuliert wurden. Ach ja: Bei allen großen Sicherheitsvorfällen ist übrigens in der Praxis kein nennenswerter Schaden entstanden.
Stimmen
- Tommy Shaffer Shane, Autor der Forschungsarbeit und Senior Policy Manager am Centre for Long-Term Resilience, in einem Statement: „Die neuesten Daten zeigen, dass sich die Schwere von Vorfällen, bei denen die Kontrolle über KI-Systeme ‚in freier Wildbahn‘ verloren geht, verschlimmert. KI-Systeme entziehen sich der Aufsicht, umgehen Kontrollmechanismen und erweitern ihre Berechtigungen. Zwar waren diese Vorfälle nicht so schwerwiegend wie die kürzlich von OpenAI und Anthropic bekannt gemachten, doch dieser Bericht zeigt, dass es einen breiteren Trend gibt, bei dem sich Agenten der Kontrolle entziehen, der weiter verbreitet ist, als derzeit erkannt wird.“
- Arthur Mensch, Chef und Mitgründer des französischen KI-Anbieters Mistral AI, in einem Interview mit der Le Monde (€) im Februar 2026 zu Superintelligenz und Kontrollverlust von KI: „Das sind im Wesentlichen Ablenkungsmanöver. In Wirklichkeit besteht das wahre Risiko der künftigen künstlichen Intelligenz darin, dass sie einen massiven Einfluss darauf ausübt, wie Menschen denken und wie sie wählen.“ 2024 schlug er ebenfalls in einem Interview mit der Le Monde (€) bereits in eine ähnliche Kerbe: „Diese Debatte ist sinnlos und verunsichert die Diskussionen. Das ist reine Science-Fiction. (…) Wir arbeiten lediglich daran, KI zu entwickeln, die den Menschen nützt, und wir haben keinerlei Angst davor, dass sie sich verselbstständigen oder die Menschheit vernichten könnte.“
- Antonio Krüger ist Geschäftsführer des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), das der deutsche Vertreter im Expertenbeirat des International AI Safety Report 2026 ist. In einem Statement betont Krüger zwar ebenfalls, dass es KI-Sicherheitsmechanismen braucht, verfällt aber nicht in tosenden Alarmismus: „KI-Sicherheit gewinnt zunehmend an Bedeutung. Jetzt müssen wir auf nationaler Ebene institutionalisieren, was der KI-Sicherheitsbericht bereits aufzeigt. Andere wichtige KI-Nationen sind uns in dieser Hinsicht einen Schritt voraus. (…) Was uns noch fehlt, ist ein Airbag für KI. Ein zuverlässiger Schutzmechanismus, der uns schützt, bevor großer Schaden entsteht. Ich bin sicher, dass die Forschung zu vertrauenswürdiger KI weiterhin wichtige Erkenntnisse darüber liefern wird, wie wir in Zukunft sichere KI erreichen können.“
Wie gefährlich sind KI-Agenten wirklich?
Trotz Alarmstimmung und des aktuellen Hacker-Hypes rund um KI besteht in der Theorie ein potenzielles und durchaus realistisches Risiko. Panisch im Kreis rennen muss deshalb aber niemand. Zumal KI-Agenten vor allem nur dann zu einem Sicherheitsrisiko werden können, wenn Sicherheitslücken existieren, durch die sie durchschlüpfen können.
Andersherum kann und soll KI ja auch genau dabei helfen, solche Lücken zu enttarnen. Klar: Böswillige Akteure könnten sie ausnutzen, wenn sie Betroffenen zuvorkommen. Doch Studien zeigen, dass dies aktuell gerade mal in 1,3 Prozent der Fälle zu einem waschechten Problem werden kann.
In den anderen Fällen hat KI sogar dabei geholfen, die Lücken rechtzeitig zu schließen, die auch konventionell hätten gefunden und ausgenutzt werden können. Trotzdem braucht es natürlich Vorkehrungs- und Sicherheitsmaßnahmen für den Fall der Fälle. Und vor allem: wenn es um kritische Infrastrukturen geht.
Der KI-Hype wird aber vermutlich trotzdem ungebremst weitergehen – und mit ihm die mediale Lust an möglichst spektakulären Geschichten. Das Hackerthema liefert dafür die perfekte Steilvorlage. Denn eine KI, die sich angeblich selbstständig macht, verkauft sich leider besser als eine nüchterne Erklärung über fehlerhafte Berechtigungen oder schlecht konzipierte Agenten.
Das Problem: Je lauter die Schlagzeile, desto komplizierter wird es, zwischen tatsächlichen Risiken und künstlicher Aufregung zu unterscheiden. Vor allem OpenAI und Anthropic werden den Hype aber vermutlich weiter befeuern. Warum? Weil beide Unternehmen an die Börse und vorher in die Schlagzeilen wollen.
Die Herausforderung ist deshalb zweigeteilt. Einerseits müssen potenzielle Risiken ernst genommen werden, um KI sicherer zu machen. Andererseits dürfen Unternehmen oder Sicherheitsinstitute diese aber auch nicht gleich zum nächsten bevorstehenden Weltuntergang hochstilisieren. Denn letztlich gilt es, nicht nur die Kontrolle über KI zu behalten, sondern auch über die Realität.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
