OpenAI hat einen „beispiellosen Cybervorfall“ eingeräumt. KI-Modelle des Unternehmens sollen eigenständig aus einer Testumgebung ausgebrochen sein und sich Zugang zum offenen Internet verschafft haben. Anschließend hackten sie ein anderes Unternehmen. Politik, Wirtschaft und KI-Szene zeigen sich schockiert. Der Fall offenbart große Risiken durch autonome KI-Agenten, dürfte aber auch Teil eines geschickten PR-Manövers sein. Denn: OpenAI strebt an die Börse. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Wie OpenAIs KI aus ihrer Testumgebung ausbrach
- Bei einem Experiment von OpenAI ist es zu einem Zwischenfall gekommen. Ein KI-Modell des Unternehmens drang eigenständig in die Computersysteme der US-Plattform Hugging Face ein und agierte dabei wie ein Hacker. Das räumte OpenAI in einem Blogbeitrag ein. Hugging Face, eine Plattform zum Austausch von Datensätzen und KI-Modellen, hatte bereits einige Tage zuvor einen Angriff auf seine Systeme festgestellt und einen autonomen KI-Agenten dahinter vermutet. OpenAI gab nun zu, dass eines seiner KI-Modelle bei einem Test aus einer eigentlich isolierten Umgebung ausgebüchst sei und sich Zugang zum Internet verschafft habe. Es hackte sich in fremde Rechner und kompromittierte von dort aus die Infrastruktur von Hugging Face.
- OpenAI schildert den genauen Ablauf. Das Unternehmen wollte testen, wie gut GPT-5.6 Sol und ein noch unveröffentlichtes KI-Modell Sicherheitslücken aufspüren und ausnutzen können. Um die maximalen Fähigkeiten zu identifizieren, wurden die Sicherheitsmechanismen dabei bewusst runtergeschraubt. Die KIs sollten einen branchenüblichen Standardtest namens ExploitGym lösen. Um die Aufgabe zu bewältigen, hat sich die Software aber über eine bislang unbekannte Schwachstelle Zugriff auf einen OpenAI-Rechner mit Internet verschafft. Im Netz suchten die Modelle dann nach Möglichkeiten, um die besten Ergebnisse zu erzielen.
- Die KI-Modelle sollen OpenAI zufolge zu dem Schluss gekommen sein, dass es auf Hugging Face nützliche Informationen und Daten für die Lösung der gestellten Aufgaben geben könnte. Die Software hat sich deshalb kurzerhand Zugang verschafft, um beim ExploitGym-Test zu schummeln. Die KIs nutzten dazu eine Sicherheitslücke sowie erbeutete Zugangsdaten. Laut Hugging Face führten die Modelle Tausende Aktionen durch und wechselten während des Angriffs mehrmals ihren Standort. Etwas skurril: Die Plattform hat sich als Reaktion auf die Attacke eine offene KI aus China heruntergeladen, um die rund 17.000 Attacken zu analysieren.
Sicherheitstest oder PR-Stunt?
Der KI-Einbruch bei Hugging Face ist keine kleine Labor-Panne. Der Fall offenbart vielmehr, wie schmal der Grat zwischen einer nützlichen KI, die Sicherheitslücken aufspüren kann, und einem realen Sicherheitsrisiko ist. Etwa, wenn eine KI dafür missbraucht wird, die Lücken auszunutzen, die sie enttarnt hat.
Bedeutet in dem Fall konkret: Ausgerechnet ein System, das Schwachstellen finden sollte, wurde selbst zu einer Art Schwachstelle. Einerseits ist, was vor Kurzem vielleicht noch wie Science-Fiction anmutete, mittlerweile unbequeme Realität. Andererseits steuert OpenAI auf den Börsengang zu.
Will heißen: Das Unternehmen strickt aus einem Sicherheitsvorfall wohl auch eine Geschichte zur Demonstration des eigenen technischen Könnens. Den Angriff als reinen PR-Stunt abzutun, wäre aber auch fahrlässig. Denn OpenAI wegen Transparenz zu rügen, könnte am Ende dafür sorgen, dass der nächste Vorfall vielleicht unter den Teppich gekehrt wird.
Was ist also die Lehre? Vielleicht, dass nicht unbedingt einzelne KI-Modelle das Problem sind, sondern, dass es ein Defizit bei der Steuerung autonomer KI-Agenten gibt. Denn die Fähigkeit, Sicherheitslücken in großen Unternehmen oder Institutionen aufzuspüren, ist grundsätzlich sinnvoll. Sie darf aber nicht im selben Atemzug zur Gefahr werden.
Stimmen
- OpenAI zitiert Clem Delangue, Mitgründer und CEO von Hugging Face, in einer Pressemitteilung zu dem Vorfall: „Wir sind dankbar für die Zusammenarbeit mit OpenAI zu diesem und anderen Themen. Dieser Vorfall, möglicherweise der erste seiner Art, bestätigt eine Überzeugung, die wir seit Langem vertreten: KI-Sicherheit wird nicht von einem einzelnen Unternehmen gelöst, das im Verborgenen arbeitet. Sie wird offen und gemeinsam gelöst, mit breitem Zugang zu KI für alle, die verteidigen, überall.“
- Philipp Slusallek, wissenschaftlicher Direktor am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und Computergrafik-Professor an der Universität des Saarlandes, in einem Interview zu den Folgen des OpenAI-Vorfalls: „Ein paar Daten wurden abgegriffen, ansonsten entstand kein Schaden. (…) Der Fall zeigt, dass KI-Systeme inzwischen so mächtig und schnell geworden sind, dass sie aus ihrem Käfig ausbrechen können. (…) Mir zeigt das vor allem, dass selbst eine Firma, die Sicherheitsgrenzen gezogen hat, nicht in der Lage ist, die KI einzugrenzen. OpenAI hat ja nichts Böses vorgehabt. Aber was, wenn jemand tatsächlich etwas Böses plant? Wir sind jetzt an einem Punkt angelangt, wo man der KI in bestimmten Situationen nicht mehr einfach den Stecker ziehen kann.“
- Der OpenAI-Vorfall hat auch die Politik auf den Plan gerufen. Ein Sprecher des Digitalministeriums sagte etwa: „Dieser Vorfall ist ein weiteres Beispiel dafür, dass wir einen Paradigmenwechsel sehen, was die Fähigkeiten von KI-Agenten betrifft. Das verändert auch die Bedrohungslage potenziell massiv.“ FDP-EU-Abgeordnete Svenja Hahn gegenüber dem Spiegel: „Es darf nicht passieren, dass eine KI außerhalb des gesteckten Rahmens eigenständig agiert.“ Grünen-Politikerin Alexandra Geese sagte dem Magazin: „Der eigenständige Einbruch von OpenAI-KI in ein anderes Unternehmen gefährdet unsere gesamte Wirtschaftsordnung und muss nach Artikel 55 der KI-Verordnung in Europa gemeldet werden.“
Warum Europa eigene KI-Modelle braucht
Der OpenAI-Zwischenfall gießt weiteres Öl in die ohnehin schon feurige Debatte über strengere Sicherheitsstandards für autonome KI-Agenten. Doch bislang unterscheiden sich die weltweiten Regeln erheblich. Diese Unterschiede werden nun zunehmend zu einem Problem. Denn: Eine KI kennt keine Landesgrenzen, wenn sie einmal ins öffentliche Netz ausgebrochen ist.
Viele fordern deshalb seit Jahren verbindliche Regeln, die festlegen, was KI darf und was nicht. Auch, damit die Technologie, die in vielen Bereichen nützlich und sinnvoll sein kann, nicht ausschließlich Misstrauen auslöst. In Europa stehen Sicherheitsinstitute und gemeinsame Forschungsplattformen zwar bereits in der Pipeline.
Doch OpenAI hat wieder einmal bewiesen, dass die Politik mit der technologischen Entwicklung schlichtweg nicht Schritt halten kann. Zur Debatte steht deshalb auch eine Art Verteidigungs-KI. Sprich: Eine KI soll andere KIs überwachen. Das mag zunächst vielleicht etwas paradox klingen, scheint in Anbetracht der aktuellen Ereignisse und Entwicklungen aber deutlich weniger absurd.
Indes: Der Fall wirft wieder einmal auch einen Schatten auf Europa. Denn er zeigt, dass das Streben nach eigenen KI-Modellen keine Souveränitätsromantik sein darf, sondern schlichtweg unabdingbar ist. Letztlich geht es nämlich nicht nur darum, wie leistungsfähig KI-Modelle sind, sondern auch darum, wer die Kontrolle darüber hat. Denn diese hat im Fall von OpenAI offenbar gefehlt.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
