Anthropic hat einen vierten Sicherheitsvorfall mit einem eigenen KI-Modell gemeldet. Bei einem Test griff das System auf reale Computersysteme zu. Der Vorfall war bei einer früheren Untersuchung zunächst unentdeckt geblieben.
Die Fähigkeiten von modernen KI-Modellen haben sich in den vergangenen Jahren in rasantem Tempo entwickelt. Doch damit steigen nicht nur die Mögkichkeiten für Nutzer, sondern auch die Sicherheitsrisiken.
Insbesondere, wenn KI-Systeme Zugriff auf reale IT-Infrastrukturen haben, können unzureichende Schutzmechanismen schwerwiegende Folgen haben. Das zeigt nun ein weiterer Vorfall bei dem KI-Unternehmen Anthropic.
Jetzt sichern: 100+ KI-Codes
Lass dich mit unserem Tech-Briefing UPDATE bei KI und den Tech-News von morgen nicht abhängen – kostenlos täglich in der Inbox von über 13.000 Lesern.
Gratis zur Anmeldung:
PDF · 100+ virale KI-Codes
Mit deiner Anmeldung akzeptierst du unsere Datenschutzerklärung.
Der Entwickler des KI-Sprachmodells Claude hat nun bereits den vierten Sicherheitsvorfall offengelegt, bei dem das eigene KI-Modell auf reale Computersysteme zugegriffen hat. Der Fall war zunächst nicht entdeckt worden.
Anthropic meldet vierten Hackerangriff bei Claude
Bereits Ende Juli hatte Anthropic drei Vorfälle öffentlich gemacht, bei denen eigene KI-Modelle im Rahmen von Sicherheitstests reale Systeme kompromittiert hatten. Nun hat das Unternehmen einen vierten Fall nachgemeldet, der bei der damaligen Untersuchung zunächst unentdeckt geblieben war.
Das Team von Anthropic hatte während einer Cybersicherheits-Evaluierung vermutet, dass Claude unbeschränkten Zugriff auf das Internet erhalten haben könnte. Daraufhin analysierte das Unternehmen mehr als 141.000 Transkripte mithilfe eines automatisierten Suchverfahrens.
Dabei konnten allerdings nur drei Vorfälle identifiziert werden, da bei der Durchsuchung „eine Reihe von Transkripten übersehen“, wie das Unternehmen mitteilt. Bei einer erneuten Durchsuchung deckte das Unternehmen nun den vierten Vorfall auf.
Dieser habe sich im Januar 2026 zugetragen und eine frühe Version von Claude Opus 4.6 betroffen. Alle betroffenen Parteien seien durch das Unternehmen benachrichtigt.
Anthropic lässt Hackerangriffe unabhängig untersuchen
Anthropic weist darauf hin, dass die Vorfälle „auf einen engen Rahmen beschränkt“ geblieben seien. Die Modelle seien in den Tests „nie“ vom Ziel abgewichen und hätten auch nicht versucht, sich mit anderen Agenten abzustimmen oder die eigenen Handlungen zu verschleiern.
Das Unternehmen geht daher davon aus, dass „die bei diesen Vorfällen beobachteten problematischen Verhaltensweisen im normalen Betrieb – also wenn Claude nicht gezielt den Auftrag erhält, einen Cyberangriff durchzuführen – kaum auftreten dürften“. Würden sie dennoch vorkommen, würden Schutzmechanismen eingreifen.
Dennoch hat Anthropic nach Bekanntwerden der Vorfälle eine externe Untersuchung veranlasst. Das unabhängige Forschungsunternehmen METR soll nun prüfen, wie es zu den Sicherheitsverletzungen kommen konnte und ob künftig Schutzmaßnahmen angepasst werden müssen.
METR erhält für die Untersuchung unter anderem weitreichenden Zugriff auf Transkripte, die über den Zeitraum der Vorfälle hinausgehen. Auch soll die NPO Mitarbeiter von Anthropic befragen, denen die Weitergabe vertraulicher Informationen gestattet ist.
Unser Zins-Tipp
Eröffne jetzt dein kostenloses Myntro Festgeld und erhalte 3,38 Prozent Zinsen auf dein Geld – und das garantiert für 12 Monate!
Anzeige
Auch interessant:
