Anthropic hat einen vierten Sicherheitsvorfall mit einem eigenen KI-Modell gemeldet. Bei einem Test griff das System auf reale Computersysteme zu. Der Vorfall war bei einer früheren Untersuchung zunächst unentdeckt geblieben.
Die Fähigkeiten von modernen KI-Modellen haben sich in den vergangenen Jahren in rasantem Tempo entwickelt. Doch damit steigen nicht nur die Mögkichkeiten für Nutzer, sondern auch die Sicherheitsrisiken.
Insbesondere, wenn KI-Systeme Zugriff auf reale IT-Infrastrukturen haben, können unzureichende Schutzmechanismen schwerwiegende Folgen haben. Das zeigt nun ein weiterer Vorfall bei dem KI-Unternehmen Anthropic.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Der Entwickler des KI-Sprachmodells Claude hat nun bereits den vierten Sicherheitsvorfall offengelegt, bei dem das eigene KI-Modell auf reale Computersysteme zugegriffen hat. Der Fall war zunächst nicht entdeckt worden.
Anthropic meldet vierten Hackerangriff bei Claude
Bereits Ende Juli hatte Anthropic drei Vorfälle öffentlich gemacht, bei denen eigene KI-Modelle im Rahmen von Sicherheitstests reale Systeme kompromittiert hatten. Nun hat das Unternehmen einen vierten Fall nachgemeldet, der bei der damaligen Untersuchung zunächst unentdeckt geblieben war.
Das Team von Anthropic hatte während einer Cybersicherheits-Evaluierung vermutet, dass Claude unbeschränkten Zugriff auf das Internet erhalten haben könnte. Daraufhin analysierte das Unternehmen mehr als 141.000 Transkripte mithilfe eines automatisierten Suchverfahrens.
Dabei konnten allerdings nur drei Vorfälle identifiziert werden, da bei der Durchsuchung „eine Reihe von Transkripten übersehen“, wie das Unternehmen mitteilt. Bei einer erneuten Durchsuchung deckte das Unternehmen nun den vierten Vorfall auf.
Dieser habe sich im Januar 2026 zugetragen und eine frühe Version von Claude Opus 4.6 betroffen. Alle betroffenen Parteien seien durch das Unternehmen benachrichtigt.
Anthropic lässt Hackerangriffe unabhängig untersuchen
Anthropic weist darauf hin, dass die Vorfälle „auf einen engen Rahmen beschränkt“ geblieben seien. Die Modelle seien in den Tests „nie“ vom Ziel abgewichen und hätten auch nicht versucht, sich mit anderen Agenten abzustimmen oder die eigenen Handlungen zu verschleiern.
Das Unternehmen geht daher davon aus, dass „die bei diesen Vorfällen beobachteten problematischen Verhaltensweisen im normalen Betrieb – also wenn Claude nicht gezielt den Auftrag erhält, einen Cyberangriff durchzuführen – kaum auftreten dürften“. Würden sie dennoch vorkommen, würden Schutzmechanismen eingreifen.
Dennoch hat Anthropic nach Bekanntwerden der Vorfälle eine externe Untersuchung veranlasst. Das unabhängige Forschungsunternehmen METR soll nun prüfen, wie es zu den Sicherheitsverletzungen kommen konnte und ob künftig Schutzmaßnahmen angepasst werden müssen.
METR erhält für die Untersuchung unter anderem weitreichenden Zugriff auf Transkripte, die über den Zeitraum der Vorfälle hinausgehen. Auch soll die NPO Mitarbeiter von Anthropic befragen, denen die Weitergabe vertraulicher Informationen gestattet ist.
Google lässt dich jetzt selbst bestimmen, welche Quellen du in der Suche häufiger siehst. Mit zwei schnellen Klicks kannst du BASIC thinking kostenlos als bevorzugte Quelle hinzufügen und damit unabhängigen Tech-Journalismus unterstützen. Vielen Dank!
Auch interessant:
