Die Bundesregierung hat die Gründung eines eigenen KI-Sicherheitsinstituts beschlossen. Das deutsche AI Security Institute soll neue KI-Modelle testen, Risiken bewerten und den Staat handlungsfähig machen – bevor es zu spät ist. Doch zwischen Anspruch und Umsetzung liegen offene Fragen zu Budget, Personal und der Abgrenzung zu bestehenden Behörden. Wir ordnen ein, was das Institut leisten soll und wo die Stolpersteine liegen. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Was steckt hinter dem neuen KI-Sicherheitsinstitut?
- Mithilfe eines neuen Gremiums will die Bundesregierung die Chancen und Risiken moderner KI-Modelle künftig besser einschätzen können. Laut einer offiziellen Mitteilung beschloss der Nationale Sicherheitsrat dazu die Einrichtung eines speziellen KI-Sicherheitsinstituts. Ziel ist es, Kapazitäten zur Analyse von Künstlicher Intelligenz zu bündeln. Das Institut soll sich etwa mit ausländischen Einrichtungen vernetzen und einheitliche KI-Standards auf internationaler Ebene vorantreiben.
- Die neue KI-Behörde trägt den Arbeitstitel „Deutsches AI Security Institute (DE-AISI)“. Zunächst wird es sich nur um eine virtuelle Institution handeln, die auf bestehende Strukturen und Kompetenzen der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI) zugreifen kann. Langfristig ist ein eigener Standort geplant. Das neue deutsche KI-Institut soll sich mit Fragen rund um KI-Cybersicherheit und sicheren KI-Produkten beschäftigen. Andere Länder verfügen bereits über ähnliche Einrichtungen.
- Ziel des Nationalen Sicherheitsrates ist es, ein Expertenteam aufzubauen, das etwa neue KI-Modelle wie Claude Mythos von Anthropic schnell testen und bewerten soll, um die Bundesregierung und die öffentliche Verwaltung zu beraten. Das Institut könnte neue KI-Modelle dann etwa frühzeitig nutzen und einschätzen. Der Hintergrund: Anthropic hatte den Zugriff auf sein Modell Claude Mythos etwa zunächst nur auf einen kleinen Kreis von US-Unternehmen und -Behörden beschränkt. Die KI sei einfach zu gut darin, Sicherheitslücken aufzuspüren, und für die Allgemeinheit zu gefährlich, da sie ausgenutzt werden könne.
Warum das Institut keine neue Regulierungsbehörde ist
Kaum hat die Bundesregierung ein neues Institut angekündigt, ertönt vielerorts ein fast schon reflexartiger Vorwurf vom nächsten Bürokratie-Baustein und Behörden-Geldverbrenner. Klar: Mit dem AI Act der EU existiert bereits ein umfangreiches Regelwerk. Doch wer das neue KI-Sicherheitsinstitut vorschnell als eine weitere Regulierungsebene abstempelt, der irrt. Denn: Regeln festzulegen und durchzusetzen ist das eine.
Zu verstehen, was moderne KI-Systeme tatsächlich können, um Risiken zu erkennen oder Tools selbst nutzen zu können, ist etwas völlig anderes. Und genau dort soll das Institut ansetzen. Es soll keine neue Aufsichtsbehörde sein, die Unternehmen mit zusätzlichen Formularen beglückt, sondern eine technische Prüf- und Beratungsstelle. Während der AI Act definiert, was erlaubt ist und welche Pflichten gelten, soll das Institut Modelle analysieren, Risiken bewerten und Fähigkeiten frühzeitig erkennen.
Oder um es anders zu sagen: Der Staat will nicht nur Schiedsrichter sein, sondern verstehen, welches Spiel überhaupt gespielt wird, um vielleicht sogar mitzuspielen. Das ist grundsätzlich nachvollziehbar. Die Entwicklung leistungsfähiger KI verläuft inzwischen nämlich schneller, als Gesetzestexte geschrieben werden können.
Aber klar: Die Kosten sollten sich in Grenzen halten und im Einklang mit einem gewissen Nutzen sein. Im Idealfall hintenrum auch für uns Bürger. Gleichzeitig stellt sich die Frage, warum Deutschland erneut eine eigene Struktur aufbaut, anstatt bestehende Kompetenzen konsequenter zu bündeln. Denn: Institutioneller Geschlechtsverkehr ist nicht gleichbedeutend mit einer sinnvollen Sicherheitsvorsorge. Indes liefert die Geschichte der deutschen Digitalpolitik genügend Beispiele dafür, wie leicht man auf der falschen Seite landet.
Stimmen
- Susanne Dehmel, Mitglied der Geschäftsleitung des Digitalverbands Bitkom, in einem Statement: „Mit der Einrichtung eines Sicherheitsinstituts für KI schafft Deutschland die Voraussetzungen, solche Risiken frühzeitig fundiert einschätzen zu können. Das DE-AISI sollte ein von bestehenden Einrichtungen abgegrenztes Forschungsmandat erhalten und ein Lagebild mit Blick auf die neuen sogenannten Frontier-Modelle erstellen. Im Zentrum müssen neue systemische Risiken für Deutschlands Sicherheit und Souveränität stehen. Fragen des Arbeits-, Verbraucher- und Datenschutzes oder der KI-Ethik werden bereits an anderer Stelle kompetent behandelt. Das neue Sicherheitsinstitut wird nur erfolgreich sein können, wenn wir dafür internationale Spitzenkräfte gewinnen.“
- Joachim Bühler, Geschäftsführer des TÜV-Verbands, erklärt: „KI-Systeme müssen sich verlässlich prüfen und bewerten lassen. Entscheidend wird sein, dafür wissenschaftlich fundierte Methoden zu entwickeln und sie in der Praxis anwendbar zu machen. Wichtig ist zudem, bestehende Kompetenzen aus Wissenschaft, Wirtschaft, Aufsicht und Prüfwesen zusammenzuführen. Nur so entsteht ein Institut, das international anschlussfähig ist und Unternehmen bei der sicheren Entwicklung und dem Einsatz von KI wirksam unterstützt.“
- In einem Reddit-Forum ist die Kritik derweil relativ einschlägig. Ein Nutzer schreibt etwa: „Und schwubs, noch ein paar mehr Beamte“. Ein anderer ergänzt: „Das schreit doch schon wieder nach Geldverschwendung“. Wiederum ein anderer Nutzer spottet: „Wenn man nicht mehr weiter weiß, man gründe einen Arbeitskreis“. Eine weitere Meinung: „Und noch schwerer für die Unternehmen jetzt im Bereich KI wettbewerbsfähig zu bleiben. Aber wir sind den anderen ja eh noch Jahre weit voraus und können uns das leisten.. oder? ODER?“
KI-Sicherheitsinstitut für Deutschland mit vielen offenen Fragen
Ob das neue deutsche KI-Sicherheitsinstitut zu einer wichtigen Frühwarnzentrale wird oder im nächsten Verwaltungskapitel mit wenig Wirkung mündet, entscheidet sich erst in den kommenden Monaten und nicht jetzt. Die Sorgen vor einem weiteren Regulierungsapparat und einem Bürokratiemonster sind nicht aus der Luft gegriffen. Denn vor allem im digitalen Umfeld, das von Geschwindigkeit lebt, kann jede zusätzliche Abstimmungsschleife zum Wettbewerbsnachteil werden.
Hinzu kommt, dass viele zentrale Fragen bislang noch offen sind. Die Bundesregierung hat weder detailliert erklärt, wie das Institut personell ausgestattet werden soll, noch wie hoch das Budget ausfallen wird.
Auch die Abgrenzung zum BSI wirkt bislang eher skizziert als ausformuliert. Das Problem: Wo Zuständigkeiten verschwimmen, entstehen erfahrungsgemäß oft Reibungsverluste, die Deutschland oft zuverlässiger produziert als digitale Innovationen. Gelingt es hingegen, hochqualifizierte Fachleute anzuziehen und tatsächlich eine unabhängige technische Expertise aufzubauen, könnte das Institut eine wichtige Funktion erfüllen.
Denn die nächste Generation von KI-Modellen wird nicht darauf warten, bis Behörden ihre Geschäftsordnung abgestimmt haben. Die eigentliche Herausforderung liegt aber weniger darin, ein neues Institut zu gründen, sondern zu verhindern, dass aus einer Sicherheitsinitiative am Ende vor allem ein Beschäftigungsprogramm für die Verwaltung wird.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
