Die KI-Verordnung der EU sieht vor, dass es nationale Marktüberwacher geben soll. Jetzt liegt ein Referentenentwurf für die deutsche KI-Behörde vor. Zwischen behördlichen und institutionellen Rangeleien darf vor allem aber eines nicht vergessen werden: der Bürger!
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 10.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
AI Acht sieht nationale KI-Behörden vor
- Die europäische KI-Verordnung soll garantieren, dass sinnvolle Rahmenbedingungen für den Einsatz von Künstlicher Intelligenz in Europa entstehen. Sowohl Unternehmen als auch Bürger sollen KI-Anwendungen sicher und vertrauenswürdig nutzen können. Damit europäisches Recht auch in Deutschland gut umgesetzt wird, soll es eine nationale Marktüberwachungsbehörde geben: Die Bundesregierung will die Bundesnetzagentur damit betrauen.
- Zwar spricht das Bundesdigitalministerium davon, dass keine Doppelstrukturen geschaffen werden sollen. Trotzdem sieht der Gesetzentwurf neben der Bundesnetzagentur zahlreiche weitere Institutionen vor – unter anderem ein Koordinierungs- und Kompetenzzentrum, mehrere KI-Reallabore und eigene Anlaufstellen für Unternehmen und Bürger. Das ruft unter anderem die Datenschutzbehörden der Länder auf den Plan, die sich übergangen fühlen.
- Ein zentraler Bestandteil der geplanten KI-Behörde in Deutschland ist eine Beschwerdestelle für Verbraucher. Die Idee: Eine Anlaufstelle für Bürger, bei der sie sich über Anwendungen beschweren können – insbesondere dann, wenn die gesetzlichen Vorgaben der KI-Verordnung nicht eingehalten werden.
Deutsche KI-Behörde als Beschwerdestelle
Der AI Act ist bislang vor allem eines: ein Papiertiger – die nächste Anhäufung von Vorschriften und Androhungen aus Brüssel, deren Nicht-Einhaltung bislang auch keinerlei Konsequenzen nach sich zieht. Zwar gibt es die Verordnung schon seit über einem Jahr – wirklichen Handlungsbedarf haben bislang nur die wenigsten Unternehmen und Behörden gesehen.
Die Errichtung einer nationalen KI-Behörde ist mit Blick darauf ein wichtiger Schritt – für Unternehmen und insbesondere auch für die Zivilgesellschaft. Sie macht den AI Act als Gesetz endlich greifbar und verständlich. Es handelt sich dann nicht mehr nur um ein Schriftstück der EU, sondern um eine konkrete Anlaufstelle.
Für einen tatsächlichen Erfolg muss die Behörde ihren Worten aber auch Taten folgen lassen. Wenn die Rede von „schlanker KI-Governance“ und „kompetenten Ansprechpartnern“ ist, muss die Anlaufstelle auch genau so aussehen.
Es muss einfach sein, seine Beschwerden zu melden und auch mit versierten Experten zu sprechen – auch ohne selbst ein Justiziar zu sein. Und: Die Meldung eines KI-Verstoßes muss auch Konsequenzen haben und nicht einfach ins Leere laufen.
Stimmen
- Lisa Ehrig, Leiterin des Teams Digitales und Medien im Verbraucherzentrale Bundesverband, setzt sich für eine nutzer- beziehungsweise bürgerorientierte Auslegung des AI Acts in Deutschland ein: „Für Verbraucherinnen und Verbraucher sollte ihre Beschwerde nicht in einem Behörden-Ping-Pong enden, bei dem sie sich über verschiedene Kanäle mit unterschiedlichen Stellen auseinandersetzen müssen. Wir brauchen eine Kommunikation mit allen Behörden aus einem Guss über den gesamten Beschwerdeprozess hinweg.“
- Bundesdigitalminister Karsten Wildberger fokussiert sich in einer Stellungnahme zum Gesetzentwurf zur Umsetzung der KI-Verordnung in Deutschland primär auf Unternehmen: „Wir setzen auf eine möglichst innovationsfördernde und schlanke KI-Governance für Deutschland. Entscheidend ist, dass deutsche KI-Entwickler und KI-Anwender klare und kompetente Ansprechpartner bekommen. Mit der Bundesnetzagentur als zentraler Aufsichtsbehörde nutzen wir bestehende Expertise und sorgen für Rechtsklarheit und schnelle Prozesse.“
- Kilian Wieth-Ditlmann, Head of Policy bei der gemeinnützigen NGO AlgorithmWatch, fordert die Politik dazu auf, den Fokus auf die Verbraucher zu richten. In zwei Positionspapieren schreibt er: „Behörden tragen eine besondere Verantwortung, da Bürger*innen staatlichen Entscheidungen nicht ausweichen können. Umso wichtiger ist es, dass der Einsatz von KI-Systemen nachvollziehbar und überprüfbar ist – für Betroffene, Medien, die Zivilgesellschaft und Aufsichtsgremien.“
Zwischen Aufklärung und Meldeplattform
Wie groß die Unsicherheit im Umgang mit KI in Deutschland ist, ist spürbar. Schon jetzt zeichnet sich ab, dass eine Spaltung der Zivilgesellschaft stattfindet. Auf der einen Seite sind Nutzer, die sich Vorteile im Privat- und Berufsleben verschaffen.
Auf der anderen Seite stehen all jene Bürger, die aus Angst oder Unwissenheit die neue Technologie nicht nutzen. Sie werden Schritt für Schritt abgehängt. Dabei ist Aufklärung aufgrund der Risiken von KI essenziell. Die Bundesregierung hat mit ihrer nationalen KI-Behörde eine große Chance.
Wenn die Bundesnetzagentur neben einer einfachen Meldeplattform auch einen umfangreichen Wissenshub aufbaut, der Bürger einfach und verständlich über Künstliche Intelligenz aufklärt, könnte Deutschland einen signifikanten Vorteil aus dem AI Act ziehen.
Gelingt das nicht, ist die KI-Verordnung nichts anderes als die DSGVO 2.0: Ein Hindernis, das Bürger nicht wirklich schützt und Unternehmen unnötig drangsaliert.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 10.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
