Seit dem 2. Februar 2025 gelten neue Vorschriften des AI Acts, der KI in Europa regulieren soll. Beschäftigte benötigen demnach nun gewisse Kompetenzen, wenn sie KI im Unternehmen nutzen wollen. Das Gesetz ist in dieser Hinsicht allerdings eher schwammig formuliert.
Mit dem AI Act trat in der EU am 1. August 2024 das erste staatsübergreifende KI-Gesetz der Welt in Kraft. Ziel der Verordnung ist es,
die Nutzung und Entwicklung von Künstlicher Intelligenz zu regulieren, um die Grundrechte der Menschen zu schützen. Vertrauenswürdige KI-Systeme und verantwortungsvolle KI-Innovationen sollen derweil gefördert werden.
KI-Kompetenzen im Unternehmen
Nach einer Übergangsphase gelten seit dem 2. Februar 2025 neue Vorschriften des AI Acts. KI-Systeme mit „unannehmbarem“ Risiko sind demnach ab sofort verboten. Darunter fallen unter anderem sogenannte Social Scoring-Anwendungen, die das Sozialverhalten von Menschen überwachen.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück 100€ Amazon-Guthaben gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Bislang kamen solche System in der EU zwar nicht zum Einsatz, allerdings soll der AI Act sicherstellen, dass das auch so bleibt. Neben weiteren Einschränkungen wie einem Verbot von Echtzeitüberwachung im öffentlichen Raum ohne richterlichen Beschluss, gehen mit dem KI-Gesetz nun jedoch auch einige Verpflichtungen einher.
Demnach dürfen Beschäftigte KI nur dann im Unternehmen nutzen, wenn sie über gewisse Kompetenzen verfügen. In Artikel 4 des AI Acts heißt es dazu:
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kenntnisse verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Weiterbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, berücksichtigt werden.
AI Act bleibt schwammig
KI-Kompetenz geht demnach mit technischen Kenntnisse, Erfahrung sowie Aus- und Weiterbildung einher. Zudem spiele der Kontext eine Rolle, in dem KI-Modelle zum Einsatz kommen. Diese Verpflichtung gilt dem Vernehmen nach für alle KI-Systeme und für alle Unternehmen – und zwar unabhängig von ihrer Größe und Ausrichtung.
Das Problem: Der AI Act definiert nicht eindeutig, wer als Betreiber gilt. Es ist beispielsweise fraglich, ob Beschäftigte, die im Arbeitsalltag Programme wie ChatGPT nutzen, nun gewisse Kompetenzen benötigen oder lediglich Beschäftigte, die für einen KI-Anbieter arbeiten und dadurch als Betreiber gelten.
Das KI-Gesetz bleibt in dieser Hinsicht schwammig. Zudem stellt eine Messung oder Bewertung von KI-Kompetenzen eine Herausforderung dar. Denn bislang gibt es keine standardisierten Verfahren, Schulungen oder Zertifikate, die Unternehmen in Anspruch nehmen könnten.
Laut EU soll im April 2025 jedoch ein Leitfaden für sogenannte General Purpose AI (GPAI) erscheinen. Darunter fallen KI-Modelle mit einem allgemeinen Verwendungszweck – theoretisch also auch Sprachmodelle wie ChatGPT. Dieser Leitfaden soll einen rechtssicheren Umgang mit entsprechenden Systemen beschreiben und könnte für mehr Klarheit in puncto KI-Kompetenzen sorgen.
Auch interessant:
