Eine aktuelle Analyse zeigt, wie der Einsatz Künstlicher Intelligenz militärische Entscheidungen zunehmend beschleunigt und die menschliche Kontrolle dabei deutlich erschwert. Experten warnen deshalb vor einer gefährlichen Dynamik, in der autonome Systeme eine regelrechte Eskalationen auslösen könnten.
Das Thema Künstliche Intelligenz hat in den vergangenen Jahren deutlich an Fahrt aufgenommen und verändert Wirtschaft, Gesellschaft und Politik in rasantem Tempo. Ihre Fähigkeit, große Datenmengen auszuwerten und komplexe Entscheidungen zu unterstützen, eröffnet in vielen Bereichen neue Möglichkeiten.
Gleichzeitig wirft aber genau das auch grundlegende Fragen nach Kontrolle und Regulierung auf – insbesondere, wenn KI in sicherheitsrelevanten Bereichen zum Einsatz kommt. Vor allem im militärischen Kontext kann das zu einer Dynamik führen, in der Entscheidungen immer schneller getroffen werden und menschliche Eingriffsmöglichkeiten zunehmend schwinden.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück 50€ Amazon-Guthaben gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Genau vor dieser Entwicklung waren Experten des Think Tanks Centrum für europäische Politik (cep) in einer aktuellen Analyse. Demnach könnte der zunehmende Einsatz von KI im Krieg einen gefährlichen Kontrollverlust zur Folge haben.
Warum Militär-KI kaum noch Zeit für menschliche Kontrolle lässt
KI-gestützte Systeme kommen laut dem cep bereits heute in aktuellen Konflikten im Gazastreifen, im Iran und in der Ukraine „zum Teil ohne funktionierende Aufsicht“ zum Einsatz. Die menschliche Kontrolle sei dabei nur noch eine Illusion.
Denn mit dem Einsatz KI-gestützter Systeme verkürzten sich Analyse- und Reaktionszeiten im militärischen Umfeld erheblich. Was als strategischer Vorteil gilt, kann zugleich zu einem Problem werden, wenn Entscheidungen unter hohem Zeitdruck automatisiert vorbereitet oder getroffen werden.
Vor allem dieser Zeitdruck lasse wenig Raum für menschliche Kontrolle und Abwägung im Einzelfall. Es steige die Gefahr, dass fehlerhafte Daten oder missverständliche Signale schnell weitreichende Konsequenzen nach sich ziehen.
Auch würden belastbare Erfahrungswerte im Umgang mit Sprachmodellen oder anderen KI-Systemen im militärischen Kontext fehlen. Das cep warnt daher vor „unkalkulierbaren Folgen“, die letztendlich zu einem „gefährlichen Kontrollverlust“ führen könnten.
KI im Krieg: Welche Regeln Experten fordern
„In vielen Fällen haben Operatoren nur sehr wenig Zeit, um einen KI-Vorschlag zu prüfen“, erklärt Anselm Küsters, Studienautor und cep-KI-Experte. Oft könnten die Akteure dabei nicht nachvollziehen, „wie das System zu seiner Einschätzung gekommen ist oder welche unbeabsichtigten Folgen sie haben können“.
Unter diesen Bedingungen werde aus Kontrolle schnell Abhängigkeit, so der Forscher. Allerdings sei es entscheidend, ob die menschliche Kontrolle unter Einsatzbedingungen funktioniert. Dafür fordert das cep verbindliche Standards sowie zuverlässige und überprüfbare Verfahren.
Gemeinsame Regeln seien nicht nur ethisch geboten, sondern auch militärisch sinnvoll, da sie Fehlangriffe reduzieren und Eskalationen vorbeugen würden.
Der militärische Einsatz von KI müsse auf internationalen Standards basieren, beispielsweise durch EU- oder NATO-Standards für militärische KI. Dafür seien unter anderem Offenlegungspflichten sowie die Begrenzungen für automatisierte Systeme notwendig. Das cep fordert außerdem eine Meldepflicht bei Fehlfunktionen.
Auch interessant:
