Technologie

KI bei der Hausüberwachung kann „ziemlich gefährlich sein”

KI Hausüberwachung
Unsplash.com/Jakub Żerdzicki
geschrieben von Felix Baumann

Forscher haben herausgefunden, dass KI-Systeme zur Hausüberwachung vollkommen willkürlich handeln. Die Gründe dafür bleiben mangels Transparenz aber unklar. Die Hintergründe.

Eine neue Studie vom MIT und der Penn State University zeigt: Der Einsatz von Künstlicher Intelligenz (KI) in der Heimüberwachung könnte zu großen Problemen führen. Sprachmodelle wie GPT-4 seien inkonsequent und würden demnach unvorhersehbar handeln. Oft empfehlen sie, die Polizei zu rufen, auch wenn keine kriminellen Aktivitäten erkennbar sind. Diese Inkonsistenz könnte gefährlich werden.

Noch problematischer: Die Modelle reagieren unterschiedlich auf ähnliche Szenen. Ein Video zeigte etwa einen Autodiebstahl und das Modell schlug Alarm, während ein ähnliches Video keine Reaktion hervorrief. Diese Unterschiede werfen die Frage auf, wie zuverlässig KI wirklich ist. Besonders in heiklen Situationen kann das fatale Folgen haben.


Neue Stellenangebote

Growth Marketing Manager:in – Social Media
GOhiring GmbH in Homeoffice
Marketing-Manager mit Schwerpunkt Event und Social Media (m/w/d)
Optigrün international AG in Krauchenwies-Göggingen
(Junior) Social Media Manager (m/w/d)
VILSA-BRUNNEN Otto Rodekohr GmbH in Bruchhausen-Vilsen

Alle Stellenanzeigen


Voreingenommenheit von KI bei der Hausüberwachung

Ein weiteres Problem liegt in der Denkweise des Algorithmus. Denn KI zeigt unbewusste Vorurteile. In Vierteln mit überwiegend weißen Bewohnern schlug sie seltener Alarm, selbst wenn ähnliche Aktivitäten wie in anderen Gegenden zu sehen sind. Das zeigt, dass KI von demografischen Unterschieden beeinflusst wird. Die genauen Gründe sind aber unklar, da die Trainingsdaten der Modelle oft nicht öffentlich zugänglich sind.

Diese Vorurteile könnten im Einsatz schwerwiegende Folgen haben. Denn es ist nicht absehbar, wie viele Menschen dadurch unfair behandelt werden könnten. Es wird jedoch deutlich, dass Vorsicht geboten ist, wenn KI in sensiblen Bereichen zum Einsatz kommt.

Die Notwendigkeit von Vorsicht

Die Ergebnisse der Studie unterstreichen die Risiken, die mit dem Einsatz von KI bei der Heimüberwachung verbunden sind. Deshalb sollte man der Technologie nicht einfach blind vertrauen. Es braucht mehr Transparenz und Kontrolle. Nur so kann sichergestellt werden, dass KI fair und zuverlässig arbeitet.

Die Zukunft der Heimüberwachung könnte derweil stark von KI geprägt sein. Doch bevor die Technologien im Alltag zum Einsatz kommen, muss sichergestellt werden, dass sie auch wirklich funktionieren.

Auch interessant:


Neue Stellenangebote

Growth Marketing Manager:in – Social Media
GOhiring GmbH in Homeoffice
Marketing-Manager mit Schwerpunkt Event und Social Media (m/w/d)
Optigrün international AG in Krauchenwies-Göggingen
(Junior) Social Media Manager (m/w/d)
VILSA-BRUNNEN Otto Rodekohr GmbH in Bruchhausen-Vilsen
Social Media Advertising Manager (w/m/d)
dm-drogerie markt GmbH + Co. KG in Karlsruhe
Senior Social Media Manager (w/m/d)
Horl 1993 GmbH in Freiburg
Social Media Manager mit Pflege-Background (m/w/d)
Dr. Ausbüttel & Co. GmbH in Dortmund
Social Media Manager:in & Content Creator:in (m/w/d)
Restube GmbH in Karlsruhe
Social Media Manager (m/w/d) / Schwerpunkt Video Content
WWF Deutschland in Berlin

Alle Stellenanzeigen

Über den Autor

Felix Baumann

Felix Baumann ist seit März 2022 Redakteur bei BASIC thinking. Bereits vorher schrieb er 4 Jahre für den Online-Blog Mobilegeeks, der 2022 in BASIC thinking aufging. Nebenher arbeitet Felix in einem IT-Unternehmen und beschäftigt sich daher nicht nur beim Schreiben mit zukunftsfähigen Technologien.

Kommentieren