Social Media Technologie

Facebook-KI vergleicht schwarze Menschen mit Affen

Facebook, Facebook-Login, Facebook-App, Facebook Algorithmus, Facebook-KI
Unsplash.com / Solen Feyissa
geschrieben von Maria Gramsch

Künstliche Intelligenz ist für soziale Netzwerke oft eine große Hilfe. Doch Fehler können einen erheblichen Schaden anrichten. Das musste nun auch Facebook erleben. Denn die Facebook-KI hat schwarze Menschen mit Affen gleichgestellt.

Eines der größten Probleme beim Einsatz von Künstlicher Intelligenz (KI) sind Vorurteile. Die Technologie soll zwar wie das menschliche Gehirn funktionieren. Doch beim Training der KI kommt es immer wieder zur Bildung von Vorurteilen. So werden oft vor allem Minderheiten benachteiligt oder diskriminiert.

Die Auswirkungen eines solchen Vergehens musste nun auch Facebook nach einem Bericht der New York Times erfahren.

So diskriminiert die Facebook-KI

Im Umfeld eines Videos der britischen Daily Mail kam es zu einer diskriminierenden Verwechslung des Algorithmus. Denn der Facebook-Algorithmus hat schwarze Menschen mit Affen verwechselt.

Das Video trägt den Titel „Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen“. Nach Abspielen des Videos wurden Nutzer:innen dann gefragt, ob sie „weiterhin Videos über Primaten sehen möchten“.

Die sei ein „eindeutig inakzeptabler Fehler“ sagte eine Facebook-Sprecherin in einem Statement dazu. Der Konzern habe die entsprechende Software direkt aus dem Betrieb genommen.

Wir entschuldigen uns bei jedem, der diese beleidigenden Empfehlungen gesehen hat.

Wie wurde die rassistische Facebook-KI entdeckt?

Aufgedeckt hat den vorliegenden Fall eine ehemalige Mitarbeiterin von Facebook. Sie hat einen Screenshot davon in einem Forum für Facebook-Feedback gepostet. Daraufhin erklärte ein Facebook-Produktmanager der Videoabteilung den Vorfall als „inakzeptabel“. Dazu versprach er, das Problem zu beheben.

Gegenüber der New York Times sagte die Ex-Mitarbeiterin, die Behebung der Rassismus-Probleme sei Facebook nicht wichtig genug.

Facebook kann nicht weiter immer wieder Fehler machen und bloß sagen, dass es ihnen leidtut.

Facebook ist nicht das einzige KI-Problemkind

Doch Facebook ist nicht der einzige Social-Media-Riese, der Probleme mit den Tücken der Gesichtserkennung hat. Auch Twitter muss hier immer wieder nachbessern.

Anfang Mai 2021 hat der Kurznachrichtendienst den Foto-Zuschnitt in seinem News-Feed aktualisiert. Dieser Entscheidung war Kritik am Cropping-Algorithmus vorangegangen. Dieser hatte beim automatisierten Zuschnitt häufiger weiße als schwarze Menschen gezeigt.

Das hat Twitter auch dazu bewegt, externe Expert:innen im Zuge der Algorithmic Bias Bounty Challenge nach Problemen im eigenen Algorithmus forschen zu lassen. Dabei kam heraus, dass die KI schlanke, junge Gesichter mit heller Haut bevorzugt.

Twitter will mit Challenges wie der Algorithmic Bias Bounty Challenge helfen, eine Community für ethische Aspekte Künstlicher Intelligenz aufzubauen. Ein Ansinnen, das sich auch Facebook zum Vorbild nehmen sollte.

Auch interessant:


Neue Stellenangebote

Growth Marketing Manager:in – Social Media
GOhiring GmbH in Homeoffice
Social Media Manager (Fokus: Community Management Supervision) (w/m/d) – befristete Elternzeitvertretung für 18 Monate
Yello Strom GmbH in Köln
Social Media Manager – befristet auf 2 Jahre (m/w/d)
Liebherr-International Deutschland GmbH in Biberach
Social Media Manager / Content Creator (m/w/d)
Trolli GmbH in Fürth, Nürnberg
Social Media Manager (m/w/d)
badenova AG & Co. KG in Freiburg im Breisgau
(Senior) Social Media Manager (m/w/d)
IronMaxx® Nutrition GmbH & Co. KG in Hürth, Monheim am Rhein
Social Media und Newsletter Manager (m/w/d)
Bierbaum Proenen GmbH & Co. KG in Köln
Online Marketing / Social Media – Manager (m/w/d)
ARD-Programmdirektion in München

Alle Stellenanzeigen

Über den Autor

Maria Gramsch

Maria ist freie Journalistin und technische Mitarbeiterin an der Universität Leipzig. Seit 2021 arbeitet sie als freie Autorin für BASIC thinking. Maria lebt und paddelt in Leipzig und arbeitet hier unter anderem für die Leipziger Produktionsfirma schmidtFilm. Sie hat einen Bachelor in BWL von der DHBW Karlsruhe und einen Master in Journalistik von der Universität Leipzig.