Social Media Technologie

Facebook-KI vergleicht schwarze Menschen mit Affen

Facebook, Facebook-Login, Facebook-App, Facebook Algorithmus, Facebook-KI
Unsplash.com / Solen Feyissa
geschrieben von Maria Gramsch

Künstliche Intelligenz ist für soziale Netzwerke oft eine große Hilfe. Doch Fehler können einen erheblichen Schaden anrichten. Das musste nun auch Facebook erleben. Denn die Facebook-KI hat schwarze Menschen mit Affen gleichgestellt.

Eines der größten Probleme beim Einsatz von Künstlicher Intelligenz (KI) sind Vorurteile. Die Technologie soll zwar wie das menschliche Gehirn funktionieren. Doch beim Training der KI kommt es immer wieder zur Bildung von Vorurteilen. So werden oft vor allem Minderheiten benachteiligt oder diskriminiert.

Die Auswirkungen eines solchen Vergehens musste nun auch Facebook nach einem Bericht der New York Times erfahren.

So diskriminiert die Facebook-KI

Im Umfeld eines Videos der britischen Daily Mail kam es zu einer diskriminierenden Verwechslung des Algorithmus. Denn der Facebook-Algorithmus hat schwarze Menschen mit Affen verwechselt.

Das Video trägt den Titel „Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen“. Nach Abspielen des Videos wurden Nutzer:innen dann gefragt, ob sie „weiterhin Videos über Primaten sehen möchten“.

Die sei ein „eindeutig inakzeptabler Fehler“ sagte eine Facebook-Sprecherin in einem Statement dazu. Der Konzern habe die entsprechende Software direkt aus dem Betrieb genommen.

Wir entschuldigen uns bei jedem, der diese beleidigenden Empfehlungen gesehen hat.

Wie wurde die rassistische Facebook-KI entdeckt?

Aufgedeckt hat den vorliegenden Fall eine ehemalige Mitarbeiterin von Facebook. Sie hat einen Screenshot davon in einem Forum für Facebook-Feedback gepostet. Daraufhin erklärte ein Facebook-Produktmanager der Videoabteilung den Vorfall als „inakzeptabel“. Dazu versprach er, das Problem zu beheben.

Gegenüber der New York Times sagte die Ex-Mitarbeiterin, die Behebung der Rassismus-Probleme sei Facebook nicht wichtig genug.

Facebook kann nicht weiter immer wieder Fehler machen und bloß sagen, dass es ihnen leidtut.

Facebook ist nicht das einzige KI-Problemkind

Doch Facebook ist nicht der einzige Social-Media-Riese, der Probleme mit den Tücken der Gesichtserkennung hat. Auch Twitter muss hier immer wieder nachbessern.

Anfang Mai 2021 hat der Kurznachrichtendienst den Foto-Zuschnitt in seinem News-Feed aktualisiert. Dieser Entscheidung war Kritik am Cropping-Algorithmus vorangegangen. Dieser hatte beim automatisierten Zuschnitt häufiger weiße als schwarze Menschen gezeigt.

Das hat Twitter auch dazu bewegt, externe Expert:innen im Zuge der Algorithmic Bias Bounty Challenge nach Problemen im eigenen Algorithmus forschen zu lassen. Dabei kam heraus, dass die KI schlanke, junge Gesichter mit heller Haut bevorzugt.

Twitter will mit Challenges wie der Algorithmic Bias Bounty Challenge helfen, eine Community für ethische Aspekte Künstlicher Intelligenz aufzubauen. Ein Ansinnen, das sich auch Facebook zum Vorbild nehmen sollte.

Auch interessant:

Über den Autor

Maria Gramsch

Maria ist freie Journalistin und seit 2021 freie Autorin bei BASIC thinking. Sie hat einen Bachelor in BWL von der DHBW Karlsruhe und einen Master in Journalistik von der Universität Leipzig. Neben dem Studium hat sie als CvD, Moderatorin und VJ bei dem Regionalsender Leipzig Fernsehen und als Content-Uschi bei der Bastei-Lübbe-App oolipo gearbeitet. Im letzten Studienjahr war sie Mitgründerin, CvD und Autorin der Leipzig-Seite der taz. Maria lebt und paddelt in Leipzig und arbeitet unter anderem für turi2.de und die Leipziger Produktionsfirma schmidtFilm.

Kommentieren