Vorurteile beim Einsatz von Künstlicher Intelligenz sind ein bekanntes Problem. Auch Twitter ist nicht davor gefeit. Durch einen Wettbewerb wollte der Kurznachrichtendienst nun herausfinden, welche Fehler beim eigenen Twitter-Algorithmus auftauchen.
Künstliche Intelligenz (KI) wurde dafür geschaffen, die Funktionsweise des menschlichen Gehirns nachzuahmen. Mit der Hilfe von Training kann KI lernen, wie Siri oder Alexa auf Fragen zu antworten oder selbst Entscheidungen zu treffen.
Doch dies führt oft auch zu Problemen – zum Beispiel wenn Minderheiten durch die eingesetzte KI benachteiligt werden oder es zu geschlechterspezifischen Vorurteilen kommt.
Mit diesem Problem hatte auch Twitter zu kämpfen. Ende 2020 wurde Kritik laut, dass der Algorithmus, der die Bilder im Feed zuschneidet, von Vorurteilen geprägt ist. So wurden im Zuschnitt beispielsweise weiße Gesichter gegenüber schwarzen bevorzugt.
Daraufhin hat Twitter im Mai zunächst den Zuschnitt von Fotos im Newsfeed angepasst. Seitdem werden hochformatige Bilder nicht mehr so stark beschnitten.
Welche Schwächen hat der Twitter-Algorithmus?
Doch der Kurznachrichtendienst wollte nicht nur die im Newsfeed sichtbaren Probleme seines Cropping-Algorithmus beheben. Auch im Hintergrund sollten Änderungen vorgenommen werden.
Um den Problemen des eigenen Algorithmus auf den Grund zu gehen, hat Twitter Ende Juli 2021 die erste Algorithmic Bias Bounty Challenge gestartet. Solche Challenges sind besonders in der Hacker-Szene etabliert, um beispielsweise Sicherheitslücken in den Systemen von großen Konzernen zu finden.
Die Challenge fand im Rahmen der Online-Konferenz Def Con AI Village statt. Ausgeschrieben waren Preisgelder in Höhe von 3.500 US-Dollar für den ersten Platz, 1.000 US-Dollar für den zweiten Platz und 500 US-Dollar für den dritten Platz.
Das Problem des Twitter-Algorithmus
Besonders problematisch ist laut Twitter, dass „Unternehmen von unbeabsichtigten ethischen Schäden erst nach der Veröffentlichung erfahren“. Vorab sei es besonders schwierig, Vorurteile in KI zu finden.
Twitter will nun mit seiner Challenge an die Erfolge der Hacker-Challenge anknüpfen.
Wir sind davon inspiriert, wie die Forscher- und Hacker-Community dem Sicherheitsbereich geholfen hat, Best Practices für die Identifizierung und Minderung von Schwachstellen zu entwickeln, um die Öffentlichkeit zu schützen.
Twitter will dabei helfen, eine ähnliche Community zu etablieren – die allerdings auf die ethischen Aspekte Künstlicher Intelligenz und maschinellen Lernens spezialisiert ist.
Twitter-Algorithmus bevorzugt schlanke, junge und helle Haut
Den ersten Platz der Challenge hat Bogdan Kulynych, ein Forscher der schweizerischen Technischen Universität EPFL, gewonnen. Den Ergebnissen zufolge bevorzugt der Cropping-Algorithmus von Twitter Gesichter, die schlanker und jünger sind sowie eine hellere Haut haben.
Kulynych fasst die Ergebnisse wie folgt zusammen: „Das Zielmodell ist so eingestellt, Menschen zu bevorzugen, die schlank und jung erscheinen oder eine helle oder warme Gesichtsfarbe, glatte Hautstruktur und stereotypisch weibliche Gesichtszügen haben.“
Diese Voreingenommenheit könnte zum Ausschluss von Minderheiten führen und stereotype Schönheitsstandards in Tausenden von Bildern verewigen.
Um zu seinen Ergebnissen zu gelangen, hat der Forscher das Foto eines menschlichen Gesichts mit einer Reihe von KI-generierten Versionen verglichen.
Dabei vergab der Algorithmus den jünger und schlanker wirkenden Gesichtern bessere Plätze. Auch hellere oder wärmer wirkende Haut wurde bevorzugt, außerdem auch kontrastreichere Bilder mit gesättigteren Farben.
Das verzerrte Schönheitsideal in den sozialen Netzwerken
Der Schönheitswahn in den sozialen Netzwerken ist ein bekanntes Problem. Sogenannte Schönheitsfilter, aber auch Algorithmen – wie der von Twitter – verstärken diesen Effekt. Daher ist es absolut positiv zu bewerten, dass Twitter dieser Problematik nun etwas entgegensetzen will.
Auch interessant:
