Am vergangenen Montag berichteten wir euch über die von Twitter ausgelotete Herausforderung zur Aufdeckung von Vorurteilen im eigenen Algorithmus zum Zuschneiden von Bildern. Nachdem man im März die Funktion abgeschaltet hatte, da diese bestimmte Vorurteile widerspiegelte, wollte man vor einem erneuten Versuch auf Nummer sicher gehen.
Jetzt sind die Ergebnisse bekannt und trotz Überarbeitung seitens Twitter werden noch immer bestimmte Nutzergruppen von der Künstlichen Intelligenz bevorzugt. Jenes Problem, das es auf den ersten Platz schaffte, machte deutlich, dass der Algorithmus dünne, junge, feminine Gesichter mit hellen oder warmen Gesichtsfarben vorzog.
Mit computergenerierten Gesichtern wurden Lücken im Algorithmus gefunden (Bild: Bogdan Kulynych)
Den Sieg nahm Bogdan Kulynych, Absolvent einer schweizerischen Universität, nach Hause. Er erforschte Schwächen des Algorithmus, indem er ein KI-Programm realistische Gesichter erstellen ließ, die sich lediglich in Faktoren, wie der Gesichtsfarbe oder dem Alter unterschieden. Anschließend fütterte er die Twitter-Funktion mit den Daten.
Der zweite Platz demonstrierte, dass die KI gerade Menschen mit grauem oder weißem Haar benachteiligte, ein klarer Indikator für Altersdiskriminierung. Auf den dritten Platz schaffte es die Erkenntnis, dass lateinische Buchstaben vor arabischen Symbolen Vorrang haben. Aber auch andere interessante Eigenschaften wurden aufgedeckt, Vincenzo di Cicco demonstrierte etwa, dass Emojis mit heller Hautfarbe vom Algorithmus bevorzugt werden.
Lateinische Schriftzeichen wurden von der KI bevorzugt (Bild: Roya Pakzad)
Zusammenfassend hat die Herausforderung also viele positive Dinge gebracht. So hat Twitter nun Zeit Lücken zu schließen, die bisher von den eigenen Entwicklungsteams unentdeckt blieben. Dass Unternehmen Probleme auch falsch angehen können, demonstrierte Amazon bei der eigenen Gesichtserkennung. Hier zog man Nutzer:innen in den Schmutz, die Probleme meldete.
Eigene Meinung:
Twitter geht mit der ausgerufenen Herausforderung einen Schritt in die richtige Richtung. Häufig übersehen gerade die Abteilungen, die Software entwickeln Fehler, ein Grund ist, dass man einfach Dinge übersieht, wenn man jeden Tag damit zu tun hat. Gerade bei Algorithmen, die mit Menschen interagieren, ist ein ausreichender Test und das Aufdecken möglichst vieler Lücken essenziell.
Via The Verge
