Am vergangenen Montag berichteten wir euch über die von Twitter ausgelotete Herausforderung zur Aufdeckung von Vorurteilen im eigenen Algorithmus zum Zuschneiden von Bildern. Nachdem man im März die Funktion abgeschaltet hatte, da diese bestimmte Vorurteile widerspiegelte, wollte man vor einem erneuten Versuch auf Nummer sicher gehen.
Jetzt sind die Ergebnisse bekannt und trotz Überarbeitung seitens Twitter werden noch immer bestimmte Nutzergruppen von der Künstlichen Intelligenz bevorzugt. Jenes Problem, das es auf den ersten Platz schaffte, machte deutlich, dass der Algorithmus dünne, junge, feminine Gesichter mit hellen oder warmen Gesichtsfarben vorzog.
Den Sieg nahm Bogdan Kulynych, Absolvent einer schweizerischen Universität, nach Hause. Er erforschte Schwächen des Algorithmus, indem er ein KI-Programm realistische Gesichter erstellen ließ, die sich lediglich in Faktoren, wie der Gesichtsfarbe oder dem Alter unterschieden. Anschließend fütterte er die Twitter-Funktion mit den Daten.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück 50€ Amazon-Guthaben gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Der zweite Platz demonstrierte, dass die KI gerade Menschen mit grauem oder weißem Haar benachteiligte, ein klarer Indikator für Altersdiskriminierung. Auf den dritten Platz schaffte es die Erkenntnis, dass lateinische Buchstaben vor arabischen Symbolen Vorrang haben. Aber auch andere interessante Eigenschaften wurden aufgedeckt, Vincenzo di Cicco demonstrierte etwa, dass Emojis mit heller Hautfarbe vom Algorithmus bevorzugt werden.
Zusammenfassend hat die Herausforderung also viele positive Dinge gebracht. So hat Twitter nun Zeit Lücken zu schließen, die bisher von den eigenen Entwicklungsteams unentdeckt blieben. Dass Unternehmen Probleme auch falsch angehen können, demonstrierte Amazon bei der eigenen Gesichtserkennung. Hier zog man Nutzer:innen in den Schmutz, die Probleme meldete.
Eigene Meinung:
Twitter geht mit der ausgerufenen Herausforderung einen Schritt in die richtige Richtung. Häufig übersehen gerade die Abteilungen, die Software entwickeln Fehler, ein Grund ist, dass man einfach Dinge übersieht, wenn man jeden Tag damit zu tun hat. Gerade bei Algorithmen, die mit Menschen interagieren, ist ein ausreichender Test und das Aufdecken möglichst vieler Lücken essenziell.
Via The Verge
