Sonstiges

Twitter stellt sich gegen Kinderpornografie – mit Microsofts PhotoDNA

Der englische Premierminister Cameron ist nicht der einzige, der heute Schlagzeilen macht in Bezug auf (Kinder-)Pornografie. Auch Twitter will sich deutlich gegen Kinderpornografie stellen, berichtet der „Guardian“.

Dabei will das soziale Netzwerk bestehende Technologie einsetzen: Die PhotoDNA-Software wurde von Microsoft 2009 in Zusammenarbeit mit dem Dartmouth College entwickelt und an das amerikanische National Center for Missing and Exploited Children (NCMEC) gespendet. Microsoft setzt die Software bereits seit Jahren in den eigenen Diensten SkyDrive und Bing ein. Facebook war einer der ersten Lizenznehmer und nutzt die Software seit 2011. Auch die amerikanische Polizei setzt PhotoDNA bei der Suche nach Kinderpornografie ein.

Millionen von Bildern

Über Twitter werden täglich etwa 400 Millionen Tweets abgesetzt, und Millionen von Bildern sind darunter. Das ist eine Menge, die längst nicht mehr händisch zu erfassen ist. Twitter setzt auf die Automatisierung der Bildanalyse, über die Microsoft-Software, und möchte das System noch dieses Jahr einsetzen. Anhand von speziellen Tags soll dann das Posten und der Austausch von illegalem Bildmaterial verhindert werden.


Neue Stellenangebote

Growth Marketing Manager:in – Social Media
GOhiring GmbH in Home Office
Senior Social Media Manager:in im Corporate Strategy Office (w/d/m)
Haufe Group SE in Freiburg im Breisgau
Senior Communication Manager – Social Media (f/m/d)
E.ON Energy Markets GmbH in Essen

Alle Stellenanzeigen


Der Kurznachrichtendienst ist stolz auf die neue Software. Del Harvey, Leiterin des Twitter Trust and Safety Teams, sieht sich als Teil einer Bewegung:

Dass wir hier endlich Fortschritte machen und damit anfangen ist großartig. Und es ist gut, dass auch andere in der Branche daran arbeiten oder schon entsprechende Software einsetzen, denn das ist kein Thema, bei dem es um Konkurrenz geht, sondern nur um Kooperation.

Allerdings gebe es noch Komplikationen beim Einsatz von PhotoDNA. Das Problem liegt in der Größe und Geschwindigkeit von Twitter – genau den Faktoren also, die das Netzwerk so reizvoll machen. Es sei nicht einfach, sagt Harvey, die sich schon seit Jahren gegen Kinderpornografie einsetzt:

Du fragst dich, ob das wirklich so kompliziert sein muss – aber die Antwort ist: Ja, es muss wirklich so kompliziert sein.

Automatische Erkennung per Mathematik

Bei PhotoDNA braucht es niemanden, der die Software bedient oder ihr sagt, was illegal ist und was nicht. Für Fotos wird ein Hash kalkuliert, der dann mit den vorhandenen Daten aus einem Archiv abgeglichen wird. Dieses Archiv erfasst Bilder von Kinderpornografie, die durch Institutionen wie die englische „Internet Watch Foundation“ oder das gesammelt wurden. So sollen selbst Bilder erkannt werden, die nachträglich bearbeitet wurden. Metadaten werden dabei gar nicht erfasst, die Bilder werden rein mathematisch verglichen. Damit wird natürlich nur bekanntes Material erfasst, das dann blockiert werden kann damit der Vertrieb solchen Materials unterbunden wird.

Microsoft ist nicht die einzige Firma, die eine solche Software zur Bilderkennung entwickelt hat. Auch Google arbeitet seit Jahren mit Initiativen gegen Kinderpornografie zusammen, baut an einem Archiv und hat eine eigene Software entwickelt, die Fotos identifizieren und taggen soll.

Super, dass sich auch die großen Unternehmen Stellung gegen Kinderpornografie beziehen und ihre Verantwortung ernst nehmen. Die Suche nach Kinderpornografie muss so schwer wie möglich sein. Trotzdem bleibt der etwas frustrierende letzte Satz: Am grundlegendem Problem werden auch die zuverlässigsten Filter leider nicht so viel ändern können.

Bild: Rosaura Ochoa / Flickr (CC BY 2.0)

Über den Autor

Thorsten Nötges

Thorsten Noetges ist Nerd, Gamer,und seit 1995 im Internet zu Hause. Er hat von 2013 bis 2014 über 100 Artikel auf BASIC thinking veröffentlicht.

2 Kommentare

  • „Super, dass sich auch die großen Unternehmen Stellung gegen Kinderpornografie beziehen und ihre Verantwortung ernst nehmen.“

    Im PRISM-Zeitalter, und nach dem nun offiziell bekannt ist, dass die großen Internetfirmen eng mit der NSA zusammenarbeiten, wäre ich mit solchen Jubelausbrüchen vorsichtig. Unsere Totalüberwachung dient schließlich auch nur der Terrorabwehr…

  • Oh toll. Wird mal wieder die große „wir sind gegen Kinderpornografie!!!!!!!“ Fahne geschwungen?
    Mal ehrlich, Hand hoch: wer ist auf Twitter schon mal über Kinderpornographie gestolpert? Oder, da wir hier von VERTRIEB reden: wem wurden Bilder zum Kauf angeboten?

    Ich gehe jede Wette ein: NIEMAND!

    Diejenigen, die wissen, was für ein Verbrechen sie begehen, werden sich hüten, damit an die Öffentlichkeit zu gehen.
    Das jetzt ist nur ein Feigenblatt. Ein Reiz- und Tabuthema, mit dem man zeigen kann, dass man doch gut ist und die Kinder schützt.

    Nun, Kinder kann man auch vor Gewalt schützen, vor Nazis, Umweltverschmutzung und kurzsichtigen Bloggern …
    Was wird als nächstes überwacht, wenn mal wieder Aktionismus gebraucht wird, um in die Medien zu kommen?