Zum Schutz vor Kindesmissbrauch hat die EU beschlossen, private Nachrichten von Bürger:innen in Messenger-Diensten per KI-Massenüberwachung scannen zu lassen.
EU-Parlament erlaubt Massenüberwachung von Nachrichten
Am Dienstag stimmte das EU-Parlament einer dreijährigen Übergangsregelung zur Massenüberwachung von Online-Nachrichtendiensten zu. Damit bestätigte das Parlament eine informelle Einigung mit dem Europäischen Rat vom April 2021.
Diese Übergangsregelung erlaubt es Anbietern von internetbasierten Nachrichtendiensten private Nachrichten auf Kindesmissbrauch hin zu durchleuchten.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Sonos Era 100 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Das würde unter anderem Nachrichten in Diensten wie Facebook Messenger, WhatsApp, Gmail-Chat oder auch Skype betreffen. Verschlüsselte Nachrichten sind von den Scans allerdings ausgeschlossen.
Massenüberwachung per KI
Die Anbieter dürfen zur Massenüberwachung Künstliche Intelligenz einsetzen, die die Kommunikation automatisiert scannen soll. Darüber hinaus ist es nach dem neuen Gesetz auch erlaubt, Hashing einzusetzen, um so Videos und Bilder mit missbräuchlichen Inhalten zu finden.
Bei Hinweisen auf Missbrauch oder Grooming (die Praxis, bei der Täter:innen sich online mit Kindern anfreunden, um sie zu missbrauchen), können die Anbieter die Chats löschen sowie an die entsprechenden Behörden weiterleiten.
Daten, die keinen Hinweis auf sexuellen Missbrauch enthalten, müssen sofort nach der Verarbeitung gelöscht werden. Spätestens nach drei Monaten müssen alle Daten dauerhaft gelöscht werden, heißt es in der Erklärung des EU-Parlaments.
Das Parlament begründet diese Entscheidung mit dem Wunsch, Kinder vor sexuellem Missbrauch im Netz zu schützen. Sexuelle Belästigung von Kindern sei aufgrund der Ausgangsbeschränkungen während der Pandemie im vergangenen Jahr eine große Gefahr, heißt es vom Parlament.
Die Parlamentarier glauben, mit der neuen Regelung einen guten Kompromiss zwischen Schutz für Kinder und Datenschutz gefunden zu haben.
Überwachung ohne Verdacht
Doch es regt sich auch Kritik an dem Vorhaben. Bereits in der Vergangenheit sagte der Europäische Datenschutzbeauftragte, dass selbst freiwillige Maßnahmen von Unternehmen, wie die vorgesehenen Scans, einen Eingriff in die Privatsphäre darstellten.
Patrick Breyer von der Piratenpartei wiederum nennt dies eine „Abschaffung des digitalen Briefgeheimnisses.“ Da Nachrichten grundsätzlich, unterschiedslos und ohne einen Vorverdacht gescannt werden können, befürchtet Breyer ebenfalls, dass Bürger:innen grundlos unter Verdacht geraten könnten.
Problematisch sei auch, dass im Verdachtsfall die Unternehmen die persönlichen Daten an die Polizei weiterleiten, ohne dass Betroffene davon wissen, sagt Breyer.
Wenn ein solches KI-Scansystem erstmal aktiv sei, könnten auch Hacker auf diese Daten zugreifen.
Scans haben geringe Trefferquote
Breyer befürchtet, dass das Scannen der nicht-verschlüsselten Nachrichten erst der Anfang sein könnte. Und es gab in der Vergangenheit durchaus Bestrebungen, Behörden auch Zugriff zu verschlüsselten Nachrichten zu ermöglichen.
Darüber hinaus scheint eine derartige Massenüberwachung von Messenger-Diensten auch strafrechtlich nicht sonderlich effektiv zu sein.
So sagte etwa Florian Näf, Sprecher des Schweizer Bundesamts für Polizei, Fedpol, gegenüber der Tagesanzeiger Sonntagszeitung: „2020 trafen bei uns rund 8000 Meldungen ein. Strafrechtlich relevant waren davon zirka 14 Prozent.“
Die Übergangsregelung zur Durchleuchtung von Chats und Messenger-Diensten gilt für maximal drei Jahre.
Auch interessant:
