Deepfake-Videos können täuschend echt aussehen. Es kursierten schon Videos der Demokratin Nancy Pelosi und von US-Präsident Donald Trump im Netz. Jetzt hat es auch Facebook-Chef Mark Zuckerberg erwischt. Wir zeigen dir, warum die gefälschten Clips gefährlich sind.
Ende Mai war auf Facebook ein Video aufgetaucht, das Nancy Pelosi bei einer Rede zeigte. Die Sprecherin des US-amerikanischen Repräsentantenhauses wirkte darin angetrunken. Ihr Verhalten spielte politischen Gegnern natürlich in die Karten. Das perfide ist aber: Der Clip war nicht echt.
Pelosi wurde reingelegt. Das Video war mit einer Deepfake-Technologie manipuliert worden. Künstler hatten Pelosi Worte in den Mund gelegt, die sie so nie gesagt hatte und hätte.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods 4 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Der Clip kratzte natürlich sehr an ihrem Image, auch wenn er schnell als Fake auszumachen war. Die Demokratin wollte das Video von Facebook verbannen, aber die Plattform weigerte sich.
Facebook behält Deepfake-Videos auf der Plattform
Facebook stufte den Inhalt lediglich im Algorithmus herunter, damit das Video nicht so vielen Nutzern im Newsfeed angezeigt wurde. Es genüge, dass der Clip von unabhängigen Faktenprüfern als manipuliert eingestuft und mit einer entsprechenden Kennzeichnung versehen worden war.
Neil Potts, Director Public Policy bei Facebook, erklärte auch: „Wenn in dem Video Mr. Zuckerberg statt Sprecherin Pelosi zu sehen wäre, würden wir es genauso machen.“
Deepfake-Video von Mark Zuckerberg provoziert Facebook-Richtlinien
Jetzt kann Facebook sogar zeigen, wie viel Wahrheit hinter der Aussage steckt. Mark Zuckerberg ist nämlich ebenfalls Opfer der Deepfake-Technologie geworden.
Auf Instagram kursiert ein gefälschter Clip des Facebook-Chefs, in dem er direkt in die Kamera sagt: „Stellt euch einmal vor: Ein Mann mit totaler Kontrolle über die Daten von Milliarden von Menschen: all ihre Geheimnisse, ihre Leben, ihre Zukünfte.“
Sieh dir diesen Beitrag auf Instagram an
Der Clip ist ebenfalls nicht echt, sondern Teil eines Kunstprojekts des israelischen Start-ups Canny AI. Wie schon bei der Demokratin Pelosi, haben Künstler dem Facebook-Chef mit Hilfe von Künstlicher Intelligenz (KI) Worte in den Mund gelegt, die ein Schauspieler eingesprochen hatte.
Wie soll Facebook mit dem Clip umgehen?
Die gefälschten Worte, die aus Zuckerbergs Mund sprudeln, dürften nicht gerade im Interesse von Facebook sein. Trotzdem musste das Unternehmen vorsichtig reagieren.
Der US-amerikanische TV-Sender CBS hat bereits verlangt, das Video zu löschen, weil darin unerlaubt das markenrechtlich geschützte Logo des Senders zu sehen ist. Lässt Facebook den Clip wirklich entfernen, müsste sich der Social-Media-Riese aber vermutlich auf Gegenwind seiner Nutzer gefasst machen.
Nach Potts Aussage zum Peleosi-Video, würde das Unternehmen nämlich an Glaubwürdigkeit einbüßen. Es würde so scheinen, als würde Facebook sich selbst über seine Nutzer stellen. Und das würde sicher alles andere als gut ankommen.
Macht Facebook nichts, könnte es so aussehen, als wären Deepfake-Videos ungefährlich und dürften folgenlos im Netz kursieren. Der Umgang mit dem Zuckerberg-Clip sollte gut überlegt sein. Er könnte wegen seiner hohen Reichweite als Präzedenzfall dienen.
Aktuell scheint es so, als hätten wir eine Antwort auf die Frage: Denn die letzten Entwicklungen zeigen, dass Facebook als Mutter-Konzern von Instagram das Video nicht löschen will.
Kunst, die wachrütteln soll
Neben dem Zuckerberg-Clip kursieren noch zwei weitere Deepfake-Videos auf Instagram. In ihnen sind der US-amerikanische Fernsehstar Kim Kardashian und US-Präsident Donald Trump zu sehen, wie sie über die Macht von Daten sprechen.
Die gefälschten Sequenzen wurden von den britischen Künstlern Bill Posters und Daniel Howe erstellt.
Die Videos waren Teil einer Kunstausstellung, die Mitte Juni auf dem Sheffield Doc/Fest in England präsentiert wurden. Sie sollten den Zuschauern deutlich machen, wie einfach es heute ist, neben Bildern auch Videomaterialien glaubhaft zu manipulieren.
Wir brauchen strenge Regeln für Deepfake-Videos
Früher war nur der Staat in der Lage, überzeugende Fälschungen zu produzieren. Die Videos von Zuckerberg und Co. zeigen, dass wir mit entsprechenden Fähigkeiten und KI-Werkzeugen aber auch selbst manipulierend aktiv werden können. Das ist gefährlich.
Fotos lassen sich mit Bearbeitungsprogrammen wie Photoshop jetzt schon nahezu perfekt verfälschen. Die Möglichkeit, anderen Menschen beliebige Worte in den Mund zu legen, erreicht aber ein ganz anderes Level.
Wir brauchen deshalb strenge Regeln für Deepfake-Videos. Manipulierte Clips müssen klar als solche zu erkennen sein, gerade wenn sie in den sozialen Netzwerken viral gehen und Menschen auf der ganzen Welt erreichen. Sonst könnte bald jeder mit jedem Marionette im Internet spielen.
Auch interessant:
