Ein Forschungsteam entwickelte ein neues System namens UNITE, um aufwendige, künstlich generierte Deepfakes effektiv zu identifizieren.
KI ist mittlerweile in der Lage, Fake-Videos zu generieren, die sich von echten Inhalten kaum mehr unterscheiden lassen. Doch Forscher haben nun ein KI-Tool namens UNITE entwickelt, das Deepfakes zuverlässiger erkennen soll, als jedes andere System.
Der Hintergrund: Bislang waren Deepfakes vorwiegend Videos, in denen Gesichter getauscht wurden. Diese konnten gängigen Tools bislang anhand von Ungereimtheiten in Gesichtern relativ gut entlarven.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück AirPods 4 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Doch mittlerweile können KIs ganze Szenen, Hintergründe und Stimmen komplett generieren. Das macht viele Detektoren, die ausschließlich darauf ausgelegt sind, Gesichter zu erkennen, praktisch nutzlos.
KI-Tool erkennt Deepfakes – zuverlässiger als je zuvor
Forscher der UC Riverside und von Google haben deshalb das KI-Tool UNITE entwickelt. Es konzentriert sich nicht mehr nur auf Personen im Video, sondern analysiert das gesamte Bild – vom Hintergrund bis zu den kleinsten Bewegungen.
UNITE sucht gezielt nach subtilen, räumlichen oder zeitlichen Unstimmigkeiten, die das menschliche Auge nicht erkennen kann. Das Besondere: Die KI wurde so trainiert, dass sie alle Arten von Fälschungen erkennen können soll.
Von simplen Gesichtstäuschen hin zu komplexen und komplett von KI generierten Videos, die nicht mit der Realität zu tun haben. Diese Entwicklung kommt zu einer Zeit, in der fast jeder Nutzer mit „moderaten Fähigkeiten“ täuschend echte Deepfake-Videos mithilfe von KI erstellen kann.
Ein universeller Detektor gegen Desinformation
Deepfakes stellen eine ernsthafte Bedrohung für die öffentliche Meinung und die Integrität demokratischer Prozesse dar. Deshalb ist UNITE nicht nur ein nettes technisches Spielzeug. Das KI-Tool könnte zu einem wichtigen Werkzeug für Redaktionen, Faktenchecker und Social-Media-Plattformen werden, um zuverlässig Fake-Videos zu erkennen.
Die Forscher sind überzeugt: „Je besser die KI darin wird, die Realität zu fälschen, desto besser müssen wir darin werden, die Wahrheit zu enthüllen.“ Deepfake-Detektoren wie UNITE könnten dabei helfen, das Vertrauen in visuelle Medien zu bewahren. Das KI-Tool befindet sich derzeit jedoch noch in der Entwicklung.
