Künstliche Intelligenz erschafft immer realistischere Bilder, die sich von echten Aufnahmen kaum noch unterscheiden lassen. Das Risiko digitaler Desinformation nimmt dadurch in allen gesellschaftlichen Bereichen zu. Ein neuartiges Verfahren von Fraunhofer-Forschern soll nun Abhilfe schaffen und die Deepfake-Erkennung deutlich verbessern.
Die Zunahme von falschen Aufnahmen im Netz bedroht das allgemeine Vertrauen in die Digitalisierung. Das Projekt RealOrRender widmet sich deshalb der Zuverlässigkeit synthetischer Bilddaten. Das Bundesamt für Sicherheit in der Informationstechnik führt das Vorhaben gemeinsam mit dem Fraunhofer IOSB durch, um wirksame Schutzmechanismen gegen Fälschungen zu entwickeln.
Im Zentrum steht die Frage, wie sich künstlich erzeugte Inhalte möglichst genau von realen Bildern unterscheiden lassen. In Tests mit einem umfangreichen Bilddatensatz bewies das Forscherteam kürzlich das Potenzial eines neu entwickelten Hybridsystems.
Smarter als dein Feed
Lass dich mit unserem Tech-Briefing UPDATE bei KI und den Tech-News von morgen nicht abhängen – kostenlos täglich in der Inbox von über 13.000 Lesern.
Gratis zur Anmeldung:
Zugriff auf alle PDF-Guides
Mit deiner Anmeldung akzeptierst du unsere Datenschutzerklärung.
Die Erkennungsleistung soll bei 85 bis 91 Prozent liegen. In Einzelfällen erreichte das System sogar eine noch höhere Genauigkeit. Die Ergebnisse zeigen, dass sich auch die Zuverlässigkeit der Deepfake-Erkennung gegenüber immer leistungsfähigeren Bildgeneratoren verbessern lässt.
Wie die Rekonstruktion bei der Deepfake-Erkennung unterstützt
Der technische Unterbau des neuen Verfahrens beruht auf einer Kombination aus zwei unterschiedlichen KI-Verfahren. Klassische Deep-Learning-Klassifikatoren werden mit der Messung eines sogenannten Rekonstruktionsfehlers gekoppelt. Denn je besser die Rekonstruktion eines Bildes mithilfe eines KI-Bildgenerators gelingt, desto höher die Wahrscheinlichkeit, dass es sich um ein KI-generiertes Foto handelt.
Neben der reinen Erkennung spielt auch die visuelle Aufbereitung der Ergebnisse eine Rolle. Die Forscher nutzten sogenannte Explainable-AI-Methoden, um die Entstehung maschineller Entscheidungen transparent darzustellen. Über eine Heatmap werden dabei diejenigen Bildbereiche hervorgehoben, die zur Bewertung geführt haben.
Transparenz und Nutzen im Alltag
Segmentbasierte Verfahren zerlegen das Bild zudem in zusammenhängende Bereiche. Auffällige Texturen oder charakteristische Frequenzmuster können der Software beispielsweise als Hinweise dienen, dass ein Bild synthetisch erzeugt wurde.
Andreas Specker, Senior Scientist der Forschungsgruppe Videogestützte Sicherheits- und Assistenzsysteme, erläutert den kompletten Prozess:
Im ersten Schritt rekonstruieren wir das Bild mit einem KI-Bildgenerator. Anschließend übernimmt ein KI-Modell die Klassifizierung und berechnet hybrid den Rekonstruktionsfehler. Am Ende erfolgt eine Einschätzung, wobei die Erkennungsgenauigkeit in Prozentzahlen angezeigt wird. Insgesamt liegt die Erkennungsleistung zwischen 85 und 91 Prozent, sie kann in Einzelfällen aber durchaus höher ausfallen.
Die Forschungsergebnisse fließen zunächst in ein Pilotprojekt ein, das zunächst das Bundesamt für Sicherheit in der Informationstechnik bei der Entlarvung von Deepfakes unterstützen soll. Nutzer können ein Bild hochladen und sollen unverzüglich das Detektionsergebnis mitsamt visueller und textlicher Aufschlüsselung erhalten. Von den zwei bereits veröffentlichten Projektberichten profitieren bereits nicht nur Sicherheits- und Justizbehörden, sondern auch Betreiber von Social-Media-Plattformen, Medienhäusern und Bildagenturen.
Unser Zins-Tipp
Eröffne jetzt dein kostenloses Myntro Festgeld und erhalte 3,38 Prozent Zinsen auf dein Geld – und das garantiert für 12 Monate!
Anzeige
Auch interessant:
