Künstliche Intelligenz erschafft immer realistischere Bilder, die sich von echten Aufnahmen kaum noch unterscheiden lassen. Das Risiko digitaler Desinformation nimmt dadurch in allen gesellschaftlichen Bereichen zu. Ein neuartiges Verfahren von Fraunhofer-Forschern soll nun Abhilfe schaffen und die Deepfake-Erkennung deutlich verbessern.
Die Zunahme von falschen Aufnahmen im Netz bedroht das allgemeine Vertrauen in die Digitalisierung. Das Projekt RealOrRender widmet sich deshalb der Zuverlässigkeit synthetischer Bilddaten. Das Bundesamt für Sicherheit in der Informationstechnik führt das Vorhaben gemeinsam mit dem Fraunhofer IOSB durch, um wirksame Schutzmechanismen gegen Fälschungen zu entwickeln.
Im Zentrum steht die Frage, wie sich künstlich erzeugte Inhalte möglichst genau von realen Bildern unterscheiden lassen. In Tests mit einem umfangreichen Bilddatensatz bewies das Forscherteam kürzlich das Potenzial eines neu entwickelten Hybridsystems.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Die Erkennungsleistung soll bei 85 bis 91 Prozent liegen. In Einzelfällen erreichte das System sogar eine noch höhere Genauigkeit. Die Ergebnisse zeigen, dass sich auch die Zuverlässigkeit der Deepfake-Erkennung gegenüber immer leistungsfähigeren Bildgeneratoren verbessern lässt.
Wie die Rekonstruktion bei der Deepfake-Erkennung unterstützt
Der technische Unterbau des neuen Verfahrens beruht auf einer Kombination aus zwei unterschiedlichen KI-Verfahren. Klassische Deep-Learning-Klassifikatoren werden mit der Messung eines sogenannten Rekonstruktionsfehlers gekoppelt. Denn je besser die Rekonstruktion eines Bildes mithilfe eines KI-Bildgenerators gelingt, desto höher die Wahrscheinlichkeit, dass es sich um ein KI-generiertes Foto handelt.
Neben der reinen Erkennung spielt auch die visuelle Aufbereitung der Ergebnisse eine Rolle. Die Forscher nutzten sogenannte Explainable-AI-Methoden, um die Entstehung maschineller Entscheidungen transparent darzustellen. Über eine Heatmap werden dabei diejenigen Bildbereiche hervorgehoben, die zur Bewertung geführt haben.
Transparenz und Nutzen im Alltag
Segmentbasierte Verfahren zerlegen das Bild zudem in zusammenhängende Bereiche. Auffällige Texturen oder charakteristische Frequenzmuster können der Software beispielsweise als Hinweise dienen, dass ein Bild synthetisch erzeugt wurde.
Andreas Specker, Senior Scientist der Forschungsgruppe Videogestützte Sicherheits- und Assistenzsysteme, erläutert den kompletten Prozess:
Im ersten Schritt rekonstruieren wir das Bild mit einem KI-Bildgenerator. Anschließend übernimmt ein KI-Modell die Klassifizierung und berechnet hybrid den Rekonstruktionsfehler. Am Ende erfolgt eine Einschätzung, wobei die Erkennungsgenauigkeit in Prozentzahlen angezeigt wird. Insgesamt liegt die Erkennungsleistung zwischen 85 und 91 Prozent, sie kann in Einzelfällen aber durchaus höher ausfallen.
Die Forschungsergebnisse fließen zunächst in ein Pilotprojekt ein, das zunächst das Bundesamt für Sicherheit in der Informationstechnik bei der Entlarvung von Deepfakes unterstützen soll. Nutzer können ein Bild hochladen und sollen unverzüglich das Detektionsergebnis mitsamt visueller und textlicher Aufschlüsselung erhalten. Von den zwei bereits veröffentlichten Projektberichten profitieren bereits nicht nur Sicherheits- und Justizbehörden, sondern auch Betreiber von Social-Media-Plattformen, Medienhäuser und Bildagenturen.
Google lässt dich jetzt selbst bestimmen, welche Quellen du in der Suche häufiger siehst. Mit zwei schnellen Klicks kannst du BASIC thinking kostenlos als bevorzugte Quelle hinzufügen und damit unabhängigen Tech-Journalismus unterstützen. Vielen Dank!
Auch interessant:
