Ob auf YouTube, Instagram, Facebook oder TikTok: Im Netz kursieren immer mehr KI-Inhalte und Deepfakes – auch, weil viele Nutzer diese unbedarft teilen. Doch trotz des rasanten Fortschritts im KI-Bereich und zunehmender manipulativer Inhalte gibt es einige Stellschrauben, um KI-Inhalte zu erkennen. Es muss nur ein Umdenken stattfinden. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 10.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
KI-Videos erkennen
- Immer mehr KI-generierte Videos fluten das Internet. Das gilt nicht nur für digitale Medien, sondern vor allem für Portale wie YouTube, von wo aus solche Clips weiterverbreitet werden. Das Problem: Statt handgemachter Unterhaltung, nerdigen Inhalten oder hochwertigen Dokumentationen landen immer mehr KI-Schrott und Fake-Videos im Netz. Oder kurzum: Inhalte, die nur darauf abzielen, Klicks zu erzielen oder manipulative Inhalte zu verbreiten.
- Die viel größere Gefahr geht dabei von sogenannten Deepfakes aus. Das sind Audio- und Videoaufnahmen, die mithilfe von Künstlicher Intelligenz erstellt wurden. Gesichter und Personen können so beispielsweise ausgetauscht oder in andere Aufnahmen eingefügt werden. Vor allem Logik- oder Bildfehler können jedoch (noch) auf Deepfakes hinweisen. Darunter: unscharfe Stellen, merkwürdige Proportionen oder ein unpassender Kontext.
- Aufgrund der rasanten Fortschritte in der KI-Branche wird es immer schwieriger, Bilder und Videos zu erkennen, die mithilfe Künstlicher Intelligenz generiert wurden. KI-Tools wie Sora oder Seedance sind mittlerweile etwa in der Lage, Fake-Videos zu generieren, die sich von echten Inhalten kaum mehr unterscheiden lassen. Doch es gibt mittlerweile Websites, die dabei helfen können, manipulierte Aufnahmen zu erkennen. Plattformen wie DeepFake-o-meter oder UNITE analysieren beispielsweise hochgeladene Videos und können gefälschte oder irreführende Aufnahmen entlarven.
Ein Umdenken muss stattfinden
Zwischen Katzenclips und Kanzlerreden verschwimmen im Netz aktuell die Grenzen zwischen Fakt und Fiktion – und zwar mehr denn je. Einst war die Demokratisierung der Bildproduktion noch ein Versprechen. Nun ist sie ein Risiko. Denn wenn fast jeder mit wenigen Klicks täuschend echte Bilder und Videos erzeugen kann, verschiebt sich die Beweislast.
Nicht mehr der Fälscher muss überzeugen, sondern der Zweifelnde widerlegen. KI ist dann jedoch kein Werkzeug mehr, sondern ein Machtfaktor. In den Händen von Populisten ist sie ein zusätzliches Megafon zu ohnehin schon irreführenden Inhalten. In den Händen von Betrügern ist sie ein Chamäleon.
Beunruhigend ist dabei weniger die Existenz manipulierter KI-Inhalte, sondern vielmehr ihre Normalisierung. Wenn etwa selbst professionelle Redaktionen ins Straucheln geraten, offenbart das ein strukturelles Problem. Denn Geschwindigkeit schlägt leider allzu häufig Sorgfalt und Emotionalität schlägt Einordnung.
Heißt konkret: Wer heutzutage Inhalte veröffentlicht, konkurriert mit Algorithmen und übernimmt deren Tempo und das anderer Nutzer oder Medien. Aus Klickgeilheit verlieren dabei sowohl der Journalismus als auch die digitale Gesellschaft ihren Kompass. Dabei sind die Gegenmittel, um KI-Videos zu erkennen, weder neu noch geheim.
Es muss schlichtweg ein Umdenken stattfinden. Oder kurzum: Quellen prüfen, Kontext suchen, Bilder auf Logikbrüche abklopfen und Überprüfungstools nutzen. Skepsis ist aber nicht und darf nicht als Miesmacherei gelten, sondern als digitale Hygiene. Denn: Vertrauen ist gut. Gegencheck ist spätestens 2026 aber viel besser.
Stimmen
- Andreas Dengel, Direktor des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), in einem Interview mit SWR Aktuell: „In den letzten Jahren haben sich die Tools stark verbessert, dass man kaum mehr einen Unterschied erkennen kann. Bei Videos kann man eher Auffälligkeiten entdecken: etwa unsaubere Übergänge oder fehlerhafte Schriftzüge. Wenn im Hintergrund ein Ladenname falsch geschrieben ist oder der Text keinen Sinn ergibt, ist das oft ein Hinweis. Im digitalen Raum ist KI sehr gefährlich, indem sie gezielt zur Manipulation eingesetzt wird. Bilder und Videos werden millionenfach verbreitet, um Menschen zu manipulieren.“
- Digitalminister Karsten Wildberger (CDU) gegenüber Deutschlandfunk: „Neben dem unsäglichen Thema dieser Deepfakes werden wir uns massiv mit Themen beschäftigen müssen, wenn eine KI scheinbare Informationen entwickelt. Wo sind die Fakten? Basiert das auf Quellen? Oder ist das einfach künstlich generiert? Wenn wir Bilder haben, die es so in der Realität nie gab, aber etwas so etwas suggerieren, was ist dann eigentlich wahr oder nicht wahr? Natürlich haben wir immer Dinge modifiziert, Bilder, Filme, künstlich animiert. Aber der Unterschied ist, die hatten immer einen wahren Kern.“
- KI-Experte Rafael Bujotzek hat in einem Interview mit SWR3 einige Tipps parat, die zunächst banal erscheinen mögen, aber leider nur selten beherzigt werden: „Überprüft immer, ob Inhalte echt sind, bevor ihr sie mit anderen teilt! Sonst werdet ihr selbst zum Brandbeschleuniger für derartige Waffen. Ich muss mich aus dieser zurückgelehnten Berieselungshaltung rausnehmen und mich nach vorne lehnen, richtig auf das Bild oder Video gucken. Man kann es nicht schnell erkennen. Und schon gar nicht auf einem kleinen Handybildschirm. Das wichtigste Tool bei KI-Videos: dein Kopf.“
KI-Videos erkennen: Kennzeichnungspflichten und Transparenzregeln
Die aktuelle technologische Entwicklung verspricht zwar Lösungen, um KI-Bilder und -Videos zu erkennen, wird das Problem aber nicht entschärfen, sondern vielmehr zuspitzen. Denn je perfekter KI-Inhalte generiert werden, desto mehr verschiebt sich der Kampf von der Oberfläche in die Tiefe.
Und zwar weg von Pixel-Fehlern und hin zur inhaltlichen Manipulation. Künftig wird es deshalb weniger entscheidend sein, ob ein Video künstlich ist, sondern ob es gezielt täuschen soll. Sowohl die digitalen Medien als auch KI-Anbieter und die Politik stehen deshalb in der Pflicht.
Heißt: Es braucht Kennzeichnungspflichten und Transparenzregeln. Der europäische AI Act sieht diese zwar bereits vor, doch er darf nicht zu einem bürokratischen Feigenblatt verkommen. Denn wenn Regulierung Wirkung entfalten soll, muss sie durchgesetzt, kontrolliert und notfalls sanktioniert werden.
Letztlich ist aber vor allem das Nutzerverhalten entscheidend. Will heißen: „Erst denken, dann klicken“ sollte und muss das gleichzeitig simple wie effektive, aber dennoch selten umgesetzte Motto lauten. Denn die größte Gefahr sind nicht KI-generierte Inhalte, sondern echte Empörung auf Grundlage von Fakes.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 10.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
