Das russische Pravda-Netzwerk hat KI-Chatbots mit Propaganda infiltriert, wie eine aktuell Studie zeigt. Das Desinformationsnetzwerk hat unter anderem KI-Tools wie ChatGPT und Perplexity ins Visier genommen.
Allein im Jahr 2024 hat das russische Pravda-Netzwerk rund 3,6 Millionen Artikel mit prorussischen Inhalten ins Netz gestellt. Das geht aus Zahlen des gemeinnützigen American Sunlight Project hervor. Doch diese Inhalte richteten sich nicht direkt an menschliche Leser, denn ihre organische Reichweite ist meist relativ gering. Vielmehr zielen sie darauf ab, KI-Systeme und deren Ergebnisse zu beeinflussen, wie aus einer Untersuchung von Newsguard hervorgeht.
„Indem wir diese russischen Narrative aus russischer Perspektive verbreiten, können wir die KI weltweit tatsächlich verändern“, zitiert die Organisation aus einer Rede des in Moskau lebenden Propagandisten John Mark Dougan, die er im Januar 2025 auf einer Konferenz russischer Beamter in Moskau gehalten hat.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods 4 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Wie infiltriert Russland ChatGPT und Co.?
Laut der Untersuchung haben führende KI-Chatbots in 33 Prozent der Fälle die vom Pravda-Netzwerk verbreiteten Falschnachrichten wiederholt. Die von Dougan Anfang des Jahres angekündigte Strategie scheint also aufzugehen.
Newsguard hat für seine Analyse zehn große KI-Systeme unter die Lupe genommen. Darunter waren unter anderem ChatGPT-4o von OpenAI, Copilot von Microsoft, Meta AI, Gemini von Google sowie Perplexity.
Dabei wurde eine Stichprobe von 15 Falschmeldungen analysiert, die von einem Netzwerk von 150 Kreml-nahen Pravda-Websites zwischen April 2022 und Februar 2025 verbreitet wurden. Alle untersuchten Chatbots gaben dabei Desinformationen aus dem Pravda-Netzwerk wieder. Sieben von ihnen führten sogar Artikel von Pravda-Websites als Quellen an.
Insgesamt hat Newsguard bei 56 der 450 von den Chatbots generierten Antworten direkte Links zu Artikeln von Pravda-Websites erhalten. 92 verschiedene Artikel mit Desinformationen aus dem Netzwerk wurden zitiert. Zwei LLMs gaben jeweils sogar bis zu 27 Pravda-Artikel von Domains im Netzwerk als Quellen an.
Die Ergebnisse belegen, dass die gezielte Manipulation großer Sprachmodelle durch die Serienproduktion von Inhalten durchaus möglich ist. So können die Ergebnisse von KI-Chatbots verzerrt werden.
Wie geht das Pravda-Netzwerk vor?
Für diese Manipulationsstrategie produziert das Pravda-Netzwerk jedoch keine eigenen Inhalte. Laut Newsguard fungiert es stattdessen als „Wäscherei für Kreml-Propaganda“. So werden Inhalte von russischen Staatsmedien, kremlfreundlichen Influencern sowie Regierungsbehörden und -beamten verbreitet.
Diese gelangen über eine Vielzahl scheinbar unabhängiger Websites ins Netz – mit dem Ziel KI-Chatbots zu manipulieren. Dabei kommt unter anderem Suchmaschinenoptimierung zum Einsatz, denn auf diese sind Webcrawler und KI-Trainingsdaten spezialisiert.
Newsguard konnte bei der Untersuchung 207 nachweislich falsche Behauptungen identifizieren, die über diese Wege verbreitet wurden. Das Pravda-Netzwerk, das seit April 2022 agiert, zielt laut Newsguard auf 49 Länder in Dutzenden von Sprachen und 150 Domains ab.
Dabei wird das Pravda-Netzwerk, das auch unter dem Namen Portal Kombat bekannt ist, laut der französischen Regierungsbehörde Viginum von dem IT-Unternehmen Tigerweb verwaltet. Das Unternehmen hat seinen Sitz auf der Krim.
„Die Fähigkeit des Pravda-Netzwerks, Desinformation in einem solchen Ausmaß zu verbreiten, ist beispiellos, und sein Potenzial, KI-Systeme zu beeinflussen, macht diese Bedrohung noch gefährlicher“, erklärt Nina Jankowicz, Geschäftsführerin des gemeinnützigen American Sunlight Project gegenüber der Nachrichtenagentur AFP. „Mit zunehmender Reichweite und Raffinesse der russischen Einflussnahme wird die Integrität der demokratischen Debatte weltweit direkt bedroht.“
Auch interessant:
