KI-generierte Antworten auf politische Fragen wirken oft authentischer, schlüssiger und relevanter als Antworten von Politikern. Das ist das Ergebnis einer aktuellen Studie, die vor einem Missbrauch von Sprachmodellen und einer Manipulation der öffentlichen Meinung warnt. Die Erkenntnisse offenbaren aber nicht nur Risiken und Leistungsfähigkeit von KI, sondern auch, wie sehr unsere Debattenkultur und die politische Kommunikation kranken. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
KI klingt authentischer als Politiker
- KI-generierte Antworten auf Fragen aus einer im britischen Fernsehen ausgestrahlten politischen Diskussionssendung überzeugten Studienteilnehmer mehr als die von Menschen. Das ist das Ergebnis einer Analyse der Universität Passau. Demnach wurden die KI-Antworten als authentischer, stimmiger und relevanter bewertet. Die Forscher nutzten das Sprachmodell GPT-4 Turbo von OpenAI, um Antworten aus 30 Folgen der BBC-Sendung „Question Time“ zu generieren. Normalerweise beantworten Persönlichkeiten aus Politik und Gesellschaft die Publikumsfragen in der Sendung.
- Die Forscher fütterten die KI mit den Wikipedia-Biografien von 112 verschiedenen Persönlichkeiten, die bereits zu Gast in der Sendung waren, und wiesen das Modell an, ihre Antworten auf in „Question Time“ gestellte Fragen zu imitieren. Von 2020 bis 2022 extrahierten sie zudem 119 Fragen mit mehr als 500 Antworten aus der Sendung. Im Rahmen einer repräsentativen Stichprobe bewerteten anschließend knapp 1.000 Menschen sowohl die Originalantworten als auch die KI-Antworten. Die drei Hauptkriterien: Authentizität, logischer Aufbau und inhaltliche Relevanz. Das Ergebnis: Die Befragten stuften die imitierten Inhalte überwiegend als authentischer, schlüssiger und relevanter als die menschlichen Antworten ein.
- Den Forschern zufolge sind die Auswirkungen ihrer Ergebnisse auf die politische Kommunikation gravierend. Akteure mit schädlicher Absicht könnten mithilfe von KI öffentliche Meinungen mit falschen, aber glaubwürdig klingenden politischen Aussagen überfluten, etwa um Verwirrung zu stiften oder bestimmte Narrative zu bedienen. Vor allem in Kombination mit Deepfakes, also künstlich generierten Stimmen und Videos von öffentlichen Personen, sei das gesellschaftliche Risiko enorm.
Politische Kommunikation maschinenhafter als KI?
Die Pointe der Studie aus Passau ist nicht unbedingt, dass KI mittlerweile gute Antworten liefern kann. Das dürfte eigentlich kaum noch jemanden überraschen. Erstaunlicher ist vielmehr, dass viele die politische Kommunikation auf menschlicher Ebene als unauthentisch, irrelevant und unpassend empfinden.
Wobei: Wirklich überraschen tut mich das nicht. Denn viele Politiker schwadronieren seit Jahren nur Einheitsbrei. Sie reden zwar viel, haben aber kaum etwas zu sagen. Dass KI solche eintönigen, unkonkreten oder kurzum langweiligen Antworten mittlerweile übertrumpft, ist deshalb fast schon logisch.
Ein gut trainiertes Sprachmodell hat nämlich sprachlich mehr auf Lager als die immer gleichen Floskeln. Das wirft auch ein unangenehmes Licht auf die politische Kommunikation. Denn viele Politiker trainieren seit Jahren eine Sprache aus möglichst glatten Botschaften, die möglichst wenig Angriffsfläche liefern.
Doch KI ist nicht nur deutlich besser geworden. Politik klingt auch maschinenhaft. Da erscheint es wenig verwunderlich, dass Populisten mit ihrer Sprache punkten – selbst wenn vieles stark vereinfacht, erfunden oder schlichtweg falsch ist. Dass KI von radikalen politischen Kräften genutzt und missbraucht wird, um gezielt Narrative zu bedienen, Verwirrung zu stiften oder Falschinformationen zu verbreiten, findet meiner Meinung nach längst statt.
Das ist zweifellos eine große Gefahr. Doch viel erschreckender erscheint mir die Erkenntnis, dass demokratische Kräfte mit ihrer schematischen Sprache immer weniger Menschen erreichen. Die Studie ist deshalb weniger eine technische Erfolgsmeldung für Künstliche Intelligenz oder eine Warnung vor neuen Risiken, sondern eine Diagnose, wie schlimm es um unsere Debattenkultur steht.
Stimmen
- Steffen Herbold, Professor für AI Engineering an der Universität Passau, in einem Statement: „Wir haben beobachtet, dass Sprachmodelle immer besser darin geworden sind, einen vorgegebenen Stil zu imitieren. Sprachmodelle sind damit in der Lage, gezielte politische Kommunikation zu generieren und damit die öffentliche Meinung zu beeinflussen. (… ) Unsere Studie zeigt zweierlei: Sprachmodelle können dazu gebracht werden, einen sinnvollen Beitrag zu öffentlichen Debatten zu leisten. Es ist aber dringend notwendig, die Öffentlichkeit über den potenziellen Schaden aufzuklären, den dies für die Gesellschaft haben kann.“
- Co-Autorin Annette Hautli-Janisz, Juniorprofessorin für Computational Rhetoric und Natural Language Processing an der Universität Passau, ergänzt: „Problematisch ist insbesondere, dass Antworten, die inhaltlich abweichen, als authentisch eingestuft werden. Denn dann sind wir mit der Situation konfrontiert, dass die KI-Technologie zur gezielten Fehlinformation über den Standpunkt des Sprechers eingesetzt werden kann. (… ) Das betrifft das Kriterium der Authentizität, also den Kern unserer Studie. Gemeint ist die Frage, ob eine Antwort wirklich so in einer Live-Situation gefallen sein könnte.“
- Geoffrey Hinton, Informatiker, Kognitionspsychologe und Physik-Nobelpreisträger 2024, in einem Interview: „KI-Systeme werden am Ende viel mehr wissen als wir. Sie wissen bereits viel mehr als wir und sind insofern intelligenter als wir, als man eine Debatte mit ihnen über irgendein Thema verlieren würde. Da sie emotional klüger sein werden als wir – und das werden sie –, werden sie besser darin sein, Menschen emotional zu manipulieren. Und all diese Manipulationstechniken hat sie allein dadurch gelernt, dass sie versucht hat, das nächste Wort in allen Dokumenten im Internet vorherzusagen, denn die Menschen manipulieren sehr viel, und die KI hat anhand dieser Beispiele gelernt, wie man das macht.“
Weniger Floskeln, mehr Haltung: Was die Politik jetzt ändern muss
Die Verlockung, KI nicht nur als Hilfsmittel, sondern als Ghostwriter einzusetzen, ist zugegebenermaßen groß. Doch es wäre die falsche Konsequenz, sich politische Inhalte von Algorithmen diktieren zu lassen oder politische Inhalte Algorithmen zu diktieren. Denn dann würden Politik und Debatten zu einem Prompt-Wettbewerb verkommen.
Wichtiger wäre vielmehr das Gegenteil dessen, was viele Parteien seit einigen Jahren kultiviert haben. Sprich: weniger Floskeln, weniger Sprachtraining und mehr Haltung, Authentizität und vor allem Konkretes. Klar: Wer mehr Mut zu klaren Positionen wagt, eckt womöglich hier und da an.
Doch genau davon lebt die demokratische Debattenkultur: von Streit, von unterschiedlichen Meinungen und von unterschiedlichen Positionen – ein gewisses demokratisches Niveau vorausgesetzt. Aber auch davon – KI hin oder her – zu widersprechen, wenn Fakten verdreht, trügerische Ansichten bedient oder schlichtweg falsche Informationen verbreitet werden.
Denn das kann KI zwar imitieren, aber nicht glaubhaft leben. Echtheit entsteht nicht durch perfekte Formulierungen, sondern durch erkennbare Überzeugungen. Die Passauer Studie sollte deshalb nicht nur als Warnung vor künstlicher Intelligenz gelesen werden, sondern als Weckruf für die politische Kommunikation insgesamt.
Solange demokratische Parteien glauben, jede Aussage müsse erst durch einen Filter maximaler Unverbindlichkeit laufen, wird KI diesen Stil immer besser beherrschen als ihre menschlichen Vorbilder. Indes: Auch wenn reaktionäre Akteure zunächst eine vielleicht konkretere und mitreißendere Sprache an den Tag legen, inhaltlich kommt danach vor allem eines: herzlich wenig.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
