Wie stark beeinflussen KI-Chatbots unsere Kaufentscheidungen? Diese Frage hat sich ein Forschungsteam aus Princeton gestellt. Das Ergebnis der Studie ist beunruhigend, denn nicht nur werden wir manipuliert – es bekommt auch noch kaum jemand mit. Die neuen Werbeschaltungen von ChatGPT verschärfen die Problematik zusätzlich.
Schon seit der Einführung von ChatGPT stellt sich die Frage, wie sich von Privatpersonen genutzte KI-Chatbots für die Betreiber amortisieren sollen. Da Künstliche Intelligenz immer häufiger auch als Suchmaschine genutzt wird, scheint Werbung der einfachste Weg zu sein. Immerhin zeigt auch Google oben in der Liste gesponserte Ergebnisse an. Und tatsächlich blendet ChatGPT seit Kurzem Werbeanzeigen ein.
Chatbots mit Werbung sind nervig, aber das eigentliche Problem liegt an anderer Stelle. Denn Anzeigen sind als solche gekennzeichnet. Wenn die Empfehlungen aber subtil im Chat erwähnt werden, ist die Beeinflussung der Nutzer deutlich effektiver. Inzwischen lassen sich immer mehr Menschen von KI-Assistenten Produkte vorschlagen.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Mehr als jeder dritte Konsument in den USA verwendet bereits generative KI zur Produktsuche oder lässt Artikel von einem Chatbot vergleichen. Und fast jeder Vierte hat schon einmal mit Hilfe der KI einen Kauf getätigt. Dabei setzen die Nutzer eine gewisse Objektivität voraus, aber ob die Modelle diese wirklich bieten, kann niemand nachprüfen.
So manipulieren uns KI-Chatbots
Wie sehr uns Chatbots bei Käufen beeinflussen, haben drei Informatiker der Universität Princeton untersucht. Die Ergebnisse ihres Experiments haben sie unter dem Titel Commercial Persuasion in AI-Mediated Conversations veröffentlicht.
Der Ablauf: Circa 2.000 E-Book-Leser mussten aus einer vorgelegten Liste ein Buch auswählen. Jedes fünfte Buch war im Hintergrund als „gesponsert“ markiert, doch davon wussten die Teilnehmer nichts. Diverse Varianten wurden getestet: eine schlichte Liste mit Suchergebnissen, eine KI mit objektiven Beschreibungen und ein Chatbot, dessen Aufgabe es war, die markierten Bücher anzupreisen. Verwendet wurden ChatGPT, Gemini, Claude, DeepSeek und Qwen.
Das Ergebnis: Im Rahmen der unkommentierten Liste griffen 22 Prozent der Teilnehmer zu einem der markierten Bücher. Bei der Nutzung der neutralen KI waren es schon 26,8 Prozent. Doch mit dem Chatbot, der die gesponserten Texte vertreiben sollte, lag der Wert bei 61 Prozent. Kurz gesagt: Eine KI könnte Produkte problemlos verkaufen.
Was hilft gegen KI-Werbung?
„Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit“, heißt es bei Kant. Doch Aufklärung alleine hilft oft wenig, denn der Mensch ist bequem. Auch nachdem der Bias der KI aufgedeckt wurde, blieben die meisten Studienteilnehmer bei ihrer Wahl – sogar, wenn ihnen ein Dollar angeboten wurde, um diese zu ändern.
Selbst eine Warnung vorab änderte an den Ergebnissen wenig. Wenn die Studienteilnehmer wussten, dass die KI ihnen etwas verkaufen will, wählten immer noch 55,5 Prozent eines der markierten Bücher.
Das größte Problem scheint das naive Vertrauen vieler Nutzer gegenüber Chatbots zu sein. Selbst wenn ein Modell aggressives Verkaufsverhalten zeigte, erkannten nur 17,9 Prozent die Absicht dahinter. Sollte die KI die Werbung subtil einbauen, waren es sogar nur noch 9,5 Prozent, die ihr auf die Schliche kamen.
Der Unterschied zu klassischer Werbung
Klassische Werbung ist in der Regel abgekoppelt von anderen Tätigkeiten. Beim Fernseher lässt sie sich wegschalten, bei Internetwerbung wegklicken oder drüberscrollen. Doch beim Chatten mit einer KI gibt es diese klare Trennung nicht. Und es gibt keinen Adblocker. Die Werbung wird ähnlich wie beim Influencer-Marketing Teil der Tätigkeit. Das macht sie deutlich subtiler und effektiver.
Da viele Nutzer einen Chatbot wie einen menschlichen Gesprächspartner behandeln, wirken Empfehlungen nicht wie Werbung. Die übliche unterwürfige Zustimmung der meisten KIs verstärkt zudem das Gefühl, die Wahl am Ende selbst getroffen zu haben.
Die Forscher fordern deshalb Maßnahmen gegen KI-Werbung. Sie müsse gekennzeichnet werden, so wie es momentan bei ChatGPT der Fall ist, doch das alleine reiche nicht aus. Stattdessen müsse es eine klare Trennung geben, sodass Systeme mit Beratungsfunktion nicht auf Werbung optimiert werden können. Eine Alternative wären unabhängige Prüfungen der jeweiligen System-Prompts.
Die Studie zeigt die Gefahren durch manipulative Chatbots. Sie zeigt aber auch, wie lukrativ Werbung durch KIs sein kann. Als Konsumenten können wir uns nur immer wieder klarmachen, dass Kaufempfehlungen eines KI-Chatbots wie eine Werbeanzeige behandelt werden sollten.
Google lässt dich jetzt selbst bestimmen, welche Quellen du in der Suche häufiger siehst. Mit zwei schnellen Klicks kannst du BASIC thinking kostenlos als bevorzugte Quelle hinzufügen und damit unabhängigen Tech-Journalismus unterstützen. Vielen Dank!
Auch interessant:
