Social Bots haben einen großen Einfluss auf uns. Und wir erkennen den Ernst der Lage noch nicht einmal. Was sie so gefährlich macht und was wir gegen sie unternehmen sollten.
Social-Media-Trends sind häufig Grundlage für Politik und Medien, die gesellschaftliche Meinung einzuholen. Anhand von Trends beispielsweise auf Twitter kann man ablesen, was gerade am häufigsten diskutiert wird, welcher Hashtag am meisten Erwähnung findet. Politische Meinungsbildung findet zu einem nicht unerheblichen Teil im Internet statt. In den USA beispielsweise gibt es Agenturen, die Social-Media-Trends analysieren und darauf basierend Politikberatung betreiben.
Social Bots und ihr Gefahrenpotenzial
Social Bots, Künstliche Intelligenzen, die sich zu Tausenden in sozialen Netzwerken tummeln und gezielt Beiträge liken und retweeten, stellen eine zunehmende Gefahr für die Authentizität von Trends dar. Denn solche Trends entstehen durch die bloße Masse an Erwähnung, Retweets und Likes. Ein einziges Programm ist mittlerweile in der Lage, mehrere tausend Fakeprofile zu steuern. Sie sind in der Lage, gezielt Trends in sozialen Netzwerken entstehen zu lassen, die ohne Einwirkung von Bots eigentlich gar keine geworden wären. Das kann ein kaum zu bewältigendes Gefahrenpotenzial darstellen.
Neue Stellenangebote
Growth Marketing Manager:in – Social Media GOhiring GmbH in Homeoffice |
||
Senior Social Media Manager (m/w/d) Müller Holding GmbH & Co. KG in Ulm-Jungingen |
||
Content & Community Manager (m/w/d) Social Media AS Arbeitsschutz GmbH in Bedburg-Mühlenerft bei Köln |
Wenn Social Bots beispielsweise überwiegend kritische Beiträge über die aktuelle Flüchtlingsdebatte kopieren und verbreiten, entsteht schnell der verzerrte Eindruck, ein enorm großer Anteil der Internetnutzer teile diese Meinung, obwohl lediglich Algorithmen dahinter stehen. Diese Gefahr wird noch immer stark unterschätzt und gesellschaftlich kaum beachtet.
Dabei geht der Politologe Simon Hegelich in einer kürzlich veröffentlichten Studie davon aus, dass Social Bots einen großen Einfluss auf die Meinungsbildung bei der Brexit-Abstimmung, der Krim-Annexion, dem Ukrainekonflikt und aktuell im US-Wahlkampf zwischen Donald Trump und Hilary Clinton ausüben. Und dabei können viele Bots, wie am Ukrainekonflikt deutlich zu erkennen war, mittlerweile weitaus mehr als nur bloßes Liken und Retweeten. Viel komplexer und durchdachter agieren sie mittlerweile.
Durch ihr ausgewogenes Tag-Nacht-Verhalten, ihre Auswahl an Hashtags, ihre Follower und ihre selbst gefolgten Profile fallen sie kaum als künstliche Intelligenzen auf, wirken nahezu menschlich und erreichen darüber hinaus auch genau die Zielgruppen, die sie erreichen wollen. Sie können mit echten Nutzern interagieren, auf Kommentare antworten und eigene Beiträge verfassen.
Algorithmen machen Weltpolitik
Social Bots sind dabei sogar eine Gefahr für die Demokratie. Sie erschaffen ein falsches Meinungsbild und beeinflussen, wenn auch nur indirekt, unsere Sicht auf das politische Geschehen, wirken in gewisser Weise auf unsere Wahrnehmung ein. Beispielsweise sorgten Social Bots nach dem ersten TV-Duell der US-Präsidentschaftskandidaten Hilary Clinton und Donald Trump dafür, dass der Hashtag #TrumpWon schnell in die Twitter-Trends aufstieg. Während die Presse Trump eher als Verlierer sah, zeichnete ein Blick auf die Twitter-Trends also ein ganz anderes Bild.
Hegelich schließt außerdem nicht aus, dass Social Bots einen nicht zu unterschätzenden Anteil am Ausgang der Brexit-Abstimmung hatten. Sie sind also durch ihre schiere Masse in der Lage, weitreichende politische Debatten zu beeinflussen, stellen für denjenigen, der sie steuert und programmiert, einen enorm hohen Machtfaktor dar. Sie sind durch ihre zunehmende Intelligenz und ihr enorm hohes Einflusspotenzial gefährlicher und gleichzeitig bedeutender als so manche Snwoden-Enthüllung.
Und was kann man dagegen tun?
Der sogenannte „Bot-Effekt“ (Hegelich), der Einfluss von Social Bots auf uns und unsere Entscheidungen, lässt sich natürlich empirisch kaum erfassen. Aber je eher der Eindruck entsteht, ein soziales Netzwerk bestehe nicht mehr überwiegend aus menschlichen Accounts, sondern größtenteils aus künstlichen Intelligenzen, aus Fake-Profilen, desto weniger attraktiv wird es natürlich für seine Nutzer. Social Bots dürften sogar einer der Gründe sein, warum aktuell niemand so recht Interesse daran hat, Twitter zu übernehmen.
Die größte Verantwortung gegenüber Social Bots lastet natürlich auf den sozialen Netzwerken selbst. Offenbar schaffen sie es bisher nicht, das Bot-Aufkommen so weit wie nötig transparenter zu gestalten und einzugrenzen. Wichtig ist daher die Weiterentwicklung von Software wie beispielsweise BotOrNot, die darauf ausgelegt ist, Fake-Profile zu erkennen.
Doch fast noch wichtiger ist es, die gesellschaftliche und politische Relevanz von künstlicher Intelligenz in sozialen Netzwerken breiter und häufiger zu diskutieren, sie Gegenstand des Diskurses rund um Demokratie und Internet zu machen. Über die Gefahren von Algorithmen auf Twitter, Facebook und Co. sollten sich alle Nutzer im klaren sein. Soziale Netzwerke sind kein Spiegel der Gesellschaft. Auch wenn eine solche Annahme oft verlockend zu sein scheint.
Verantwortung liegt also auch bei jedem einzelnen Nutzer. Social Bots müssen gesellschaftlich breiter wahrgenommen werden. Ein kritischer Umgang mit künstlicher Intelligenz im Netz ist daher genau so wichtig wie die gesunde Grundskepsis gegenüber jeder Information im Internet.
Auch interessant: Ausprobiert: Chat-Bot Resi will Nachrichten im WhatsApp-Stil aufs Smartphone bringen
Einige Lösungsansätze zum Thema „Gefahr für die Demokratie durch Social Bots“ habe ich in der NZZ mal skizziert: http://www.nzz.ch/digital/automatisierte-trolle-warum-social-bots-unsere-demokratie-gefaehrden-ld.116166
Und erste politische Institutionen wie die Hamburger Sozialbehörde reagieren bereits sehr professionell: https://www.welt.de/regionales/hamburg/article158756655/Wie-Social-Bots-die-Meinungsbildung-beeinflussen.html bzw. http://www.hamburg.de/basfi/pressemeldungen/6755364/soziale-netzwerke/
Martin Fuchs
Ich halte diesen Beitrag für ziemlich übertrieben. Viel gefährlicher finde ich richtige Robots mit künstlicher Intelligenz, die schon eigenständig in 3D kommunizieren können
Von Social Media halte ich nicht so viel
Guter Artikel! Den Hinweis auf botnornot.co fand ich vielversprechend und habe gleich mal meinen Twitter-Account checken lassen. 8% meiner Follower sind Fake, 16% derjenigen, denen ich folge, ebenfalls. Problem dabei: Es sind 100% false positives. 🙁
Hallo! Super geschriebener Artikel! Leider müsste man dich wahrscheinlich auch als social bit einstufen… Ich finde die Diskussion spannend aber bin mir sicher, dass ein social bot keinen Einfluss hat.
Ich beziehe meine Informationen hauptsächlich aus dem sehr guten 34c3 Vortrag.
https://youtu.be/6jNWl5d_DOk
Liebe Grüße Niklas
Hallo Fabian!
Ein sehr interessanter Artikel über Social Bots. Aber deine Schlussfolgerungen sind nicht selbstverständlich.
Es kann ja auch sein, dass die Mehheit der Bevölkerung wirklich was ganz anderes wollen und denken, als die „alten Medien“ uns vermitteln wollen.
Und deine Beispiele etwa mit Brexit oder auch Trump könnten auch darauf hindeuten, dass die Mehrheit der Menschen doch was ganz anderes wollen, als das was einem von der Presse vermittelt wird.
Und gerade bei der Brexit-Wahl hat man gesehen, dass die Mehrheit anders gewählt hat, als von der Presse davor dargestellt wurde.
Und es ist auch jetzt spannend zu beobachten, wie es sich mit den Wahlen in USA verhalten wird. Denn laut der Presse ist die Wahl eindeutig für Clinton entschieden. Aber laut Internet-Meinungsbild ist es genau anders herum. Dort wird der Sieg von Trump eindeutig preferiert.
@John: Problem ist aber, dass nicht nur Presse und Politik, sondern auch die Bevölkerung durch Social Bots einen falschen Eindruck gesellschaftlicher Trends erhält. Und ein manipulierter Trend kann deutlich undemokratische Auswirkungen annehmen.
Falls Bots von lediglich einem Programm auf einem Rechner gesteuert werden, so kann mittels eines einfachen Device Fingerprinting die Anlage und der Betrieb auf eines oder wenige Endgeräte zurück verfolgt werden. Falls die Auswirkungen so extrem sind, dann wäre dies ein wirksames Mittel. Natürlich nur zum Preis einer weniger restriktiven Datenschutzreglung. Mit Sicherheit eine schwierige Abwägung.
[…] zwischen Clinton und Trump trendete plötzlich der Hashtag #TrumpWon – das und andere Beispiele nennt unser Autor Fabian Mirau und zeigt auf, wie sie das Meinungsbild […]
[…] Großteil der Internetnutzer teile diskriminierende, menschenverachtende Meinungen (dabei spielen Social Bots übrigens ebenso eine tragende […]
So richtig kann ich nicht erkennen, dass sich da eine neue große Gefahr hinter verbirgt. Früher wurde das Meinungsbild maßgeblich von den klassischen Medien geprägt. Anfangs dem Radio. Und hinter den Botschaften stehen immer Menschen mit irgendwelchen Interessen.
Das Problem ist vielmehr die Mitläufermentalität der Menschen. Es ist bequemer, sich einer vermeintlichen Mehrheit anzuschließen als selbst darüber nachdenken zu müssen. Diese Tatsache wird immer eines der Hauptprobleme der Demokratie bleiben.
Ja das sehe ich genau so. Ich entziehe mich gerade den klassischen Medien wie Fern sehen, Radio und Zeitung. Mein Weltbild hat sich bereits sehr signifikant geändert und mir wurde bewusst, wie sehr ich durch die Medien beinflusst bin. Ich kann das Experiment nur wärmstens empfehelen.
[…] einigen Wochen habe ich hier über Social Bots und ihre Gefahren geschrieben. Dass sie zum Beispiel öffentliche Debatten durch das Verfälschen von Trends […]
[…] Auch interessant: Wie uns Social Bots beeinflussen und warum sie so gefährlich sind […]
[…] Auch interessant: Wie uns Social Bots beeinflussen und warum sie so gefährlich sind […]
[…] auf Twitter nicht unbedingt zu einer positiven Konnotation mit der Marke. Und der Problematik durch Social Bots ist das Unternehmen bisher noch nicht Herr geworden. Neue Nutzer könnten also auch lediglich neue […]