Das Bonus-Programm für Creator hat die Entstehung von KI-Spam bei Facebook vorangetrieben. Eine Recherche von 404 Media hat nun die Maschinerie hinter der Spam-Produktion aufgedeckt.
Nutzer:innen, die Ihre Konten bei Facebook regelmäßig Beiträge veröffentlichen, haben die Chance, in das Creator Bonus-Programm von Facebook aufgenommen zu werden. So können sie mit Inhalten, die viral gehen, Geld verdienen.
Doch das zieht natürlich nicht nur Creator an. Auch Spam-Fabriken in Ländern wie Pakistan, Indien, Vietnam, Thailand und Indonesien nutzen das Bonus-Programm als Einnahmequelle, wie eine Recherche von 404 Media zeigt.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods 4 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Bonus-Programm von Facebook steigert KI-Spam
Über das Bonus-Programm bei Facebook können berechtigte Nutzer:innen Geld mit ihren Inhalten verdienen. Für manche Beiträge sind das nur ein paar Cent, andere wiederum können auch Hunderte von US-Dollar einspielen.
Dabei steigt die Wahrscheinlichkeit, mehr Geld zu verdienen, je mehr Inhalte auch gepostet werden. Inzwischen hat sich daraus eine Maschinerie entwickelt, die durch Automatisierung immer mehr KI-generierte Inhalte bei Facebook einspielt.
Laut den Recherchen von 404 Media sind das teilweise sogar Hunderte Beiträge pro Tag. Die Spammer erstellen diese beispielsweise mit Tools wie dem AI Image Creator von Microsoft.
Spammer werden systematisch ausgebildet
Ihre Informationen erhalten die Spammer dabei unter anderem über YouTube-Kanäle, die sich auf die KI-Maschinerie spezialisiert haben. Aber auch bei Fiverr und Gumroad oder über Telegram-Kanäle sind Dutzende vom Anleitungen zu finden, die den Umgang mit KI-Bildgeneratoren einfach erklären.
Dabei betreuen die Creator teilweise mehrere Facebook-Konten gleichzeitig und bespielen diese mit der Hilfe von automatisierten Tools. Jason Koebler von 404 Media hat für seine Recherche seinen eigenen KI-Spam-Account eingerichtet.
Mit der Hilfe von Konten bei Vercel und WordPress kann Koebler die automatische Spam-Erkennung von Facebook umgehen. Anschließend erstellt er eine Anzeige mit seinem Konto, veröffentlicht diese aber nicht, sondern nutzt den Vorschau-Link.
Dieser Vorgang kann dann immer wieder wiederholt werden, um Menschen dazu zu bringen, auf Fotoalben zu klicken, die in Wirklichkeit gar keine Fotoalben sind.
Was sagt Meta zu dem KI-Spam bei Facebook?
Gegenüber 404 Media bestätigt Meta, dass die Probleme bekannt sind: „Wir wissen, dass schlechte Akteure ihre Taktiken anpassen, um unsere Regeln zu umgehen, daher arbeiten wir ständig daran, unsere Erkennung und Durchsetzung zu verbessern.“
Allerdings ist der Konzern auch daran interessiert, dass das soziale Netzwerk mit Inhalten gefüllt wird: „Wir ermutigen die Ersteller, KI-Tools zu verwenden, um qualitativ hochwertige Inhalte zu produzieren, die alle unsere Community-Standards erfüllen.“
Man gehe gegen Konten vor, die versuchen, mit „unauthentischem Engagement Traffic zu generieren“. Das geschehe unabhängig davon, ob es sich um KI-generierte Inhalte handele oder nicht.
Auch interessant:
