Elon Musks KI-Chatbot Grok generiert auf Anfrage anzügliche Bilder von Frauen und Kindern. Das Unternehmen hat zwar eine Überprüfung der Funktion eingeräumt. Auf Führungsebene weist man die Verantwortung von sich. Mehrere Länder haben Ermittlungen eingeleitet. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 10.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Neue Grok-Funktion entwürdigt Nutzer
- Seit Anfang Januar kursieren unzählige sexualisierter Bilder auf X (ehemals Twitter). Hintergrund ist eine Funktion des KI-Chatbots Grok, der mittlerweile Teil der Plattform ist. Mit ihr können Nutzer Fotos bearbeiten, unter anderem aber auch normale Fotos von Frauen oder Kindern in KI-Bilder mit anzüglichen Posen oder in Bikini verwandeln.
- Viele Medien griffen das Thema auf und lösten eine Welle der Empörung aus – auch, weil sich die Führungsebene von Mutterkonzern xAI um Kopf und Kragen redete. Gegenüber der Nachrichtenagentur Reuters sprach das Unternehmen etwa von „Lügen der etablierten Medien“. Nachdem der Realität jedoch nicht mehr zu leugnen war, räumte man zwar eine Überprüfung der Funktion ein, tat die Kritik jedoch ab.
- Elon Musk nutzt seine Plattform X und den KI-Chatbot Grok, um seine eigenen politischen Ziele durchzusetzen. Er änderte etwa die Algorithmen zu Gunsten zahlreicher Trump-Anhänger, unterstützt gezielt rechtspopulistische Parteien in Europa und wettert gegen EU-Gesetze, die seine Dienste betreffen. Dabei wird er von der US-Regierung unterstützt. Sowohl die Trump-Administration als auch Musk werfen den Europäern Zensur und Unterdrückung der Meinungsfreiheit vor.
Elon Musk industrialisiert sexuelle Belästigung
Der Grok-Skandal ist kein technischer Ausrutscher, sondern ein Symptom, das zeigt, was passiert, wenn generative KI in ein soziales Netzwerk eingebettet wird. Die Möglichkeit, Bilder direkt auf der Plattform zu manipulieren, verschiebt die Grenze zwischen Ausdruck und Übergriff – und normalisiert digitale Entwürdigung als Funktion.
Auffällig ist nicht nur das Versagen von Schutzmechanismen, sondern die Verschiebung von Verantwortung. Während die KI selbst juristische Kategorien wie „Versagen“ oder gar strafbare Inhalte benennt, setzt die Unternehmensführung auf Kulturkampf-Rhetorik zurück. Kritik wird nicht inhaltlich adressiert, sondern politisiert: Medien lügen, Gesetze unterdrücken, Regulierung gilt als Zensur.
Grok steht damit exemplarisch für Musks Verständnis von Plattformmacht. X ist kein neutraler Raum, sondern ein Instrument, mit dem politische Deutungshoheit getestet und verschoben wird. Die sexualisierten KI-Bilder sind in diesem Sinne kein Betriebsunfall, sondern Kollateralschaden eines Systems, das Provokation belohnt und Grenzen erst anerkennt, wenn Gerichte sie ziehen.
Stimmen
- Wolfram Weimer, Staatsminister beim Bundeskanzler und Beauftragter der Bundesregierung für Kultur und Medien, gegenüber Reuters: „Was wir bei X gerade beobachten, wirkt wie die Industrialisierung der sexuellen Belästigung. Elon Musk erlaubt mit seinem KI-Dienst Grok, täuschend echte, sexualisierte Bilder von Frauen zu erstellen. Insbesondere KI-generierte sexualisierte Bilder von Minderjährigen sind nicht akzeptabel. Die Antwort darauf sollte die konsequente Anwendung von Gesetzen sein.“
- xAI-Chef Elon Musk befeuerte die Welle der Bikini-Manipulationen sogar aktiv. Auf seinem X-Account ließ er Grok ein Meme des Schauspielers Ben Affleck durch ein Bild von sich selbst im Bikini ersetzen. Dafür, dass andere Nutzer die Funktion missbrauchen, will er keine Verantwortung übernehmen: „Wer Grok nutzt, um illegale Inhalte zu erstellen, muss mit denselben Konsequenzen rechnen, als würde er illegale Inhalte hochladen.“
- Betroffene Nutzer haben im Gegensatz zu Musk keinerlei Freude an der Funktion. Samantha Smith, freie Journalistin und Kommentatorin, ist eines von zahlreichen Opfern. Gegenüber der BBC sagte sie: „Das war zwar nicht ich, die da nackt gezeigt wurde, aber sie sah aus wie ich, und es fühlte sich an, als wäre ich es selbst. Es war genauso verletzend für mich, als hätte jemand tatsächlich ein Nackt- oder Bikini-Foto von mir gepostet.“
Wer kontrolliert KI?
Was Elon Musk als Humor und „radikale Freiheit“ inszeniert, trifft in Europa auf eine Wand aus Paragrafen. Ermittlungen in Frankreich, klare Strafandrohungen in Österreich und die scharfen Vorgaben von AI Act und Digital Services Act setzen dem Spieltrieb enge Grenzen. Denn: Deepfakes sind kein Meme, sondern ein Rechtsrisiko.
Der Druck auf X und xAI dürfte weiter steigen, nicht nur juristisch, sondern auch wirtschaftlich. Plattformen, die systemische Risiken ignorieren, riskieren hohe Strafen, Auflagen oder im Extremfall Funktionsbeschränkungen. Ironischerweise verkündete Grok inmitten des Skandals eine neue, milliardenschwere Finanzierung. Diese dürfte aber weniger Rückenwind geben als ein Wettlauf gegen Regulierung sein.
Letztlich geht es um die Frage, wer die Macht generativer KI kontrolliert: Entwickler oder Gesellschaft? Europas Antwort lautet zunehmend Gesetz statt Gag und Verantwortung statt Ausrede. Ob Musk diesen Kurs akzeptiert oder weiter auf Konfrontation setzt, könnte zum Präzedenzfall werden.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 10.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
