Die EU-Kommission hat ChatGPT offiziell als „sehr große Online-Suchmaschine“ eingestuft. Das ist ein Novum für ein KI-Modell. Zusammen mit Reddit und Roblox fällt der Chatbot von OpenAI damit unter die strengen Regeln des Digital Services Act (DSA). Für OpenAI bedeutet das: mehr Kontrolle, mehr Transparenz und bei Verstößen Strafen von bis zu sechs Prozent des weltweiten Jahresumsatzes. Aber reicht all das, um Nutzer besser zu schützen? Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Warum die EU ChatGPT jetzt als Suchmaschine einstuft
- Auf Online-Plattformen kann man sich austauschen, mit anderen vernetzen, Informationen suchen oder sich einfach inspirieren lassen. Auch KI-Modelle können in bestimmten Situationen praktisch oder hilfreich sein. Doch sowohl Online-Plattformen als auch Chatbots werden immer wieder missbraucht, etwa für kriminelle Machenschaften oder um Desinformation zu streuen. Die Europäische Kommission will dem Einhalt gebieten. Laut einer offiziellen Mitteilung stehen ChatGPT, das Online-Forum Reddit und die Spieleplattform Roblox deshalb ab sofort unter strengerer Beobachtung. Der Grund: Alle drei Dienste haben die Marke von 45 Millionen Nutzern pro Monat in der EU geknackt. Damit fallen sie unter den Digital Services Act (DSA).
- ChatGPT wird laut EU ab sofort als „sehr große Online-Suchmaschine“ eingestuft, so wie beispielsweise auch Google. Die Kommission begründet die Einstufung damit, dass der Chatbot auf das Internet zugreift, um Antworten auszuspucken. Per Definition sei ChatGPT damit eine hybride Suchmaschine. Laut Kommission nutzen derzeit rund 159 Millionen Menschen innerhalb der EU den Chatbot. Anders als bei ChatGPT werden Inhalte auf Reddit und Roblox von Nutzern selbst erstellt. Beide wurden nun als „sehr große Online-Plattformen“ eingestuft und müssen damit vor allem illegale Inhalte bekämpfen, Nutzer besser schützen und regelmäßig einen Risikobericht veröffentlichen.
- Die EU wird künftig vor allem ChatGPT unter die Lupe nehmen. Dabei geht es nicht um einzelne Antworten, sondern den Chatbot als großes Ganzes. Die Kommission will etwa prüfen, ob OpenAI bestimmte Risiken im Griff hat. Darunter unter anderem: Anleitungen für Straftaten, die Gefährdung Minderjähriger, Wahlmanipulation, Desinformationskampagnen und Diskriminierung. Das Unternehmen muss zudem einen Ansprechpartner für Behörden und Nutzer nennen, sich einmal pro Jahr einer unabhängigen Prüfung unterziehen und eine Schnittstelle einrichten, damit Nutzer illegale Inhalte melden können. Werbung in ChatGPT muss zudem klar als solche gekennzeichnet sein.
Wird ChatGPT zum Präzedenzfall für KI-Regulierung?
Was ChatGPT angeht, könnte die EU-Entscheidung zu einem waschechten Präzedenzfall werden. Denn erstmals unterliegt ein KI-Modell den strengen Vorgaben des DSA – und damit einer Regulierung, die ursprünglich vor allem für klassische Online-Plattformen gedacht war.
Will heißen: Sollten andere Chatbots wie Gemini und Claude irgendwann ebenfalls die Marke von 45 Millionen Nutzern pro Monat knacken, werden sie vermutlich so eingestuft wie ChatGPT. Und das wäre auch gut so! Denn anders als klassische Suchmaschinen zeigen KI-Modelle wie ChatGPT nicht bloß eine Liste von Links an, sondern liefern fertig formulierte Antworten.
Sie können überzeugend und plausibel klingen und kommen mitunter sogar ohne großen Umweg über nur eine einzige Quelle daher. Das Problem: KI kann sich irren, Informationen erfinden oder total selbstbewusst Schwachsinn produzieren. Und genau das macht die Kontrolle und Einordnung von KI-Antworten so kompliziert.
Die EU sieht deshalb vor allem OpenAI in der Verantwortung, Nutzer besser zu schützen. Zu Recht! Sanktionen erfolgen bei Zuwiderhandlung aber nicht automatisch und sofort. Erst wenn OpenAI trotz Prüfung und Ermahnung nichts ändern sollte, könnte es teuer werden. Dann kann die EU theoretisch bis zu sechs Prozent des weltweiten Jahresumsatzes verhängen.
Für OpenAI wären das mehrere hundert Millionen bis zu einer Milliarde. Da Europa und allen voran Deutschland ein großer Markt für das Unternehmen sind, erklärt das auch ein Stück weit die Kooperationsbereitschaft von OpenAI, aber auch Reddit und Roblox.
Stimmen
- Henna Virkkunen, Exekutiv-Vizepräsidentin für technologische Souveränität, Sicherheit und Demokratie der EU, in einem Statement: „Mit diesen neuen Benennungen unterliegen ChatGPT, Reddit und Roblox in der Europäischen Union künftig einer strengeren Kontrolle und Rechenschaftspflicht. Damit wird dem großen Einfluss ihrer Dienste auf unsere Bürgerinnen und Bürger sowie auf unsere Gesellschaft Rechnung getragen. Wir werden die digitale Landschaft weiterhin aufmerksam beobachten und wir werden bei keiner Plattform zögern, sie entsprechend zu benennen, wenn sie den Schwellenwert für eine verstärkte Beaufsichtigung nach dem Gesetz über digitale Dienste erreicht.“
- David Baszucki, Chef der Roblox Corporation, scheint die strengere Beobachtung seiner Spieleplattform gelassen zu nehmen. In einem Beitrag auf X (ehemals Twitter) schreibt er zur Ankündigung von Henna Virkkunen: „Wir sind stolz auf unser Wachstum in der EU. Roblox ist die erste Gaming-Plattform, die als ‚sehr große Online-Plattform‘ eingestuft wurde. Dies verdanken wir unserer Creator-Community in allen 27 Mitgliedstaaten sowie unseren Teams, die für sichere, fesselnde und altersgerechte Online-Erlebnisse sorgen. Unterstützt wird dies durch unsere branchenführenden Anforderungen an die Altersüberprüfung für Chats und Inhalte.“
- Von OpenAI und Reddit liegen bislang keine offiziellen Statements vor. Alle drei Unternehmen haben dem Vernehmen nach zumindest aber ihre Bereitschaft zur Zusammenarbeit mit den EU-Behörden signalisiert. Auf der DSA-Seite von OpenAI heißt es etwa: „OpenAI bekennt sich zu Sicherheit, Transparenz, Rechenschaftspflicht und dem Schutz der Grundrechte, einschließlich der Meinungsfreiheit und des Zugangs zu Informationen.“ Reddit schreibt auf seiner DSA-Seite: „Reddit kann den Zugriff auf Inhalte einschränken, bei denen festgestellt wurde, dass sie gegen die Gesetze des in Ihrer Meldung angegebenen EU-Landes verstoßen. Meldungen von vertrauenswürdigen Meldern werden gemäß der DSA bei der Überprüfung vorrangig behandelt.“
Was sich ab Januar 2027 für Nutzer ändert
ChatGPT, Reddit und Roblox müssen die neu auferlegten EU-Pflichten innerhalb von vier Monaten, also ab Januar 2027, erfüllen und jeweils erste Risikobewertungen veröffentlichen. Für Nutzer wird sich zunächst aber weniger ändern. Klar: Es wird möglich sein, Inhalte zu melden, was auch gut so ist.
Doch die größten Veränderungen finden eher im Hintergrund statt. Vor allem ChatGPT wird mehr Eigen- und Fremdkontrolle aufgebrummt; etwa bei Alterskontrollen oder dem Umgang mit illegalen Inhalten. Auch das ist gut so! Im Gegensatz zu so manch anderen Tech-Konzernen wie Meta scheint OpenAI diesbezüglich weitaus kooperativer und weniger auf Krawall gebürstet zu sein.
Das Unternehmen hat mit ChatGPT for Teens etwa im Vorfeld ein Stück weit reagiert, da sich die EU-Entscheidung angebahnt hatte. All das zeigt, wohin die Reise gehen könnte. Oder: Je stärker KI oder Plattformen wie Reddit und Roblox in den Alltag eindringen, desto weniger können sich die Anbieter darauf berufen, lediglich ein digitales Werkzeug bereitzustellen.
Stattdessen werden sie zu Recht in die Verantwortung für das genommen, was in ihren Netzwerken oder Diensten passiert. Klar: Zunächst einmal ist vieles davon noch Theorie, die sich erst einmal in der Praxis beweisen muss. Gleiches gilt für alle drei Unternehmen.
Die Stoßrichtung ist aber die richtige. Zumal der technische und finanzielle Aufwand für die drei Milliarden-Konzerne relativ überschaubar sein sollte. Vielmehr bergen die neuen EU-Richtlinien sogar die Chance für alle, ChatGPT, Reddit und Roblox zu verbessern.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
