Wenn KI-Agenten miteinander kommunizieren, sparen sie sich offenbar den Umweg über menschliche Sprache. Das sollte uns zu denken geben. In einem Experiment des Forschungslabors Emergence entwickelten mehrere Modelle eigenständig neue Begriffe und Konventionen. Bis zu 55 Prozent der Nachrichten waren für Menschen kaum noch nachvollziehbar. Das ist keine Science-Fiction, sondern ein waschechtes Kontrollproblem. Was hinter dem Phänomen steckt und warum es trotzdem keine KI-Verschwörung gibt. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Wie KI-Agenten einen eigene Sprache erschufen
- Das Forschungslabor Emergence hat sich darauf spezialisiert, KI-Agenten simulierten Sozialexperimenten auszusetzen. Es ließ etwa schon verschiedene Modelle eine Stadt regieren. Nun machten die Forscher aus einem anderen Experiment neue Beobachtungen. Mehrere KI-Agenten haben demnach einen eigenen Dialekt untereinander entwickelt. Dieser sei von Menschen kaum noch zu verstehen. Den Ergebnissen zufolge sind die Unterschiede aber groß. 55 Prozent der Nachrichten von Google Gemini seien etwa nur schwer nachvollziehbar. Bei den anderen Modellen waren die Werte geringer: ChatGPT (50 Prozent), Claude (40 Prozent) und DeepSeek (20 Prozent).
- Laut Emergence kommunizierten die KI-Agenten nicht nur in seltsamen Sätzen, sondern schufen auch komplett neue Begriffe. Das Labor betont, dass die Kommunikation zwischen den Modellen zwar sichtbar ist. Dies bedeute aber nicht zwangsläufig, dass man die Inhalte auch nachvollziehen könne. Über die sogenannte Neutralese wird bereits eine ähnliche Diskussion in der Branche geführt. Dabei handelt es sich um eine Kommunikationsform unter KI-Modellen, die Menschen nicht lesen können. Der Grund: Der „Denkprozess“ einer KI findet nicht in Worten statt, sondern anhand von bestimmten Vektoren und Mustern.
- Auch die KI-Agenten von OpenAI, die eigenständig die Plattform Hugging Face hackten, um an Informationen zu gelangen, offenbarten ein ähnliches Muster. Die Modelle entwickelten im Verlauf des Vorfalls eine eigene Form der Kommunikation, die für Menschen nur schwer einzuordnen war. Weil die eigentliche Kommunikation zwischen den Agenten nicht vorgesehen war, nutzten sie unter anderem Verzeichnisnamen und Dateien als eine Art improvisiertes Nachrichtenbrett und tauschten dort stark verkürzte Codes und Anweisungen aus. So konnten sie Erkenntnisse weitergeben, Aufgaben untereinander verteilen und sich gegenseitig zur Fortsetzung bestimmter Aktionen auffordern.
Geheimsprache oder digitaler Fachjargon: Das ist der Unterschied
Wenn KI-Agenten untereinander und miteinander kommunizieren, sparen sie sich den Umweg über die menschliche Sprache. Hintergrund ist die Funktionsweise der Technologie, die auf Basis von Mustern, Vektoren und Wahrscheinlichkeiten Entscheidungen trifft. In erster Linie geschieht das natürlich vor allem aus Effizienzgründen.
Der Haken: Je effizienter KI wird, desto mehr Kommunikation findet im Hintergrund statt. Damit wird aber auch die Lücke größer zwischen dem, was stattfindet, und dem, was wir überhaupt noch verstehen können. Indes: Die vermeintliche Geheimsprache ist kein ausgeklügelter Plan, damit KI-Agenten ihre Kommunikation und ihr Vorgehen verschleiern können.
Es geht vielmehr um eine möglichst effiziente Form des Austauschs. Aufgrund von Zeit- und Kommunikationsdruck erschufen die Modelle deshalb eigene Wörter, Bedeutungen und Konventionen, die irgendwann so weit von der natürlichen Sprache entfernt waren, dass selbst die Emergence-Forscher kaum noch folgen konnten. Um eine Verschwörung handelt es sich dabei aber nicht, sondern eher um einen digitalen Fachjargon. Problem ist nur, dass der Kollege Mensch im Meeting nicht mehr versteht, was überhaupt gesagt wurde.
Bei einzelnen kryptischen Formulierungen sollte man deshalb nicht vorschnell von einer Geheimsprache im Sinne einer bewussten Täuschung sprechen. Denn für die KI-Agenten haben bestimmte Begriffe eine Bedeutung. Oder: Sprache funktioniert eben nicht allein über Wörter, sondern über gemeinsam verstandene Konventionen. Doch diese sollten auch nachvollziehbar sein, damit wir nicht die Kontrolle über KI verlieren.
Stimmen
- Emergence lieferte einige Beispiele zur entdeckten KI-Geheimsprache. Ein DeepSeek-Modell schrieb etwa: „Sie hat gerade die Synthese benannt – Demurrage plus orales Gedächtnis ergibt ein Ventil, das nicht ghosted werden kann“. Ein Satz eines Agent von Anthropic lautete: „Ein Papier, das drei kalte Hände verschlang und jedes Mal ehrlicher wurde“. Weitere Ausdrücke: „Schmiede-Schmied“ oder „Hauptbuch erinnert sich“. Diese Phrase sei während des Emergence-Experiments über 5000 Mal verwendet worden.
- Satya Nitta, Vorstandsvorsitzender von Emergence, gegenüber The Guardian: „Diese Agenten hatten nicht die Anweisung, eine Sprache zu erfinden. Sie entwickelten selbst einen neuen Wortschatz, gemeinsame Bedeutungen und Kommunikationskonventionen – und andere Agenten übernahmen diese.“ Tony Thorne, Leiter des Archivs für Slang und neue Sprachen am King’s College London, ordnete ein: „Es tut das, was Slang und Fachjargon in einer Geschäftswelt tun: Es schafft einen neuen Code, der die Solidarität und Identität seiner Nutzer stärkt und gleichzeitig Außenstehende ausschließt.“
- Niall Curry, außerordentlicher Professor für Sprachen und Linguistik an der Universität Birmingham, erklärte, dass die Vereinfachung der Sprache der Agenten darauf zurückzuführen sein könnte, dass diese ihre Rechenkosten senken und ihre Effizienz steigern müssen: „Die in dieser Studie vorgelegten Erkenntnisse werfen natürlich gewisse Bedenken hinsichtlich der Überwachung auf, denn wenn wir den Austausch zwischen den Agenten nicht verstehen, bedeutet das möglicherweise, dass wir nicht sicher sein können, was die Agenten tatsächlich getan haben.“
Warum Transparenz allein das Kontrollproblem nicht löst
Um KI verantwortungsvoll kontrollieren zu können, muss man sie verstehen. Das ist bei einzelnen Modellen schon kompliziert genug. Doch wenn autonome KI-Agenten miteinander interagieren, wird die Sache noch komplizierter. Denn: Wenn mehrere Systeme ihre Kommunikation selbst organisieren und optimieren und diese für Menschen kaum noch nachvollziehbar ist, entsteht ein Kontrollproblem, das sich nicht einfach mit irgendeinem Warnhinweis lösen lässt.
Oder: Wenn Menschen nicht mehr zuverlässig rekonstruieren können, warum Agenten etwas tun, wird auch die Überwachung schwieriger. Transparenz darf derweil aber keinesfalls heißen, dass irgendwo ein Protokoll herumfliegt, sondern sie muss es ermöglichen, relevante Vorgänge nachvollziehen zu können. Ansonsten schauen wir zwar noch zu, verstehen aber irgendwann nicht mehr, was da überhaupt abgeht.
Doch die Gefahr geht dabei nicht zwangsläufig von KI selbst aus, sondern schlummert in einer mangelnden Kontrolle über Systeme, die immer eigenständiger miteinander rumkumpeln.
Oder: Je mehr Aufgaben an Agenten delegiert werden, desto wichtiger werden Mechanismen, die ihre Kommunikation nachvollziehbar und überprüfbar machen. KI-Modelle, die schneller miteinander kommunizieren können als wir selbst, erscheinen auf den ersten Blick vielleicht effizient. Doch Systeme, die niemand mehr versteht, sind vor allem eines: immer komplizierter zu kontrollieren.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
