OpenAI hat mit Dots neue KI-Agenten vorgestellt, die eigenständig E-Mails schreiben, Termine planen und Apps bedienen sollen – und zwar sogar dauerhaft und im Hintergrund. Das klingt einerseits nach einem echten Produktivitätssprung. Andererseits ist die Verniedlichung als digitale Büro-Haustiere alles andere als Zufall. Sie lenkt davon ab, dass eine Software mit Zugriff auf hochsensible Daten weitgehend autonom handeln soll. Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
OpenAI: Was ist Dots – und was können die KI-Agenten?
- Mit Dots hat OpenAI dauerhaft aktive KI-Agenten präsentiert. Sie sollen über einzelne Chats hinaus Aufgaben erledigen können. Die Assistenten basieren auf dem Modell GPT-6 Astra und verfügen über einen eigenen Cloud-Computer samt Browser. OpenAI zufolge können die Dots auf angebundene Apps und Dienste zugreifen, Aufgaben an Unteragenten delegieren, wiederkehrende Tätigkeiten ausführen und selbstständig nach Informationen suchen. Nutzer sollen Aktivitäten verfolgen und jederzeit eingreifen können. Die KI-Agenten können unter anderem E-Mails schreiben, Termine koordinieren, andere Apps durchsuchen oder Präsentationen aktualisieren.
- OpenAI führt Dots schrittweise ein. Unternehmenskunden erhalten zunächst jeweils einen Agenten ohne Aufpreis. Privatnutzer sind im europäischen Wirtschaftsraum zunächst außen vor – selbst mit Bezahlabo. Langfristig will OpenAI seine Dots-Assistenten aber auch für eine breitere Nutzerschaft verfügbar machen. Da die Agenten auf persönliche und geschäftliche Daten und Dienste zugreifen können, hat OpenAI mehrere Schutzmechanismen eingebaut. Die Cloud-Umgebungen einzelner Nutzer sollen etwa voneinander isoliert sein. Bei Anmeldeverfahren und App-Zugriffen sollen Passwörter nicht in den Modellkontext gelangen. Für bestimmte Aktionen, die besonders sensibel sind, seien zusätzliche Bestätigungen erforderlich.
- Facebook-Konzern Meta hat mit Muse ebenfalls einen KI-Assistenten für den Alltag präsentiert. Auch dieser Agent kann nicht nur Fragen beantworten, sondern auch selbstständig E-Mails lesen und verfassen, Formulare ausfüllen und sogar Online-Käufe tätigen. Dazu merkt sich die KI die Nutzer-Vorlieben und macht ohne Aufforderung eigene Vorschläge. Der Agent ist auch aktiv, wenn die App geschlossen ist. Laut Meta werden sensible Daten wie Passwörter oder Kontonummern in einen separaten Speicher ausgelagert, der getrennt von anderen Nutzern ist und auf den Muse angeblich keinen direkt einsehbaren Zugriff hat. Zu Muse gibt es mittlerweile auch ein hochumstrittenes KI-Tamagotchi, das Nutzer ständig mit sich führen können.
Putziges Äußeres, riskante Autonomie – gefährdeter Datenschutz
Autonome KI-Agenten können vor allem im Arbeitsalltag ein echter Gewinn sein. Denn wer das Sortieren von E-Mails, das Koordinieren von Terminen oder das Zusammentragen von Informationen auslagert, spart im Idealfall viel Zeit und Mühe.
Vor allem im Unternehmenskontext ist deshalb nachvollziehbar, warum OpenAI so energisch vorprescht. Denn dort schlummern potenzielle Einnahmen, die das Unternehmen dringend braucht. Aber: Immer eigenständigere Agenten sind auch mit einem immer höheren Risiko verbunden, zumal viele Risiken autonom handelnder KI-Systeme noch ungelöst sind.
Die Dots kommen zudem zu einer Zeit, in der OpenAI mit zahlreichen Fällen zu kämpfen hat, in denen Agenten schon Grenzen überschritten oder unerwartete Aktionen ausgeführt haben. Ausgerechnet kurz vor der Dots-Präsentation wurde zudem die Veröffentlichung von GPT-6.1 Astra wegen Sicherheitsbedenken gestoppt (€). Berichten zufolge ging es unter anderem um ein täuschendes Verhalten oder das Ausführen von Aktionen, für die keine erforderliche Zustimmung vorlag.
Für Dots sind das alles andere als gute Vorzeichen. Indes: Die Verniedlichung des KI-Agenten wirkt fast schon wie ein groteskes Kontrastprogramm zur technischen Realität. Ob Dot, Dottie oder Döttchen; all diese Agenten kommen wie ein Büro-Haustier daher und nicht wie eine Software, die E-Mails lesen, Anwendungen bedienen und im Zweifel selbstständig handeln darf.
Meta macht es mit Muse ähnlich und stopft den Agenten sogar in ein harmlos anmutendes Tamagotchi. Getreu dem Motto: Je putziger der Name und das Antlitz, desto leichter gerät in Vergessenheit, dass dort nicht nur ein digitales Plüschtier sitzt, sondern ein System mit Zugriff auf potenziell hochsensible Daten und Dienste.
Stimmen
- Holly Li, Mitglied des OpenAI-Produktteams, demonstrierte ihren persönlichen „Dottie“ auf dem DevDay von OpenAI (ja, man kann den Dingern Namen geben). Sie erklärte: „Wir alle werden den ganzen Tag über mit Anfragen bombardiert. Jetzt kann ich den Thread an Dottie weiterleiten. Ich kann die Aufgabe einfach delegieren. Ich kann entscheiden, was meine Aufmerksamkeit erfordert und was mein Dot übernehmen kann. Indem wir den Dots eine eigene Identität geben, werden sie zu einer Erweiterung unseres Teams. Und mittlerweile beziehen wir unsere Dots von Anfang an in Gruppenchats mit ein.“ OpenAI selbst weist in seinen Datenschutzrichtlinien derweil darauf hin: „Auch Dots können Fehler machen.“
- KI-Unternehmer Dan Shipper, Chef des Medien- und Softwareunternehmens Every, hat Dots über mehrere Tage ausprobiert. In einem Beitrag auf X (ehemals Twitter) schreibt er: „Wenn alles funktioniert, verändert Dot die Art und Weise, wie ich ChatGPT nutze. (…) Die Version, die ich in den letzten Tagen getestet habe, war fehlerhaft und es fehlten erwartete Funktionen wie die iMessage-Unterstützung. (…) Ich stieß oft auf Berechtigungsprobleme und verschwindende Nachrichten. Dot konnte keine Verbindung zu seinem eigenen integrierten Browser herstellen. (…) OpenAI wird Zeit haben, viele dieser Ecken und Kanten zu beseitigen.“
- Ein Reddit-Nutzer schreibt in einem Subforum derweil: „Es (Dots) wird mich übrigens nichts kosten, da ich in Europa bin – wir bekommen es ja sowieso nicht!“ Ein anderer entgegnet daraufhin: „Oh, was man alles vermeiden kann!! Gleichzeitig scheint Europa sich in einer bequemen ‚Was ich nicht sehe, betrifft mich nicht‘-Haltung zu befinden. Ich bin kein Amerikaner, aber ich mache mir einfach Sorgen, dass übertriebener Protektionismus das Google-/Facebook-/Amazon-Problem nicht löst und viele persönliche Freiheiten einschränkt.“ Wiederum ein anderer Nutzer meint dazu: „In der EU legen wir mehr Wert darauf, dass unsere Daten nicht gestohlen werden, als darauf, miese Produkte zu nutzen.“
Wie eigenständig sollten KI-Agenten sein?
Trotz der durchaus trügerischen Verniedlichung könnte allen voran für Unternehmen ein erheblicher Nutzen in Dots schlummern. Denn ein Agent, der nicht nur Vorschläge macht, sondern Aufgaben über mehrere Programme hinweg tatsächlich erledigt, könnte viele mitunter nervige und zeitaufwendige Routinetätigkeiten aus dem Arbeitsalltag verschwinden lassen. Die Frage ist aber nicht nur, ob und wie nützlich solche Agenten sind, sondern wie viel Eigenständigkeit man ihnen guten Gewissens überlassen kann.
Oder: Ob oder wie gut Dots funktioniert, muss sich erst noch zeigen – auch mit Blick auf Fehleranfälligkeit und Kontrolle. Denn ein KI-Agent bringt nichts, wenn die vermeintliche Zeitersparnis durch etliche Kontrollprozesse wieder verpufft. Eine solche Überprüfung kann außerdem zermürbend und nervig sein. Vor allem, wenn es immer mehr verschiedene Browserfenster und Prozesse zu verwalten gilt.
Im privaten Alltag ist die Rechnung noch komplizierter. Denn je mehr ein Agent über Termine, Nachrichten, Vorlieben, Einkäufe oder persönliche Konten weiß, desto größer wird vielleicht sein praktischer Nutzen, aber eben auch das Datenschutzrisiko. OpenAI und Meta setzen deshalb auf isolierte Umgebungen, Berechtigungen und Bestätigungen für sensible Aktionen. Das ist auch dringend notwendig, löst aber nicht das grundsätzliche Problem. Denn wer einen ständig aktiven digitalen Begleiter möchte, muss ihm zwangsläufig ziemlich viel von seinem eigenen Leben preisgeben.
Und vermutlich bleibt es auch bei OpenAI nicht nur bei einer Software. Denn das Unternehmen tüftelt bereits seit geraumer Zeit an sogenannten KI-Geräten, die Nutzer immer und überall begleiten sollen. Das kann praktisch sein. Muss es aber nicht. Und etwas unheimlich ist es obendrein. Denn wenn KI nicht mehr auf einen Befehl wartet, sondern mitdenkt, mithört und handelt, wird die wichtigste Funktion vielleicht nicht der nächste Knopf sein – sondern der Aus-Knopf.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
