Meta hat für seinen KI-Assistenten Muse eine Testreihe angekündigt, bei der die KI selbstständig Telefonate führen soll. Recherchen zeigen jedoch, dass diese vermeintlich automatisierten Gespräche tatsächlich auch von Menschen in Callcentern übernommen werden können.
Für viele Menschen dürfte diese Funktion ein wahrer Traum sein: Meta hat für seinen KI-Assistenten Muse eine Testreihe angekündigt, bei der die KI lästige Telefonate übernimmt. Muse könne so beispielsweise einen Tisch im Restaurant reservieren oder den nächsten Friseurtermin vereinbaren.
„Wir weiten unsere Telefon-Beta für Muse aus!“, erklärt Metas Chief AI Officer Ryan Fox auf X. Doch wie 404 Media berichtet, testet Meta in Wirklichkeit ein Verfahren, bei dem diese Anrufe von Menschen in Callcentern durchgeführt werden.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Mensch oder Maschine – kann die Meta-KI Muse tatsächlich Anrufe tätigen?
404 Media zitiert aus einem internen Memo, in dem der Konzern die Funktionen Mitarbeitern gegenüber angekündigt hat. In diesem heißt es, das Unternehmen habe „eine Ebene mit menschlichen Agenten hinzugefügt, um den Abschluss der Anrufe zu gewährleisten“.
Muse könne demnach zwar eine Telefonnummer wählen, ein Gespräch führen und anschließend ein Transkript und eine Zusammenfassung liefern. Im Hintergrund stehen allerdings geschulte menschliche Callcenter-Mitarbeiter bereit, falls Muse nicht mehr weiterkommt.
Wie oft dies tatsächlich vorkommt, kann 404 Media nicht beziffern. In einem internen Diskussionsforum von Meta habe dieses neue Feature unter Mitarbeitern jedoch zahlreiche Fragen aufgeworfen. „Ich bin mir nicht sicher, ob ich hier etwas übersehe, aber warum ist das ein ‚Feature‘?“, schreibt ein Mitarbeiter.
„Das birgt das Potenzial für massive negative PR“, erklärt ein weiterer Beschäftigter. „Die Berichterstattung über diesen Start könnte uns so darstellen, als sei unsere KI nicht gut genug, sodass wir weiterhin auf Menschen angewiesen sind.“
Mitarbeiter, die das System getestet haben, sprechen von einer „wirklich schlechten Idee“. Denn sie seien erst nach dem Gespräch darüber informiert worden, dass ein Mensch den Anruf für sie getätigt hatte.
Metas Vorgehen wirft datenchutzrechtliche Fragen auf
Die Mitarbeiter von Meta stellten außerdem Fragen zu datenschutzrechtlichen Aspekten. Denn die Anrufwünsche, die eigentlich einer KI übermittelt wurden, werden im Zweifelsfall an andere Menschen weitergeleitet.
Das kann vor allem bei vertraulichen Terminvereinbarungen, wie zum Beispiel bei einem Arzt, kritisch werden. Denn wenn Nutzer davon ausgehen, mit einer KI zu sprechen, tatsächlich aber ein Mensch im Callcenter mithört und persönliche Angaben entgegennimmt, wirft das Fragen zum Datenschutz und zur Transparenz auf.
Meta beteuert seinen Mitarbeitern in der internen Mitteilungen, die 404 Media vorliegt, gegenüber, dass die weitergeleiteten Daten dennoch sicher seien. Die externen menschlichen Auftragnehmer hätten „umfangreiche Schulungen durchlaufen, um zu gewährleisten, dass alle Daten sicher und geschützt sind“.
Google lässt dich jetzt selbst bestimmen, welche Quellen du in der Suche häufiger siehst. Mit zwei schnellen Klicks kannst du BASIC thinking kostenlos als bevorzugte Quelle hinzufügen und damit unabhängigen Tech-Journalismus unterstützen. Vielen Dank!
Auch interessant:
