Ein KI-Agent von ChatGPT hat offenbar eine Captcha-Checkbox im Internet ausgehebelt – und sogar sein Vorgehen kommentiert. Das Netz könnte damit eine der letzten Sicherheitsschranken gegen Bots verlieren.
Das KI-Zeitalter hält so manches Skurrile parat. So auch kürzlich, als ein Reddit-Nutzer einem KI-Agenten von OpenAI eine Aufgabe gab. Daraufhin klickte sich der Agent souverän durch den Webbrowser und erklärte beim Aufpoppen eines Captchas nüchtern: „Dieser Schritt ist nötig, um zu beweisen, dass ich kein Bot bin.“
Kurz darauf erledigte der Bot ganz selbstverständlich die dargestellte Aufgabe. Bei der KI handelte es sich um einen Agenten von ChatGPT, der eigenständig Websites aufrufen, Aufgaben ausführen und sich offenbar sogar durch Sicherheitsmechanismen wie Captcha-Sicherheitsboxen mogeln kann.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods 4 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Die KI kommentiert ihr Vorgehen zudem in Echtzeit, etwa beim Konvertieren von Videos oder beim Einkaufen im Netz. Die Interaktion erfolgt über eine virtuelle Umgebung mit einem eingebauten Browser. Nutzer können dabei live nachverfolgen, was der Agent macht, und ihr Okay geben, wenn die Aktion etwa einen Kauf zur Folge hat.
KI-Agent von ChatGPT überlistet Captcha
Die meisten CAPTCHA-Systeme, allen voran die Turnstile von Netzdienstleister Cloudflare, sollen nicht nur das Klicken einer Checkbox, sondern auch Mausbewegungen, Timing und das JavaScript-Verhalten auf typische „menschliche“ Merkmale überprüfen.
Wenn alles plausibel wirkt, folgt keine Bildauswahl – und genau das machte sich der KI-Agent von ChatGPT zunutze, indem er einen Menschen simulierte.
Zwar wurde kein komplexes Bilderrätsel gezeigt, aber allein das Durchkommen durch den Vorab-Check gilt als bemerkenswert und als potenzielles Sicherheitsrisiko. Denn eigentlich sollen solche Systeme genau diese Art von Automatisierung verhindern.
Die Ironie des Fortschritts
Dass eine KI sich erfolgreich als Mensch ausgeben kann, ist längst keine Science-Fiction mehr. Schon seit Jahren können KI-Modelle viele Captchas lösen, oft sogar besser als der Mensch. Denn Dienste wie reCAPTCHA von Google verwenden Nutzerinteraktionen und werden sogar zum Training von KI-Modellen genutzt.
Der Mensch trainiert also einen Bot, der ihn – überspitzt gesagt – später überflüssig macht. Die Entwicklung zeigt aber auch: Captcha-Systeme sind längst kein Allheilmittel mehr. Sie dienen eher dazu, Angriffe teurer oder langsamer zu machen. KI-Agenten wie ChatGPT führen uns jedoch vor Augen, dass sie inzwischen autonom handeln und mitdenken können. Ganz getreu dem Motto: „Ich bin kein Roboter.“
Auch interessant:
