2. Dirty Talk
Obwohl viele Chatbots bei sexuell eindeutigen Inhalten stark eingeschränkt sind, versuchen offenbar viele User, KI zum Dirty Talk aufzufordern. Mehr als sieben Prozent der Unterhaltungen drehen sich um Sex, darunter auch Anfragen für rassige Rollenspiele oder pikante Bilder. Einige Menschen nutzen Chatbots auch für anzügliche Gespräche. Viele würden außerdem versuchen, Chatbots zu sexuellen Rollenspielen zu bewegen, indem sie mit sogenannten Jailbreaks oder Aufforderungen experimentieren, die das System austricksen sollen. Der Datensatz ergab, dass sie in etwa der Hälfte der Fälle erfolgreich waren.
