Fail 3: Chatbot verkauft Chevrolet-SUV für einen Dollar
Ein US-Autohaus hatte 2023 die Idee, einen KI-Chatbot in seine Webseite zu integrieren. Eigentlich sollte der nur Öffnungszeiten und Finanzierungsoptionen erklären, doch ein findiger Nutzer brachte den Bot mit geschickten Prompts dazu, ihm einen Chevrolet Tahoe für genau einen US-Dollar zu verkaufen. Inklusive der ausdrücklichen Bestätigung, dass das Angebot rechtsverbindlich sei. Der Screenshot ging um die Welt, der Chatbot wurde umgehend abgeschaltet.
