KI-Systeme schreiben Werbetexte, steuern Autos und unterstützen Anwälte vor Gericht . Doch wenn sie versagen, wird es manchmal absurd und manchmal auch gefährlich. In den vergangenen Jahren haben sich zahlreiche KI-Fails ereignet, die von harmlos-lustig bis erschreckend reichen. Wir haben zehn reale Fälle gesammelt, die zeigen, was schiefgehen kann, wenn Menschen der Technik zu sehr vertrauen. Jeder einzelne Fall liefert eine konkrete Lektion für den Umgang mit künstlicher Intelligenz.
Künstliche Intelligenz ist gekommen, um zu bleiben. Daran führt kein Weg vorbei. In Wirtschaft, Medien, Verwaltung und mittlerweile sogar in der Justiz werden die digitalen Assistenten immer häufiger eingesetzt. Klar ist aber auch, dass KIs keine unfehlbaren Wundermaschinen sind. Sie haben klare Schwächen, die immer wieder zu Problemen führen. Wie genau solche Pannen aussehen, zeigen wir in diesem Artikel.
KI-Fails nehmen absurde Formen an
Die jeweiligen Betreiber verbessern ihre Modelle immer weiter. Das birgt allerdings die Gefahr, der KI zu sehr zu vertrauen und sie nicht gut genug zu kontrollieren. Manche Pannen, die hierdurch entstehen, sind harmlos und sorgen lediglich für ein paar Lacher im Internet. Andere hingegen haben ernste Konsequenzen. Zum Beispiel, wenn KI im Verkehr oder der Justiz zum Einsatz kommt und zu halluzinieren beginnt.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Häufig ist das Problem nicht die KI selbst, sondern der schlampige Umgang mit der Technologie. Wer von der KI generierte Texte ungelesen veröffentlicht, Trainingsdaten schlampig zusammenstellt oder Sicherheitsmechanismen ignoriert, muss damit rechnen, irgendwann die Quittung zu erhalten. Wenn immer mehr Menschen auf immer mehr Wegen mit immer mehr KI-Systemen interagieren, steigt natürlich auch das Risiko.
An dieser Stelle haben wir zehn kuriose, lustige und tragische Fälle von KI-Fails aufgelistet. Jeder einzelne Fall ist einen Möglichkeit, für die Zukunft zu lernen und unseren Umgang mit der Technologie zu überdenken.
Google lässt dich jetzt selbst bestimmen, welche Quellen du in der Suche häufiger siehst. Mit zwei schnellen Klicks kannst du BASIC thinking kostenlos als bevorzugte Quelle hinzufügen und damit unabhängigen Tech-Journalismus unterstützen. Vielen Dank!
Fail 1: Bäckerei druckt ChatGPT-Anweisung auf Verpackung
Einer KI sollte man nicht blind vertrauen. Das zeigt bereits unser erster Fall: Ein Hersteller von Backwaren bedruckte eine Verpackung mit einem KI-generierten Werbetext. Soweit nichts Besonderes, allerdings wurde vergessen, den bei ChatGPT üblichen Call-to-Action zu löschen. Unter dem durchaus ansprechenden Text prangt die typische Floskel, mit der die KI fragt, ob der Text weiter angepasst werden soll: „Crafted with care. Loved wordwide. Let me know if you want a version tailored to a specific flavor (…) or tone.“
