KI Halluzinationen Wahrscheinlichkeit

Du nutzt KI? Dann solltest du Eines niemals vergessen

Fabian Peters
Mit DALL-E generiert (KI).

Immer mehr Menschen nutzen KI-Tools auf der Arbeit oder im Alltag. Falls auch du dazu gehörst, solltest du Eines niemals vergessen. Ein Appell. 

Ob als Suchmaschine, Übersetzer oder bei der Text- und Bildgenerierung: Immer mehr Menschen nutzen KI-Tools auf der Arbeit oder im Alltag. Doch trotz teilweise beeindruckender Fähigkeiten, sollte dir stets bewusst sein, dass Künstliche Intelligenz nicht fehlerfrei ist. Denn: KI kann halluzinieren, was unmittelbar mit ihrer Funktionsweise zusammenhängt.

Grundlage eines KI-Systems sind seine Trainingsdaten. Diese stammen beispielsweise aus dem Internet, Büchern oder wissenschaftlichen Artikeln. Einige dieser Daten können jedoch veraltet, unvollständig oder falsch sein. Bedeutet: Eine KI kann sich grundsätzlich unkorrekte Informationen aneignen und diese auch wiedergeben.

UPDATE Newsletter BASIC thinking

Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.

Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods gewinnen!

Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.

Hinzu kommt, dass große Sprachmodelle wie ChatGPT probabilistisch arbeiten. Das heißt, dass sie Antworten etwa anhand der wahrscheinlichen Wortfolge ausgeben. Statt echtem Wissen oder Verständnis nutzt KI also mathematische Wahrscheinlichkeiten oder Muster.

Das kann letztlich sogar zu falschen oder vollständig erfundenen Inhalten führen – den sogenannten KI-Halluzinationen. Vor allem bei sensiblen Themen ist es deshalb ratsam, Informationen und Inhalte kritisch zu hinterfragen und auf ihren Wahrheitsgehalt hin zu überprüfen.

Google lässt dich jetzt selbst bestimmen, welche Quellen du in der Suche häufiger siehst. Mit zwei schnellen Klicks kannst du BASIC thinking kostenlos als bevorzugte Quelle hinzufügen und damit unabhängigen Tech-Journalismus unterstützen. Vielen Dank!

Auch interessant: 

Du möchtest nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 smarte Leser bekommen jeden Tag UPDATE, unser Tech-Briefing mit den wichtigsten News des Tages – und sichern sich damit ihren Vorsprung. Hier kannst du dich kostenlos anmelden.

STELLENANZEIGEN
Auszubildende zum/zur Fachinformatiker*in für...
Omnicom Media Group Germany GmbH in Düsseldorf
Praktikant*in Global Social Media (Pflicht-Pr...
Mercedes-Benz AG in Stuttgart
Online Marketing Manager (m/w/d)
MünchenMusik Gruppe in München
Senior Paid Social Media Manager (m/w/d)
emetriq GmbH in Hamburg, Hamburg, Deutschland
Visual Content Creator (w/m/d)
Horl 1993 GmbH in Freiburg
Online Marketing Manager (m/w/d)
Autoland AG in Sandersdorf-Brehna
Online Marketing Manager (m/w/d) – Schw...
VR Bank Rhein Neckar eG in Mannheim
Digital Marketing Manager (m/w/d)
werwie GmbH in Konz
Teile diesen Artikel
Chefredakteur
Folgen
Fabian Peters ist seit Januar 2022 Chefredakteur von BASIC thinking. Zuvor war er als Redakteur und freier Autor tätig. Er studierte Germanistik & Politikwissenschaft an der Universität Kassel (Bachelor) und Medienwissenschaften an der Humboldt-Universität zu Berlin (Master).