KI Halluzinationen Wahrscheinlichkeit

Du nutzt KI? Dann solltest du Eines niemals vergessen

Fabian Peters
Mit DALL-E generiert (KI).

Immer mehr Menschen nutzen KI-Tools auf der Arbeit oder im Alltag. Falls auch du dazu gehörst, solltest du Eines niemals vergessen. Ein Appell. 

Ob als Suchmaschine, Übersetzer oder bei der Text- und Bildgenerierung: Immer mehr Menschen nutzen KI-Tools auf der Arbeit oder im Alltag. Doch trotz teilweise beeindruckender Fähigkeiten, sollte dir stets bewusst sein, dass Künstliche Intelligenz nicht fehlerfrei ist. Denn: KI kann halluzinieren, was unmittelbar mit ihrer Funktionsweise zusammenhängt.

Grundlage eines KI-Systems sind seine Trainingsdaten. Diese stammen beispielsweise aus dem Internet, Büchern oder wissenschaftlichen Artikeln. Einige dieser Daten können jedoch veraltet, unvollständig oder falsch sein. Bedeutet: Eine KI kann sich grundsätzlich unkorrekte Informationen aneignen und diese auch wiedergeben.

UPDATE Newsletter BASIC thinking

Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.

Nur für kurze Zeit: Anmelden und mit etwas Glück 50€ Amazon-Guthaben gewinnen!

Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.

Hinzu kommt, dass große Sprachmodelle wie ChatGPT probabilistisch arbeiten. Das heißt, dass sie Antworten etwa anhand der wahrscheinlichen Wortfolge ausgeben. Statt echtem Wissen oder Verständnis nutzt KI also mathematische Wahrscheinlichkeiten oder Muster.

Das kann letztlich sogar zu falschen oder vollständig erfundenen Inhalten führen – den sogenannten KI-Halluzinationen. Vor allem bei sensiblen Themen ist es deshalb ratsam, Informationen und Inhalte kritisch zu hinterfragen und auf ihren Wahrheitsgehalt hin zu überprüfen.

Auch interessant: 

Du möchtest nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 smarte Leser bekommen jeden Tag UPDATE, unser Tech-Briefing mit den wichtigsten News des Tages – und sichern sich damit ihren Vorsprung. Hier kannst du dich kostenlos anmelden.

STELLENANZEIGEN
Openstack Engineer (m/f/d)
CompuGroup Medical SE & Co. KGaA in Koblenz
Mitarbeiter Marketing (m/w/d) mit Schwerpunk...
Bayerisches Pilgerbüro gGmbH in München
Social Media & Digital Assistant (m/w/d) ...
Petra GmbH in Frankfurt am Main
Head of Online Marketing (m/w/d) Stellvertret...
motoin GmbH in Aachen
Referent (m/w/d) Technik & Netzwerke
DVGW Deutscher Verein des Gas- und Wasserfac... in Bonn
PR/Social Media-Redakteur & Content Creat...
Itzehoer Versicherungen/Brandgilde von 16... in Itzehoe
Social Media Manager & Content Creator (m...
The Nutriment Company Germany TNCG GmbH in Düsseldorf
Talent Acquisition Operations Manager (m/w/d)...
TK Maxx in Düsseldorf
Teile diesen Artikel
Chefredakteur
Folgen:
Fabian Peters ist seit Januar 2022 Chefredakteur von BASIC thinking. Zuvor war er als Redakteur und freier Autor tätig. Er studierte Germanistik & Politikwissenschaft an der Universität Kassel (Bachelor) und Medienwissenschaften an der Humboldt-Universität zu Berlin (Master).