Wir benutzen Cookies, um die Nutzerfreundlichkeit der Website zu verbessern. Durch deinen Besuch stimmst du dem Datenschutz zu.
Alles klar!
BASIC thinking Logo Dark Mode BASIC thinking Logo Dark Mode
  • TECH
    • Apple
    • Android
    • ChatGPT
    • Künstliche Intelligenz
    • Meta
    • Microsoft
    • Quantencomputer
    • Smart Home
    • Software
  • GREEN
    • Elektromobilität
    • Energiewende
    • Erneuerbare Energie
    • Forschung
    • Klima
    • Solarenergie
    • Wasserstoff
    • Windkraft
  • SOCIAL
    • Facebook
    • Instagram
    • TikTok
    • WhatsApp
    • X (Twitter)
  • MONEY
    • Aktien
    • Arbeit
    • Die Höhle der Löwen
    • Finanzen
    • Start-ups
    • Unternehmen
    • Marketing
    • Verbraucherschutz
Newsletter
Font ResizerAa
BASIC thinkingBASIC thinking
Suche
  • TECH
  • GREEN
  • SOCIAL
  • MONEY
  • ENTERTAIN
  • NEWSLETTER
Folge uns:
© 2003 - 2025 BASIC thinking GmbH
Menschliches Feedback KI Täuschen
TECH

Nach menschlichem Feedback: KI lernt Menschen zu täuschen

Felix Baumann
Aktualisiert: 15. Oktober 2024
von Felix Baumann
Unsplash.com/Emiliano Vittoriosi
Teilen

Forscher demonstrierten kürzlich, wie menschliches Feedback KI-Systemen beim Täuschen helfen kann. Grund ist der Prozess, wie wir heute Inhalte moderieren.

Eine kürzlich veröffentlichte Studie zeigt, welchen Einfluss menschliches Feedback auf intelligente Algorithmen hat. Demnach kann Künstliche Intelligenz (KI) besser darin werden, Menschen zu täuschen, anstatt korrekte Antworten zu liefern. Wissenschaftler aus den USA und China führten die Forschung zusammen mit dem Unternehmen Anthropic durch.

Das Ergebnis ist ein Phänomen, das die Bezeichnung „unbeabsichtigte Sophistik“ trägt. Dabei lernt eine KI, Menschen zu überzeugen, dass ihre Antworten richtig sind, obwohl sie falsch sind. Das ist problematisch, da die KI nicht das korrekte Beantworten von Fragen trainiert, sondern sich nur in der Verschleierung von Fehlern verbessert.

UPDATE Newsletter BASIC thinking

Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.

Nur für kurze Zeit: Anmelden und mit etwas Glück Sonos Era 100 gewinnen!

Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.

Menschliches Feedback hilft KI beim Täuschen

Die Ursache ist eine Methode, die Unternehmen wie OpenAI und Anthropic häufig nutzen: „Reinforcement Learning from Human Feedback“ (RLHF). Dabei antwortet eine KI auf eine Frage und menschliche Evaluatoren bewerten die Antworten nach ihrer Qualität.

Das Modell lernt aus diesem Feedback und erhält dafür eine Art „Belohnung“. Im Resultat entsteht ein Algorithmus, der menschenfreundliche Antworten liefert. Doch diese Antworten müssen nicht immer richtig sein. Denn es entsteht ein sogenanntes „Belohnungshacken“, bei dem die KI Muster erkennt.

Das fördert positive Bewertungen, selbst wenn die dahinterliegenden Muster nicht zu den gewünschten korrekten Ergebnissen führen. Ein Beispiel aus einer früheren Studie zeigt, dass eine KI, die auf der Frage-und-Antwort-Plattform Stack Exchange trainiert wurde, lernte, längere Beiträge zu schreiben, weil diese mehr „Likes“ erhielten.

Prüfer stufen falsche Inhalte als korrekt ein

Anstatt qualitativ hochwertigere Antworten zu liefern, fokussierte sich das Modell darauf, längere Texte zu produzieren – oft auf Kosten der Genauigkeit.

Die aktuelle Studie zeigt, dass nach dem RLHF-Prozess die menschlichen Prüfer um 24 Prozent häufiger falsche Antworten als richtig bewerteten. Auch bei der Programmierung stieg die Wahrscheinlichkeit. Prüfer akzeptierten fehlerhaften Code in 18 Prozent der Fälle.

Das könnte weitreichende Folgen haben, da KI-Modelle immer besser darin werden könnten, ihre Fehler zu verbergen. Langfristig könnte das dazu führen, dass Menschen das Vertrauen in die Technik verlieren, da sie unwissentlich getäuscht werden.

Auch interessant:

  • Roboter erkennen menschliche Berührungen – ohne künstliche Haut
  • Künstliche Intelligenz im iPhone 16: Das sind die neuen Apple-Produkte
  • Selbstheilendes Stromnetz: Künstliche Intelligenz soll Blackouts vermeiden
  • KI-Lücke: Künstliche Intelligenz sorgt für eine noch tiefere „digitale Kluft“

Du möchtest nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 smarte Leser bekommen jeden Tag UPDATE, unser Tech-Briefing mit den wichtigsten News des Tages – und sichern sich damit ihren Vorsprung. Hier kannst du dich kostenlos anmelden.

STELLENANZEIGEN
Junior Marketing & Communications Manager...
Rosenxt Group in Wietmarschen-Lohne
Social-Media-Expert:in (m/w/d) – Internationa...
Testo Industrial Services GmbH in Kirchzarten bei Fr...
Working Student Online Marketing (m/w/d)
Fullsocial GmbH in Hamburg
Content Creator:in – Vertical Video​​ (m/w/d)...
Bürgerwerke eG in Heidelberg
Mitarbeiter Marketing / Social Media (m/w/d)
REWE in Wetter
Content Creator (m/w/d)
Kreissparkasse Ravensburg in Ravensburg
Referent/in Social Media (m/w/d)
DEUTSCHER TIERSCHUTZBUND e.V. in Bonn
Praktikant Social Media (m/w/d)
Mercedes-Benz Tech Innovation in Stuttgart
THEMEN:Künstliche IntelligenzNews
Teile diesen Artikel
Facebook Flipboard Whatsapp Whatsapp LinkedIn Threads Bluesky Email
vonFelix Baumann
Felix Baumann ist seit März 2022 Redakteur bei BASIC thinking. Bereits vorher schrieb er 4 Jahre für den Online-Blog Mobilegeeks, der 2022 in BASIC thinking aufging. Nebenher arbeitet Felix in einem IT-Unternehmen und beschäftigt sich daher nicht nur beim Schreiben mit zukunftsfähigen Technologien.
EMPFEHLUNG
eSchwalbe
E-Roller-Deal: Jetzt eSchwalbe für nur 29 Euro im Monat sichern
Anzeige TECH
goneo eigener Chatserver-2
goneo: Dein eigener Chatserver für Teams, Familie & Freunde
Anzeige TECH
Testimonial TS

»Das UPDATE von BASIC thinking ist ein Muss für alle, die am Puls der digitalen Welt bleiben wollen. Ich schätze die fundierten Analysen und spannenden Einblicke.«

– Tim Schumacher, Investor World Fund

Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung

LESEEMPFEHLUNGEN

Reichweitenangst E-Auto Elektroautos Akku Reichweitenstress Ladestree
BREAK/THE NEWSTECH

Reichweitenangst: Das Schreckgespenst in vielen Köpfen

CRM für Kleinunternehmen HubSpot
AnzeigeTECH

CRM für Kleinunternehmen: Mehr Kunden, weniger Chaos

Gehirn Computer Industrie China BCI
TECH

Gedanken steuern: China will Gehirn-Computer-Industrie aufbauen

Cyborg-Quallen Tiefsee Klimawandel
TECH

Cyborg-Quallen sollen Tiefsee erforschen – gegen den Klimawandel

Apple KI Mistral Perplexity Künstliche Intelligenz
BREAK/THE NEWSMONEY

Im Krisenmodus: Schafft Apple KI oder schafft KI Apple?

Parkplatz Strom, Batteriegroßspeicher, Energie, erneuerbare Energie, Solarenergie, Windenergie, Energiewende, Klimawandel
GREENTECH

Parkplatz für Strom: Batteriegroßspeicher sichern erneuerbare Energie

Mehr anzeigen
Folge uns:
© 2003 - 2025 BASIC thinking GmbH
  • Über uns
  • Mediadaten
  • Impressum
  • Datenschutz

UPDATE abonnieren & mit etwas Glück SONOS Era 100 gewinnen!

Sonos Era 100 Smart Speaker
Welcome Back!

Sign in to your account

Username or Email Address
Password

Lost your password?