Wieso mühsam Linklisten in Google durchforsten, wenn mir meine Lieblings-KI in wenigen Sekunden eine plausibel klingende Antwort liefert? Vielleicht, weil KI-Antworten oft fehlerbehaftet sind. Doch wer ist eigentlich Schuld, wenn es mir gesundheitlich schlechter geht, weil ich auf eine KI gehört habe- Eine kommentierende Analyse.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
KI-Haftung: OLG Hamm trifft wegweisendes Urteil
- Das Oberlandesgericht Hamm hat im Mai 2026 ein wegweisendes Urteil getroffen. Demnach haften Unternehmen, die KI-Dienstleistungen in Form von Chatbots auf ihren Web-Auftritten integrieren, für die getroffenen Aussagen – auch, wenn sie frei erfunden sind. Wer also auf KI im Kundensupport setzt, übernimmt das volle Risiko.
- Im konkreten Fall hatte die Aesthetify GmbH, die Schönheitsdienstleistungen anbietet, einen Chatbot für Kunden integriert. Er diente der Terminbuchung und konnte Fragen beantworten. Das Problem: Im zugrunde liegenden Chat behauptete der Bot, dass die beiden Geschäftsführer Facharztbezeichnungen tragen, die sie erstens nicht haben und die es zweitens teilweise nicht einmal in Deutschland gibt. Plumpe Lügen also.
- Gleichzeitig hat eine Studie des Landesmedienzentrums Baden-Württemberg herausgefunden, dass ungefähr die Hälfte der befragten Jugendlichen im Alter zwischen 12 und 19 Jahren den Informationen von KI-Chatbots grundsätzlich vertraut. Die Europäische Rundfunkunion kam im Rahmen der Studie „News Integrity in AI Assistants“ zu dem Ergebnis, dass 45 Prozent aller KI-Antworten mindestens eine gravierende Schwachstelle – also falsche oder veraltete Informationen – enthalten. Das Vertrauen in Dinge und Menschen, die nicht die Wahrheit sagen, steigt – das zeigt auch US-Präsident Donald Trump.
Warum KI gleich doppelt versagt – und niemand eingreift
Der Fall vor dem OLG Hamm ist längst kein Einzelfall mehr. Rund um den Globus häufen sich – primär zivilrechtliche – Verfahren, in denen es darum geht, wer die Haftung für die Aussagen von KI-Chatbots trägt. Hintergrund ist, dass es immer mehr Straftaten gibt, in die KI nachweislich verwickelt war.
Dabei handelt KI doppelt fehlerhaft. Einerseits lassen sich Programme wie ChatGPT derzeit zu leicht dazu überreden, gefährliche Informationen preiszugeben. Oft genügt es vorzugeben, für ein Buch oder einen Film zu recherchieren, und schon fallen alle Sicherheitsvorkehrungen. Die Folge: Immer mehr (Selbst-)Morde wurden und werden von Künstlicher Intelligenz angeleitet.
Andererseits handeln ChatGPT, Grok und Konsorten zu wenig. Spätestens wenn die erste Frage zum lebensgefährlichen Drogenkonsum, zum Bau einer Waffe oder zum Knoten eines Stricks kommt, müsste nicht nur der Chatbot sofort das Gespräch beenden. Es müsste zudem die interne Alarmierung losgehen. Das System müsste menschliche Prüfer auf potenziell gefährdete Menschen und – falls möglich – lokale Behörden über die akute Gefährdung von Personen hinweisen.
Ein derartiges Sicherheitsnetz zum Schutz der eigenen Nutzer aufzubauen, sollte zu den Mindestanforderungen für KI-Systeme gehören. Stattdessen wandert die Energie bislang in unglaubwürdige Entschuldigungen, wenn es schon zu spät und ein Mensch verstorben ist.
Stimmen
- Marius Pflaum vom europäischen Kanzlei-Netzwerk DIRO glaubt, dass das OLG Hamm mit seinem Urteil einen Stein ins Rollen gebracht hat. Er kommentiert: „Die Entscheidung hat erhebliche Tragweite über den Medizinsektor hinaus. Unternehmen, die generative KI-Systeme im Außenauftritt einsetzen – etwa für Beratung, Produktauskunft, Vertragsinformationen oder Support – müssen sicherstellen, dass die generierten Inhalte kontinuierlich überwacht und technisch begrenzt werden. Unternehmen können sich nicht hinter der vermeintlichen Autonomie generativer Systeme verstecken. Wer KI als Sprachrohr seines Unternehmens einsetzt, muss sich ihre Aussagen zurechnen lassen wie eigene Erklärungen. Das gilt selbst dann, wenn das KI-Modell ordnungsgemäß trainiert wurde.“
- Christian Strohmayr, KI- und Content-Experte und Geschäftsführer der BEWEGT.content GmbH, glaubt, dass ein Spannungsfeld zwischen Technologie und Recht entsteht. Deutsche Technologiefeindlichkeit könnte dabei zum Standort-Nachteil werden. Auf LinkedIn schreibt er: „Ein KI-System ist rechtlich Teil der Unternehmensorganisation. Unternehmen haften also vollständig für generierte Aussagen ihrer KI. Das mag juristisch nachvollziehbar sein. Wirtschaftlich könnte es jedoch problematisch werden. Deutschland entwickelt sich vom Innovationsstandort zum Regulierungsstandort. Wenn Unternehmen bereits Angst haben müssen, KI überhaupt einzusetzen, wird die internationale Wettbewerbsfähigkeit massiv leiden.“
- Fabian Peters, Chefredakteur von BASIC thinking, hat sich im Podcast „Break The Week“ zur Verantwortung von KI-Betreibern geäußert. Konkret geht es um einen Mord in Florida, bei dem ChatGPT detaillierte Anleitungen zum Bau von Waffen gegeben haben soll: „Wenn ich eine Suchmaschine wie Google frage, liefert die nicht so detaillierte Antworten wie ChatGPT. Wenn man ChatGPT nach Waffen oder Angriffstaktiken fragt und das Ding das ausspuckt, sehe ich OpenAI in einer gewissen Verantwortung, weil sich derartige Probleme einfach durch Programmierung lösen lassen. Also, dass bei bestimmten Schlagworten einfach keine Antworten kommen.“ Er ergänzt: „Die Rechtsprechung kommt teilweise überhaupt nicht hinterher, weil der technologische Fortschritt zu schnell für die Justiz ist.“
Wie sich die KI-Haftung in Europa verändern könnte
Theoretisch gibt es durchaus Ansatzpunkte, um KI für ihre Aussagen verantwortlich zu machen. Ein Ansatzpunkt ist dabei unter anderem das europäische Produkthaftungsrecht. Demnach haften Unternehmen für ihre Produkte, so wie wir es vom Spielplatz oder aus dem Tiergarten kennen: Eltern haften für ihre Kinder.
Wenn ein Kunde durch ein Produkt – und dabei stellt sich die Frage, ob ein KI-Chatbot ein Produkt ist – zu Schaden kommt, haften Unternehmen (unter Umständen) dafür. Wenn Maschinen Konstruktionsfehler aufweisen und dadurch Menschenleben gefährdet sind, ist dafür der Maschinenhersteller verantwortlich. Wenn ChatGPT also Mordanleitungen ausarbeitet oder xAI Nacktbilder von Kindern erstellt und dadurch körperlicher oder psychischer Schaden entsteht, müssen OpenAI oder Elon Musk ihren Kopf hinhalten.
Um KI-Konzerne dazu zu zwingen, mehr Verantwortung zu übernehmen, ist es wichtig, die geltenden Regeln enger zu gestalten. Bislang wird die Eigenverantwortung weitestgehend auf die Nutzer abgewälzt. Wer Gesundheitstipps einer KI annimmt, ist selbst schuld. Schließlich gibt es doch überall Hinweise darüber, dass KI Fehler machen kann. Doch das reicht nicht.
Ein Lösungsansatz könnte sein, in der Rechtsprechung nicht auf den allgemeinen Zweck – also zum Beispiel das Heraussuchen von Informationen – zu schauen. Stattdessen sollten KI-Systeme nach Worst-Case-Szenarien beurteilt werden. Gibt eine KI womöglich lebensgefährdende Informationen heraus? Dann muss sich das Haftungsrisiko auch entsprechend erhöhen. Wer einen Ferrari fährt, zahlt auch höhere Versicherungssummen als Polo-Fahrer.
Unser exklusives Format »Break the News«, in dem wir aktuelle Nachrichten in ihre Einzelteile zerlegen, erscheint immer zuerst in UPDATE, unserem täglichen Tech-Briefing. Hier kannst du dich über 12.000 anderen Lesern anschließen und dich kostenlos anmelden:
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung
Auch interessant:
