Technologie

USA: KI streicht Krankenkassen-Leistungen und diskriminiert Menschen

KI Krankenkassen, Diskriminierung, KI, Arzt, Laptop
Unsplash.com/National Cancer Institute
geschrieben von Felix Baumann

Die US-amerikanische Krankenversicherung United Healthcare steht wegen der Diskriminierung von Patienten vor Gericht. Ein selbst entwickeltes KI-System soll unberechtigterweise Krankenkassen-Leistungen gekürzt haben. 

Künstliche Intelligenz ist nach wie vor in aller Munde. Egal, ob Google, Microsoft oder OpenAI: Jedes Unternehmen bietet inzwischen eigene KI-Lösungen für Endverbraucher an. Doch die Digitalisierung birgt in diesem Bereich auch viele Risiken. So ist noch immer nicht abschließend geklärt, inwieweit Vorurteile und Diskriminierung innerhalb eines Algorithmus vermieden werden können.

Schließlich ist jeder Algorithmus nur so neutral, wie dessen Entwickler. In den USA bekamen kürzlich etliche Menschen zu spüren, wie eine dystopische KI-Zukunft aussehen könnte. Denn ein automatisiertes System beim größten Versicherer des Landes, United Healthcare, lehnte systematisch Leistungen für Versicherte ab.

KI kürz Krankenkassen-Leistungen und überstimmt Ärzte

Das System überstimmte etwa die Diagnose von Ärzten und enthielt älteren Patienten teils lebenswichtige Behandlungen vor. Auf diesem Weg kürzte der Versicherer seinen Kunden Reha- und Pflegeleistungen. Im Resultat verschuldeten sich viele Haushalte, um die lebenswichtige Versorgung aufrechterhalten zu können. Diese Vorwürfe sind der Grund, weshalb derzeit ein Verfahren gegen den Versicherer läuft.

Interne Dokumente und Gesprächsprotokolle stützen die Klage gegen United Healthcare. Außerdem befragte ein Nachrichtenportal ehemalige Mitarbeiter des Tochterunternehmens, das den Algorithmus für die Versicherung entwickelte. Dieser wurde 2019 eingeführt und übernimmt seither Entscheidungen rund um die Folgekosten nach dem Unfall eines Patienten. Darunter fallen etwa Pflege- oder Therapiekosten.


Neue Stellenangebote

Growth Marketing Manager:in – Social Media
GOhiring GmbH in Homeoffice
Communication Expert / Content Designer Social Media (m/w/d)
ISR Information Products AG in Braunschweig
Social Media Manager Marketing & Kommunikation (m/w/d)
ISR Information Products AG in Braunschweig

Alle Stellenanzeigen


Diskriminierung durch KI auf Basis von Alter und Lebenssituation

Dabei ist vollkommen unklar, wie der Algorithmus seine Entscheidungen fällt. Die Quelldaten bezieht die KI aus einer internen Datenbank mit Informationen zu über sechs Millionen Patienten. Daneben spielen Alter, Lebenssituation und physischer Zustand wohl eine entscheidende Rolle. Dynamische oder individuelle Eigenschaften berücksichtigt das System hingegen nicht.

Das hat zur Folge, dass Patienten, denen normalerweise 100 Tage in einem Pflegeheim zustehen, nach 14 Tagen die Leistungen gestrichen werden. Auch das Urteil von Ärzten ignoriert United Healthcare. Ferner lehnte das Unternehmen Anfragen, ob Kunden Einsicht in den Algorithmus erhalten könnten, kategorisch ab. Der Ausgang der Klage dürfte daher wegweisend für KI im Medizinsektor sein.

Auch interessant:

Über den Autor

Felix Baumann

Felix Baumann ist seit März 2022 Redakteur bei BASIC thinking. Bereits vorher schrieb er 4 Jahre für den Online-Blog Mobilegeeks, der 2022 in BASIC thinking aufging. Nebenher arbeitet Felix in einem IT-Unternehmen und beschäftigt sich daher nicht nur beim Schreiben mit zukunftsfähigen Technologien.