Die US-amerikanische Krankenversicherung United Healthcare steht wegen der Diskriminierung von Patienten vor Gericht. Ein selbst entwickeltes KI-System soll unberechtigterweise Krankenkassen-Leistungen gekürzt haben.
Künstliche Intelligenz ist nach wie vor in aller Munde. Egal, ob Google, Microsoft oder OpenAI: Jedes Unternehmen bietet inzwischen eigene KI-Lösungen für Endverbraucher an. Doch die Digitalisierung birgt in diesem Bereich auch viele Risiken. So ist noch immer nicht abschließend geklärt, inwieweit Vorurteile und Diskriminierung innerhalb eines Algorithmus vermieden werden können.
Schließlich ist jeder Algorithmus nur so neutral, wie dessen Entwickler. In den USA bekamen kürzlich etliche Menschen zu spüren, wie eine dystopische KI-Zukunft aussehen könnte. Denn ein automatisiertes System beim größten Versicherer des Landes, United Healthcare, lehnte systematisch Leistungen für Versicherte ab.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück AirPods 4 gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
KI kürz Krankenkassen-Leistungen und überstimmt Ärzte
Das System überstimmte etwa die Diagnose von Ärzten und enthielt älteren Patienten teils lebenswichtige Behandlungen vor. Auf diesem Weg kürzte der Versicherer seinen Kunden Reha- und Pflegeleistungen. Im Resultat verschuldeten sich viele Haushalte, um die lebenswichtige Versorgung aufrechterhalten zu können. Diese Vorwürfe sind der Grund, weshalb derzeit ein Verfahren gegen den Versicherer läuft.
Interne Dokumente und Gesprächsprotokolle stützen die Klage gegen United Healthcare. Außerdem befragte ein Nachrichtenportal ehemalige Mitarbeiter des Tochterunternehmens, das den Algorithmus für die Versicherung entwickelte. Dieser wurde 2019 eingeführt und übernimmt seither Entscheidungen rund um die Folgekosten nach dem Unfall eines Patienten. Darunter fallen etwa Pflege- oder Therapiekosten.
Diskriminierung durch KI auf Basis von Alter und Lebenssituation
Dabei ist vollkommen unklar, wie der Algorithmus seine Entscheidungen fällt. Die Quelldaten bezieht die KI aus einer internen Datenbank mit Informationen zu über sechs Millionen Patienten. Daneben spielen Alter, Lebenssituation und physischer Zustand wohl eine entscheidende Rolle. Dynamische oder individuelle Eigenschaften berücksichtigt das System hingegen nicht.
Das hat zur Folge, dass Patienten, denen normalerweise 100 Tage in einem Pflegeheim zustehen, nach 14 Tagen die Leistungen gestrichen werden. Auch das Urteil von Ärzten ignoriert United Healthcare. Ferner lehnte das Unternehmen Anfragen, ob Kunden Einsicht in den Algorithmus erhalten könnten, kategorisch ab. Der Ausgang der Klage dürfte daher wegweisend für KI im Medizinsektor sein.
Auch interessant:
