Künstliche Intelligenz verändert die Diagnose von Krankheiten. Doch neue Analysen offenbaren Sicherheitslücken bei der Verarbeitung sensibler Daten mittels KI in der Medizin. Es lässt sich etwa mit großer Genauigkeit nachweisen, ob die Daten einer bestimmten Person zum Training eines Modells verwendet wurden. Das birgt konkrete Gefahren für den Alltag und die digitale Sicherheit von Patienten.
Ein internationales Forscherteam der Technischen Universität München, des Hasso-Plattner-Instituts und des Imperial College London hat die Sicherheit von künstlicher Intelligenz im Gesundheitswesen untersucht. Die im Fachmagazin Nature veröffentlichten Ergebnisse zeigen ein erhebliches Risiko für Patienten, deren Daten für das Training verwendet wurden. In der Untersuchung testeten die Forscher Angriffe auf Modelle, die auf sieben etablierten Datensätzen mit Bildgebungsdaten, Kardiogrammen und elektronischen Patientenakten basierten.
Die Ergebnisse offenbaren Lücken bisheriger Sicherheitstests. Während Angriffe auf ganze Datensätze meist scheiterten, ließen sich einzelne Personen mit einer Wahrscheinlichkeit von nahezu 100 Prozent wiedererkennen. Denn wenn Angreifer Zugriff auf das System der Klinik und ein einziges Datenblatt des Patienten haben, entsteht eine digitale Spur. Gelingt der Nachweis, dass der Datenpunkt in ein spezifisches KI-Modell für Spezialtherapien eingeflossen ist, verrät dies indirekt die Erkrankung des Betroffenen.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 12.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück Apple AirPods gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Die Schwachstellen von KI in der Medizin
Daniel Rückert, Professor für KI in der Medizin an der Technischen Universität München, sagt dazu:
Das ist kein verschmerzbares Risiko. Gesundheitsdaten sind hochsensibel. (…) Das ist besonders schwerwiegend, weil Diskriminierung durch KI auch in der Medizin eine Rolle spielt und beispielsweise manche Modelle weniger genaue Vorhersagen treffen, wenn die Patientin oder der Patient einer Minderheit angehört.
Je größer und komplexer das Modell aufgebaut ist, desto leichter gelingen Angriffe zur Re-Identifizierung. Das Gedächtnis der Software verhält sich dabei ähnlich wie ein genaues Fotogedächtnis. Detailreiche Merkmale prägen sich so tief ein, dass Einzelspuren sichtbar bleiben.
Für Betroffene kann das schwere Konsequenzen im Alltag haben. Gelangen Informationen über eine Teilnahme an Studien über Drittanbieter an Versicherungen, könnten finanzielle Nachteile drohen. Risikoprofile könnten angepasst werden, was zu höheren Beiträgen bei Zusatzversicherungen führt.
Besonders gefährdet sind Personen, die im Datenset unterrepräsentiert sind, wie etwa Minderheiten oder Menschen mit besonderen Organmerkmalen. Wer eigene Daten freiwillig der Forschung spendet, muss somit unter Umständen noch Jahre später Nachteile befürchten.
Lösungsansätze für mehr Datenschutz
Um Patienten wirksam zu schützen, schlägt die Forschung neue technische Schutzmechanismen vor. Ein vielversprechendes Verfahren sei die sogenannte Differential Privacy, bei der der Datenschutz die Basis bildet. Bei diesem Ansatz überlagert ein System das Datenmaterial mit einem gezielten, minimalen Rauschen.
Das lässt sich mit einem leicht milchigen Glas vergleichen. Das Gesamtbild und die medizinischen Details bleiben für den Computer klar erkennbar, aber das Gesicht des Einzelnen verschwimmt unkenntlich. Neben technischen Anpassungen fordern Fachleute neue Standards bei Prüfverfahren.
Sicherheitstests müssen künftig das individuelle Risiko des einzelnen Menschen messen, statt sich auf einen Gesamtdurchschnitt zu verlassen. Zudem ist eine strenge Kontrolle des Zugangs zu den KI-Modellen selbst unverzichtbar. Dadurch ließe sich der wissenschaftliche Fortschritt sichern, ohne die Vertraulichkeit von Patientendaten zu gefährden.
Google lässt dich jetzt selbst bestimmen, welche Quellen du in der Suche häufiger siehst. Mit zwei schnellen Klicks kannst du BASIC thinking kostenlos als bevorzugte Quelle hinzufügen und damit unabhängigen Tech-Journalismus unterstützen. Vielen Dank!
Auch interessant:
