KI und Gesundheitsdaten: Sicherheitsrisiken in der Medizin
Ein Forschungsteam der Technischen Universität München deckt grundlegende Schwachstellen in medizinischen KI-Modellen auf. Ihre Studie zeigt: Bestimmte Patientendaten sind durch einfache Angriffe reidentifizierbar. Dies stellt die Sicherheitsversprechen vieler Gesundheits-KI-Systeme infrage. Eine transparente Risikokommunikation gegenüber der Öffentlichkeit ist für das Vertrauen in digitale Medizin unerlässlich.
Die Lücke in der Risikobewertung
Bisherige Sicherheitsanalysen bewerteten stets das Durchschnittsrisiko für gesamte Datensätze. Die TUM-Forscher um Doktorand Moritz Knolle analysierten erstmals individuelle Risikoprofile. Ihr Ergebnis: In speziellen Datensätzen konnten einzelne Patienten mit nahezu hundertprozentiger Trefferquote identifiziert werden. Dieser Fokus auf das Individuum ändert die bisherige Risikoeinschätzung fundamental.
Die Angriffsmethode „Membership Inference“
Der untersuchte Angriffstyp heißt „Membership Inference Attack“ (MIA). Dabei wird getestet, ob ein bestimmter Datensatz zum Trainingsmaterial eines KI-Modells gehörte. Laut Bundesamt für Sicherheit in der Informationstechnik (BSI) sind solche Angriffe auf unsichere Modelle eine reale Bedrohung. Die TUM-Studie beweist, dass gängige medizinische KI-Modelle anfällig sein können, insbesondere für Personen mit seltenen Krankheitsmerkmalen.
Datenschutzrechtliche Konsequenzen
Die Ergebnisse berühren den Kern der EU-Datenschutz-Grundverordnung (DSGVO). Artikel 5 verlangt „angemessene Sicherheit“ personenbezogener Daten. Ein erfolgreicher MIA-Angriff verletzt diese Pflicht. Für Forschungseinrichtungen und Kliniken erhöht dies die Haftungsrisiken. Die deutsche Krankenhaus-IT muss diese neuen Erkenntnisse bei Zertifizierungen nach dem Digitale-Versorgung-Gesetz (DVG) berücksichtigen.
Entwicklung der letzten sechs Monate
Seit Veröffentlichung der Studie hat das Bundesgesundheitsministerium das Thema auf die Agenda gesetzt. In einem aktuellen Bericht zur „Digitalen Gesundheitsstrategie“ wird explizit auf „Sicherheitslücken bei KI-Modellen“ verwiesen. Parallel prüft der Bundesverband der Pharmazeutischen Industrie (BPI) neue Compliance-Richtlinien für seine Mitglieder. Der öffentliche Diskurs hat sich von allgemeiner KI-Euphorie zu einer differenzierteren Risikodebatte verschoben.
Praktische Maßnahmen für mehr Sicherheit
Die Forscher empfehlen konkrete technische und organisatorische Maßnahmen (TOM) gemäß DSGVO, um Risiken zu minimieren. Dazu zählen:
- Implementierung differenzieller Privatsphäre (Differential Privacy)
- Regelmäßige Penetrationstests speziell auf MIAs
- Strikte Zugriffskontrollen auf Modelle und Datensätze
- Verbindliche Risikobewertungen für jeden Trainingsdatensatz
- Schulung von Data Scientists in IT-Sicherheit
- Transparente Offenlegung von Restrisiken gegenüber Patienten
Einfluss auf das deutsche Gesundheitssystem
Das Vertrauen in digitale Anwendungen ist zentral für ihren Erfolg. Bei über 80.000 dokumentierten IT-Sicherheitsvorfällen im deutschen Gesundheitswesen im Jahr 2023 (laut BSI) sind neue Warnungen sensibel. Krankenkassen fordern nun strengere Prüfungen für KI-Diagnosehilfen. Moritz Knolle kommentiert: „Unsere Studie zeigt, dass pauschale Sicherheitszusagen nicht haltbar sind. Wir brauchen eine granulare Risikobetrachtung.“ Dieser Ansatz muss in die laufende Reform des § 291e SGB V (Regelungen zur Telematikinfrastruktur) einfließen.
Fazit und Ausblick
Die Studie unterstreicht, dass technischer Fortschritt und Datenschutz gemeinsam gedacht werden müssen. Es reicht nicht, nur die durchschnittliche Sicherheit zu betrachten. Die spezifische Gefährdung vulnerabler Patientengruppen erfordert besonderen Schutz. Die kommenden EU-Regulierungen zum „Artificial Intelligence Act“ werden hier verbindliche Leitplanken setzen. Für Bürger bleibt entscheidend: Informieren Sie sich über die Risiken digitaler Gesundheitsanwendungen (DiGA) und nutzen Sie Ihre Auskunftsrechte nach DSGVO.
| Betroffener Bereich | Konkrete Konsequenz der Studie |
|---|---|
| Gesetzgebung | Prüfung der KI-Verordnung (AI Act) auf MIA-Robustheit |
| Klinik-Praxis | Anpassung der Sicherheitsaudits für Forschungs-KI |
| Patientenrechte | Stärkung der Aufklärungspflicht vor Datennutzung |
| Forschungsförderung | Auflage von Sicherheitsgutachten in Förderprogrammen |
| Wirtschaftlichkeit | Höhere Investitionen in IT-Sicherheit kalkulieren |
Die evidenzbasierte Debatte, wie sie die TUM-Forscher anstoßen, stärkt langfristig die Resilienz unseres Gesundheitssystems. Nur durch transparente Analysen können digitale Innovationen nachhaltig und vertrauenswürdig implementiert werden.
