Die rasante Entwicklung von Künstlicher Intelligenz (KI) revolutioniert viele Branchen – die Medizin ist da keine Ausnahme. Doch mit dem Fortschritt in der Krebsdiagnose durch KI-Modelle treten neue Risiken ans Licht. Ein Forschungsteam der Technischen Universität München (TUM), des Imperial College London und des Hasso-Plattner-Instituts (HPI) hat kürzlich eine Studie veröffentlicht, die alarmierende Erkenntnisse über den Datenschutz im Gesundheitswesen präsentiert. Die Studie, die in dem renommierten Fachmagazin „Nature“ veröffentlicht wurde, untersucht, wie persönliche Daten bei der Entwicklung von KI-Modellen zur Krebs-Erkennung genutzt werden und welche Gefahren dabei lauern. Dabei zeigt sich, dass die bisherige Annahme, solche Modelle seien sicher, irreführend sein könnte, wie TUM berichtet.

Im Mittelpunkt der Studie steht das Phänomen der sogenannten Membership Inference Attacks (MIA). Dabei handelt es sich um Angriffe, bei denen Angreifer versuchen, herauszufinden, ob die Daten einer Person Teil des Trainingsdatensatzes eines KI-Modells waren. Diese Angriffe sind besonders besorgniserregend, da sie gezielt die statistischen Fingerabdrücke ausnutzen, die in den Modellen hinterlassen werden. Überraschenderweise zeigt die Untersuchung, dass bestimmte Patientendaten mit nahezu hundertprozentiger Wahrscheinlichkeit den KI-Modellen zugeordnet werden können, was die Datenschutzbedenken erheblich verstärkt.

Die Schattenseite der KI-Modelle

Obwohl zahlreiche Datensätze als weitgehend resistent gegen MIAs galten, zeigen die Ergebnisse, dass die hohe Sensibilität von Gesundheitsdaten das Risiko der Datenexposition erheblich erhöht. Immunitätsvorkehrungen, die traditionell zur Wahrung der Privatsphäre eingesetzt werden, wie das Entfernen persönlicher Identifikatoren, erweisen sich in diesem Kontext als ineffektiv. Galileo.ai hebt hervor, dass klassische Datenschutzmaßnahmen nicht ausreichen, um die Angriffe zu verhindern.

Die Arbeiten des Forscherteams haben zudem ergeben, dass bei der Berichterstattung über Sicherheitsfragen oft falsche Annahmen getroffen werden. Insbesondere wurde festgestellt, dass standardmäßige Berechnungen zur Sicherheit von KI-Modellen nicht nur irreführend, sondern in ihrem Ausgang unzureichend sind. Diese Erkenntnisse fordern sowohl Wissenschaft als auch Industrie heraus, ihre Ansätze zur Datensicherheit zu überdenken und entsprechende Schutzmaßnahmen zu implementieren.

Vorschläge für eine bessere Datensicherheit

Die Studie macht einige klar umrissene Vorschläge zur Verbesserung der Sicherheit von KI-Modellen. Neben der Implementierung von Differential Privacy, um die Signale des Trainingsdatensatzes zu verwischen, werden fortschrittliche Techniken wie L2-Waageabnahme und Dropout empfohlen, um die Überanpassung zu reduzieren. Auch die Etablierung von Echtzeit-Ausgabefiltersystemen kann dazu beitragen, das Risiko von Datenschutzverletzungen zu minimieren. Darüber hinaus legen die Forscher nahe, kontinuierliche Datenschutzüberwachungsmaßnahmen zu ergreifen, um der dynamischen Bedrohungslage bestenfalls gerecht zu werden.

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Mit der steigenden Aufmerksamkeit auf diese Herausforderungen ist zu erwarten, dass die Diskussion über den Datenschutz im Kontext von KI und seinen Anwendungen in der Medizin weiter an Intensität zunimmt. Die Entwicklungen von TUM und Galileo.ai bieten die Grundlage für eine kritische Auseinandersetzung mit den Technologien und ihren gesellschaftlichen Implikationen. Es bleibt abzuwarten, wie sich diese Thematik in den kommenden Jahren entwickeln wird und welche Maßnahmen ergriffen werden, um den Schutz persönlicher Daten in der KI-Ära zu gewährleisten.