Die Grundlage für den Schutz der Privatsphäre von Patienten geht auf den Hippokratischen Eid zurück, einen antiken Text, der die medizinische Ethik definiert. Dieser Eid betont, wie wichtig es ist, dass Ärzte die Angelegenheiten ihrer Patienten vertraulich behandeln, und verdeutlicht damit, wie entscheidend die Vertraulichkeit seit mehr als zwei Jahrtausenden für den medizinischen Berufsstand ist. In der heutigen, digital geprägten Welt, in der personenbezogene Daten erfasst und kommerzialisiert werden, bleibt die Medizin ein wichtiger Bereich, in dem die Privatsphäre nach wie vor von grundlegender Bedeutung ist.
Die Patienten müssen sich sicher fühlen, wenn sie ihren Ärzten heikle Informationen mitteilen. Dieses Vertrauen ist eine Voraussetzung für genaue Diagnosen und wirksame Behandlungen. Dennoch ist auch dieser Bereich nicht unempfindlich gegenüber Technologien, die viele Aspekte des Lebens verändern. Insbesondere das Aufkommen der künstlichen Intelligenz (KI) stellt die Wahrung der Privatsphäre im Gesundheitssektor vor neue Herausforderungen.
A aktuelle Studie Eine von Forschern des MIT geleitete Studie schlägt Alarm hinsichtlich der Gefahr, dass KI die Privatsphäre von Patienten untergraben könnte. Die Studie konzentrierte sich auf sogenannte “Foundation-Modelle”, die aus großen Datensätzen lernen, um Vorhersagen zu treffen, und zeigte, dass diese Modelle manchmal individuelle Patientendaten “speichern”, anstatt allgemeine Schlussfolgerungen aus vielen Datensätzen zu ziehen. Die Auswirkungen sind alarmierend – wenn ein KI-Modell sensible Patientendaten reproduziert, könnte dies deren Privatsphäre verletzen.
Leiterin der Studie war die Postdoktorandin Sana Tonekaboni, die zusammen mit der MIT-Assistenzprofessorin Marzyeh Ghassemi Tests entwickelte, um festzustellen, wie viele Informationen ein Angreifer benötigt, um sensible Daten aus einem Modell zu extrahieren, und wie schädlich ein solches Leck sein könnte.
Mit der Umstellung der Gesundheitsakten auf digitale Systeme hat die Zahl der Datenschutzverletzungen erheblich zugenommen. Allein in den letzten zwei Jahren gab es 747 Datenschutzverletzungen, die jeweils mehr als 500 Personen betrafen und in erster Linie auf IT-Pannen oder Hackerangriffe zurückzuführen waren. Dieser Trend verdeutlicht die aufkommenden Gefahren, die von KI-bedingten Datenlecks ausgehen, insbesondere für Patienten mit seltenen oder einzigartigen Erkrankungen. Selbst wenn die Daten de-identifiziert werden, sind diese Personen immer noch gefährdet, da die durchgesickerten Informationen sie potenziell identifizieren könnten.
Im Rahmen ihrer Untersuchungen stellte das Team fest, dass die Auswirkungen von Datenlecks sehr unterschiedlich sein können. Es ist möglicherweise kein großes Problem, wenn das Alter eines Patienten oder allgemeine demografische Daten offengelegt werden. Werden jedoch sensiblere Informationen – wie beispielsweise eine HIV-Diagnose oder eine Vorgeschichte von Substanzmissbrauch – preisgegeben, könnte dies schwerwiegende Folgen haben. Die Tests der Forscher zielen darauf ab, zwischen harmlosen und schädlichen Datenlecks zu unterscheiden und die Wahrscheinlichkeit verschiedener Angriffsarten unter realistischen Bedingungen zu bewerten.
Für die Zukunft hofft das Forschungsteam, Erkenntnisse von Klinikern, Datenschützern und Rechtsexperten einzubeziehen, um ihre Studie zu erweitern. Ihr Ziel ist es, einen soliden Rahmen für die Bewertung und das Management von Datenschutzrisiken zu entwickeln, bevor diese Grundmodelle in klinische Umgebungen integriert werden. Darüber hinaus möchten sie uns daran erinnern, warum der Schutz der Privatsphäre im Gesundheitswesen so wichtig ist. Wie Tonekaboni es formulierte: “Es gibt einen Grund, warum unsere Gesundheitsdaten privat sind … Es gibt keinen Grund, warum andere davon erfahren sollten.”
Die Forschung wurde von mehreren Organisationen unterstützt, darunter das Eric und Wendy Schmidt Center am Broad Institute des MIT und Harvard, das Wallenberg AI Program, die Knut und Alice Wallenberg Stiftung, die U.S. National Science Foundation und andere.
Diese Website verwendet Cookies.