Ein Zustrom von Studenten, die Kurse in künstlicher Intelligenz (KI) für das Gesundheitswesen belegen, lässt die Aussicht auf eine jährliche Revolutionierung der medizinischen Diagnostik und der Behandlungsempfehlungen wachsen. Trotz dieser Begeisterung gibt es einen Bereich, der nach wie vor zu wenig beachtet wird - die Aufklärung der Studenten über die entscheidende Bedeutung der Bewertung der Qualität und der Verzerrungen in den Trainingsdaten, die zur Entwicklung dieser KI-Modelle verwendet werden.
Wie Leo Anthony Celi, ein renommierter Arzt und leitender Wissenschaftler am Institut für Medizintechnik und -wissenschaften des MIT, treffend hervorhebt, könnte dieses Versäumnis in der KI-Ausbildung später zu Problemen führen. In einem aktueller Artikel, erklärt er, wie Datenverzerrungen, insbesondere bei klinischen Daten, die hauptsächlich von weißen Männern erhoben werden, zu Ineffizienzen in KI-Systemen führen können, wenn sie auf vielfältigere Bevölkerungsgruppen angewendet werden. Zum Beispiel überschätzen Pulsoximeter oft die Sauerstoffsättigung bei People of Color, da diese in klinischen Studien unterrepräsentiert sind. Dies ist nur die Spitze des Eisbergs, denn es gibt unzählige weitere Fälle, in denen medizinische Geräte und Datensysteme die Vielfalt der Bevölkerung übersehen, was zu verzerrten Ergebnissen und potenziell schädlichen Entscheidungen führt.
Ein weiterer entscheidender Punkt ist die Verwendung elektronischer Gesundheitsakten (EHR) als Grundlage für KI-Modelle. Obwohl sie ein wesentlicher Bestandteil der Medizin sind, waren sie nie als lernende Systeme gedacht, und sie sind voll von Ungereimtheiten und Verzerrungen. Celi ist jedoch kein Schwarzmaler, sondern plädiert dafür, die vorhandenen Daten sinnvoll zu nutzen, anstatt die gesamte EHR-Infrastruktur zu ersetzen - was derzeit nicht möglich ist. Glücklicherweise werden derzeit innovative Ansätze wie Transformatormodelle erforscht, um Zusammenhänge zwischen Laborergebnissen, Vitaldaten und Behandlungen besser zu verstehen. Dieser faszinierende Ansatz könnte dazu beitragen, die Auswirkungen fehlender oder verzerrter Daten zu verringern, die häufig durch soziale Determinanten der Gesundheit und implizite Voreingenommenheit der Anbieter beeinflusst werden.
Die Herausforderungen werden deutlich, wenn man Celis Erfahrungen beim Unterrichten von KI im Gesundheitswesen betrachtet. Seit Beginn im Jahr 2016 stellte sein MIT-Team fest, dass den Studierenden beigebracht wurde, Modelle im Hinblick auf ihre statistische Leistungsfähigkeit zu optimieren, anstatt die Integrität der Daten zu hinterfragen. Eine Auswertung von elf Online-Kursen verdeutlichte das Ausmaß dieses Problems: Nur fünf Kurse thematisierten Datenverzerrungen, und lediglich zwei boten fundierte Diskussionen zu diesem Thema. Da KI im Gesundheitswesen immer mehr Fuß fasst, liegt es in der Verantwortung der Lehrenden, sicherzustellen, dass Studierende nicht nur Modelle erstellen, sondern auch die ihnen zugrunde liegenden Daten kritisch hinterfragen können. Um diese Lücke zu schließen, muss der Schwerpunkt von der reinen Modellentwicklung hin zum Verständnis der Daten verlagert werden – ein Bereich, der nach Celis Ansicht mindestens die Hälfte des Kursinhalts ausmachen sollte.
Eine Initiative, die zur Lösung dieses Problems beiträgt, ist das MIT Critical Data-Konsortium. Seit 2014 veranstaltet es internationale Datathons. Diese Veranstaltungen bringen Kliniker, Datenwissenschaftler und Fachkräfte aus dem Gesundheitswesen zusammen, um gemeinsam lokale Datensätze zu untersuchen und so Gesundheit und Krankheit im jeweiligen kulturellen und systemischen Kontext jeder Region besser zu verstehen. Diese Zusammenarbeit schafft ein Umfeld, in dem kritisches Denken auf natürliche Weise gedeiht.
Die Unvollkommenheit von Daten zu akzeptieren, kann auch ein Schritt zur Verbesserung sein, wenn auch ein schwieriger. Ein gutes Beispiel ist die MIMIC-Datenbank, bei der es mehr als 10 Jahre dauerte, bis ein brauchbares Schema formuliert war, was vor allem darauf zurückzuführen war, dass die Nutzer die Mängel erkannten und auf sie hinwiesen. Celi erinnert an dieser Stelle daran, dass auch ohne alle Antworten die Menschen dazu inspiriert werden können, die richtigen Fragen zu stellen, und dass dies einen entscheidenden Unterschied machen kann. Studenten und Forscher, die sich mit der Entwicklung von KI im Gesundheitswesen befassen, müssen sich ihres transformativen Potenzials und der damit einhergehenden ethischen Verantwortung bewusst bleiben.
Ein ausführlicheres Gespräch mit Leo Anthony Celi zu diesem Thema finden Sie unter MIT-Nachrichten.
Diese Website verwendet Cookies.