Haben Sie schon einmal dar\u00fcber nachgedacht, wie k\u00fcnstliche Intelligenz (KI) Sie bei der Diagnose einer Krankheit unterst\u00fctzen k\u00f6nnte? J\u00fcngste Forschungsergebnisse haben gezeigt, dass ein einheitlicher Ansatz m\u00f6glicherweise nicht der effektivste ist. Wissenschaftler des MIT \u2013 neben anderen Institutionen \u2013 haben herausgefunden, dass KI zwar die Diagnosegenauigkeit bei Hautkrankheiten insgesamt durchaus verbessern kann, die Wirksamkeit der Erkl\u00e4rungen der KI (erkl\u00e4rbare KI) jedoch tats\u00e4chlich vom Fachwissen des Anwenders abh\u00e4ngt.<\/p>\n
Das oberste Ziel der erkl\u00e4rbaren KI ist es, Transparenz zu schaffen und Vertrauen zwischen dem Nutzer und dem KI-Modell aufzubauen. Sie soll den Nutzern helfen, die Vorhersagen des KI-Modells zu verstehen und ihnen zu vertrauen, indem sie Einblicke darin gew\u00e4hrt, wie das Modell zu seiner Diagnose gelangt ist. Dies k\u00f6nnte beispielsweise den Einsatz einer Heatmap beinhalten, um die f\u00fcr die Diagnose entscheidendsten Bildbereiche hervorzuheben, oder ein gro\u00dfes Sprachmodell (LLM), das Erkl\u00e4rungen in einer f\u00fcr Laien verst\u00e4ndlichen Sprache liefert.<\/p>\n
In dieser Studie befassten sich Laien und Haus\u00e4rzte mit der Diagnose von Hauterkrankungen \u2013 sowohl mit als auch ohne die Unterst\u00fctzung verschiedener erkl\u00e4rbarer KI-Systeme. Interessanterweise konnten Laien zwar eine Verbesserung ihrer diagnostischen Genauigkeit feststellen, diese war jedoch gr\u00f6\u00dftenteils auf ihr gr\u00f6\u00dferes Vertrauen in das KI-System zur\u00fcckzuf\u00fchren. Sie empfanden vage oder allgemeine Erkl\u00e4rungen als \u00fcberzeugender und neigten dazu, LLM-basierten Erkl\u00e4rungen zu vertrauen, selbst wenn diese ungenau waren.<\/p>\n
Gleichzeitig zeigten die \u00c4rzte hervorragende Leistungen, wenn ihnen die Vorhersage eines Modells ohne begleitende Erkl\u00e4rung vorgelegt wurde, und lie\u00dfen sich nicht von fehlerhaften KI-Hinweisen beeinflussen. Auf diese Weise erzielten sie \u00fcberdurchschnittliche Ergebnisse.<\/p>\n
Diese Erkenntnisse werfen also eine schwierige Frage auf: Wie k\u00f6nnen wir KI-Systeme im Gesundheitswesen ausgewogen einsetzen und integrieren? Marzyeh Ghassemi, au\u00dferordentliche Professorin am MIT, betont, wie wichtig es ist, ein gesundes Gleichgewicht zu finden. Einerseits k\u00f6nnen gute KI-Systeme die Effizienz und Genauigkeit enorm steigern. Andererseits k\u00f6nnte ein unangemessenes Vertrauen in diese Werkzeuge aufgrund der sogenannten \u2018algorithmischen Deferenz\u2019 zu Fehlern f\u00fchren. Das Bewusstsein f\u00fcr diese menschliche Neigung zur Automatisierungsvoreingenommenheit muss in die Gestaltung von KI-Systemen einflie\u00dfen.<\/p>\n
Diese Ergebnisse liefern wichtige Erkenntnisse \u00fcber unsere zunehmende Abh\u00e4ngigkeit von KI im Gesundheitswesen, insbesondere f\u00fcr Menschen mit geringen medizinischen Kenntnissen \u2013 jene Gruppe, die am anf\u00e4lligsten f\u00fcr irref\u00fchrende Ergebnisse erkl\u00e4rbarer KI ist. Roxana Daneshjou, Mitautorin der Studie und Assistenzprofessorin an der Stanford University, betont erneut die dringende Notwendigkeit, KI-Systeme zu entwickeln, die kritisches Denken f\u00f6rdern und eine \u00fcberm\u00e4\u00dfige Abh\u00e4ngigkeit minimieren.<\/p>\n
Orson Xu, der Hauptautor der Studie, unterstreicht diesen Punkt. Er erl\u00e4utert, wie dieselbe Erkl\u00e4rung einem Experten helfen, einen Anf\u00e4nger jedoch in die Irre f\u00fchren kann. Daher ist es von entscheidender Bedeutung, Empfehlungen angemessen zu pr\u00e4sentieren, um Fehlinformationen zu vermeiden und sicherzustellen, dass KI die Gesundheitsversorgung wirksam verbessern kann.<\/p>\n
Mehrere von der FDA zugelassene KI-Schnittstellen unterst\u00fctzen \u00c4rzte bei der fr\u00fchzeitigen Diagnose von Hauterkrankungen anhand medizinischer Bilder. Diese Tools liefern Vorhersagen zum Vorliegen einer Erkrankung und nutzen verschiedene Methoden, um die Gr\u00fcnde f\u00fcr den Entscheidungsprozess des Modells zu erl\u00e4utern.<\/p>\n
KI-Systeme k\u00f6nnen in Kombination mit Laien die digitale Diagnostik verbessern; KI-gest\u00fctzte Suchmaschinen versuchen, Hautkrankheiten anhand von Nutzereingaben vorherzusagen. Die Forscher stellten fest, dass Nutzer, die der KI am meisten Vertrauen schenkten, ohne sie schlechtere Ergebnisse erzielten. Auch der Zeitpunkt der KI-Erkl\u00e4rungen beeinflusste das Nutzerverhalten; wurde eine Erkl\u00e4rung zuerst gegeben, waren die Nutzer eher geneigt, die Anleitung des Modells zu akzeptieren.<\/p>\n
Ghassemi betont, dass KI-Anwendungen die Kreativit\u00e4t anregen und Bereiche abdecken m\u00fcssen, in denen Nutzer subtile Merkmale in diagnostischen Bildern m\u00f6glicherweise \u00fcbersehen. Es bedarf einer durchdachten Strategie, um dem Risiko entgegenzuwirken, dass Nutzer bei einem fehlerhaften Modell automatisch auf Automatisierungsvoreingenommenheit zur\u00fcckgreifen.<\/p>\n