Der Einfluss erklärbarer KI auf die Krankheitsdiagnose: Ein maßgeschneiderter Ansatz ist unerlässlich

Haben Sie schon einmal darüber nachgedacht, wie künstliche Intelligenz (KI) Sie bei der Diagnose einer Krankheit unterstützen könnte? Jüngste Forschungsergebnisse haben gezeigt, dass ein einheitlicher Ansatz möglicherweise nicht der effektivste ist. Wissenschaftler des MIT – neben anderen Institutionen – haben herausgefunden, dass KI zwar die Diagnosegenauigkeit bei Hautkrankheiten insgesamt durchaus verbessern kann, die Wirksamkeit der Erklärungen der KI (erklärbare KI) jedoch tatsächlich vom Fachwissen des Anwenders abhängt.

Erklärbare KI entmystifizieren

Das oberste Ziel der erklärbaren KI ist es, Transparenz zu schaffen und Vertrauen zwischen dem Nutzer und dem KI-Modell aufzubauen. Sie soll den Nutzern helfen, die Vorhersagen des KI-Modells zu verstehen und ihnen zu vertrauen, indem sie Einblicke darin gewährt, wie das Modell zu seiner Diagnose gelangt ist. Dies könnte beispielsweise den Einsatz einer Heatmap beinhalten, um die für die Diagnose entscheidendsten Bildbereiche hervorzuheben, oder ein großes Sprachmodell (LLM), das Erklärungen in einer für Laien verständlichen Sprache liefert.

In dieser Studie befassten sich Laien und Hausärzte mit der Diagnose von Hauterkrankungen – sowohl mit als auch ohne die Unterstützung verschiedener erklärbarer KI-Systeme. Interessanterweise konnten Laien zwar eine Verbesserung ihrer diagnostischen Genauigkeit feststellen, diese war jedoch größtenteils auf ihr größeres Vertrauen in das KI-System zurückzuführen. Sie empfanden vage oder allgemeine Erklärungen als überzeugender und neigten dazu, LLM-basierten Erklärungen zu vertrauen, selbst wenn diese ungenau waren.

Gleichzeitig zeigten die Ärzte hervorragende Leistungen, wenn ihnen die Vorhersage eines Modells ohne begleitende Erklärung vorgelegt wurde, und ließen sich nicht von fehlerhaften KI-Hinweisen beeinflussen. Auf diese Weise erzielten sie überdurchschnittliche Ergebnisse.

Diese Erkenntnisse werfen also eine schwierige Frage auf: Wie können wir KI-Systeme im Gesundheitswesen ausgewogen einsetzen und integrieren? Marzyeh Ghassemi, außerordentliche Professorin am MIT, betont, wie wichtig es ist, ein gesundes Gleichgewicht zu finden. Einerseits können gute KI-Systeme die Effizienz und Genauigkeit enorm steigern. Andererseits könnte ein unangemessenes Vertrauen in diese Werkzeuge aufgrund der sogenannten ‘algorithmischen Deferenz’ zu Fehlern führen. Das Bewusstsein für diese menschliche Neigung zur Automatisierungsvoreingenommenheit muss in die Gestaltung von KI-Systemen einfließen.

Entwicklung nutzerorientierter KI-Systeme

Diese Ergebnisse liefern wichtige Erkenntnisse über unsere zunehmende Abhängigkeit von KI im Gesundheitswesen, insbesondere für Menschen mit geringen medizinischen Kenntnissen – jene Gruppe, die am anfälligsten für irreführende Ergebnisse erklärbarer KI ist. Roxana Daneshjou, Mitautorin der Studie und Assistenzprofessorin an der Stanford University, betont erneut die dringende Notwendigkeit, KI-Systeme zu entwickeln, die kritisches Denken fördern und eine übermäßige Abhängigkeit minimieren.

Orson Xu, der Hauptautor der Studie, unterstreicht diesen Punkt. Er erläutert, wie dieselbe Erklärung einem Experten helfen, einen Anfänger jedoch in die Irre führen kann. Daher ist es von entscheidender Bedeutung, Empfehlungen angemessen zu präsentieren, um Fehlinformationen zu vermeiden und sicherzustellen, dass KI die Gesundheitsversorgung wirksam verbessern kann.

Mehrere von der FDA zugelassene KI-Schnittstellen unterstützen Ärzte bei der frühzeitigen Diagnose von Hauterkrankungen anhand medizinischer Bilder. Diese Tools liefern Vorhersagen zum Vorliegen einer Erkrankung und nutzen verschiedene Methoden, um die Gründe für den Entscheidungsprozess des Modells zu erläutern.

Den Herausforderungen der Zurückhaltung gegenüber KI begegnen

KI-Systeme können in Kombination mit Laien die digitale Diagnostik verbessern; KI-gestützte Suchmaschinen versuchen, Hautkrankheiten anhand von Nutzereingaben vorherzusagen. Die Forscher stellten fest, dass Nutzer, die der KI am meisten Vertrauen schenkten, ohne sie schlechtere Ergebnisse erzielten. Auch der Zeitpunkt der KI-Erklärungen beeinflusste das Nutzerverhalten; wurde eine Erklärung zuerst gegeben, waren die Nutzer eher geneigt, die Anleitung des Modells zu akzeptieren.

Ghassemi betont, dass KI-Anwendungen die Kreativität anregen und Bereiche abdecken müssen, in denen Nutzer subtile Merkmale in diagnostischen Bildern möglicherweise übersehen. Es bedarf einer durchdachten Strategie, um dem Risiko entgegenzuwirken, dass Nutzer bei einem fehlerhaften Modell automatisch auf Automatisierungsvoreingenommenheit zurückgreifen.

Diese Forschungsarbeit wurde von der National Science Foundation, Schmidt Sciences, dem National Bureau of Economic Research und der Columbia University finanziert. Wenn Sie sich eingehender mit der Studie befassen möchten, lesen Sie den Originalartikel.

Wenn Sie neugierig sind, wie KI-Automatisierung Ihre Geschäftsabläufe optimieren kann, sollten Sie einen Blick auf implementi.ai werfen. Die KI-Systeme des Unternehmens sind darauf zugeschnitten, die Entscheidungsprozesse in Ihrem Unternehmen zu verbessern. Schauen Sie sich die Angebote gerne an und entdecken Sie, wie sie Ihnen helfen können!