Ein kluger Ansatz zur Entschärfung von KI im Gesundheitswesen

Die Dermatologen in unseren modernen Krankenhäusern und Kliniken greifen immer häufiger auf künstliche Intelligenz (KI) zurück, um verschiedene Hautkrankheiten zu erkennen und zu klassifizieren. Eine wichtige Aufgabe dieser KI-Systeme besteht darin, zu beurteilen, ob sich eine Hautläsion möglicherweise zu etwas Schlimmerem wie Krebs entwickeln könnte oder ob es sich nur um eine gutartige Wucherung handelt. Problematisch wird es jedoch, wenn diese Systeme lernen, bestimmte Hauttöne gegenüber anderen zu bevorzugen und dadurch Patienten mit einem höheren Risiko nicht richtig erkennen.

Das Problem der Voreingenommenheit in der KI ist so alt wie die Technologie selbst und stellt nach wie vor eine der größten Herausforderungen für die Forscher dar. Voreingenommenheit kann von den Trainingsdaten herrühren, die zum Erlernen der KI verwendet werden, sie kann aber auch durch die Architektur des Modells selbst entstehen. Wenn Vorurteile in die realen Anwendungen der KI eindringen, können die Auswirkungen erheblich sein - insbesondere in der Medizin, wo viel auf dem Spiel steht.

Neue Maßnahmen gegen Voreingenommenheit in der KI

Ein Forscherteam des MIT, des Worcester Polytechnic Institute und von Google hat mit dem neuen Ansatz “Weighted Rotational DebiasING” (WRING) einen neuen Ansatz gegen KI-Voreingenommenheit vorgestellt. Diese Methode, die auf der 2026 International Conference for Learning Representations anerkannt wurde, zielt speziell auf Vision Language Models (VLMs) ab, wie sie von der KI-Firma OpenAI in ihrer OpenCLIP-Anwendung verwendet werden. VLMs sind flexible technische Hilfsmittel, die verschiedene Arten von Daten wie Video, Bilder und Text gleichzeitig verarbeiten und verstehen können.

Die Hauptmotivation der Forscher für die Entwicklung von WRING war ein anhaltendes Problem bei der Verwendung bestehender Entschärfungsmethoden wie ’Projection Debiasing“. Diese Herausforderung, die als ”Whac-A-Mole-Dilemma“ bezeichnet wird und auf die erstmals im Jahr 2023 hingewiesen wurde, tritt auf, wenn man versucht, Verzerrungen in der KI zu bekämpfen. Die Technik des Projection Debiasing besteht darin, voreingenommene Informationen aus dem Darstellungsraum des Modells zu entfernen. Das klingt zunächst nach einem soliden Plan, hat aber einen versteckten Nachteil: Es kann unwissentlich andere Beziehungen innerhalb des KI-Modells verändern.

KI-Vision-Modelle intelligenter debattieren

WRING löst diese Probleme auf geniale Weise, indem es bestimmte Koordinaten im hochdimensionalen Rahmen des KI-Modells verändert. Durch diese Anpassungen wird dem Modell im Wesentlichen die Fähigkeit abgesprochen, zwischen verschiedenen Gruppen innerhalb eines Konzepts zu differenzieren, während alle anderen Beziehungen unversehrt bleiben. Als Post-Processing-Ansatz, der dem Projection Debiasing ähnelt, kann WRING auf bereits trainierte VLMs angewendet werden, so dass kein neues Training erforderlich ist.

Einer der Autoren des Forschungspapiers, Walter Gerych, betonte die Wirksamkeit und Effizienz von WRING. Er wies jedoch auf die derzeitige Einschränkung hin, dass es nur auf Contrastive Language-Image Pre-training (CLIP) Modelle angewendet werden kann. Für die Zukunft plant Gerych, den WRING-Ansatz auf generative Sprachmodelle wie ChatGPT zu übertragen. Was die Finanzierung betrifft, so wurde die Studie durch Auszeichnungen der National Science Foundation und einen MIT-Google Computing Innovation Award finanziell unterstützt. Wenn Sie tiefer in das Thema eintauchen möchten, lesen Sie das vollständige Papier hier.

Wenn Sie daran interessiert sind, KI-Technologien in Ihr Unternehmen einzubinden, insbesondere um Routineaufgaben zu automatisieren, sollten Sie sich die erstklassigen KI-Lösungen von implementi.ai.