Die Dermatologen in unseren modernen Krankenh\u00e4usern und Kliniken greifen immer h\u00e4ufiger auf k\u00fcnstliche Intelligenz (KI) zur\u00fcck, um verschiedene Hautkrankheiten zu erkennen und zu klassifizieren. Eine wichtige Aufgabe dieser KI-Systeme besteht darin, zu beurteilen, ob sich eine Hautl\u00e4sion m\u00f6glicherweise zu etwas Schlimmerem wie Krebs entwickeln k\u00f6nnte oder ob es sich nur um eine gutartige Wucherung handelt. Problematisch wird es jedoch, wenn diese Systeme lernen, bestimmte Hautt\u00f6ne gegen\u00fcber anderen zu bevorzugen und dadurch Patienten mit einem h\u00f6heren Risiko nicht richtig erkennen.<\/p>\n
Das Problem der Voreingenommenheit in der KI ist so alt wie die Technologie selbst und stellt nach wie vor eine der gr\u00f6\u00dften Herausforderungen f\u00fcr die Forscher dar. Voreingenommenheit kann von den Trainingsdaten herr\u00fchren, die zum Erlernen der KI verwendet werden, sie kann aber auch durch die Architektur des Modells selbst entstehen. Wenn Vorurteile in die realen Anwendungen der KI eindringen, k\u00f6nnen die Auswirkungen erheblich sein - insbesondere in der Medizin, wo viel auf dem Spiel steht.<\/p>\n
Ein Forscherteam des MIT, des Worcester Polytechnic Institute und von Google hat mit dem neuen Ansatz \u201cWeighted Rotational DebiasING\u201d (WRING) einen neuen Ansatz gegen KI-Voreingenommenheit vorgestellt. Diese Methode, die auf der 2026 International Conference for Learning Representations anerkannt wurde, zielt speziell auf Vision Language Models (VLMs) ab, wie sie von der KI-Firma OpenAI in ihrer OpenCLIP-Anwendung verwendet werden. VLMs sind flexible technische Hilfsmittel, die verschiedene Arten von Daten wie Video, Bilder und Text gleichzeitig verarbeiten und verstehen k\u00f6nnen.<\/p>\n
Die Hauptmotivation der Forscher f\u00fcr die Entwicklung von WRING war ein anhaltendes Problem bei der Verwendung bestehender Entsch\u00e4rfungsmethoden wie \u2019Projection Debiasing\u201c. Diese Herausforderung, die als \u201dWhac-A-Mole-Dilemma\u201c bezeichnet wird und auf die erstmals im Jahr 2023 hingewiesen wurde, tritt auf, wenn man versucht, Verzerrungen in der KI zu bek\u00e4mpfen. Die Technik des Projection Debiasing besteht darin, voreingenommene Informationen aus dem Darstellungsraum des Modells zu entfernen. Das klingt zun\u00e4chst nach einem soliden Plan, hat aber einen versteckten Nachteil: Es kann unwissentlich andere Beziehungen innerhalb des KI-Modells ver\u00e4ndern.<\/p>\n
WRING l\u00f6st diese Probleme auf geniale Weise, indem es bestimmte Koordinaten im hochdimensionalen Rahmen des KI-Modells ver\u00e4ndert. Durch diese Anpassungen wird dem Modell im Wesentlichen die F\u00e4higkeit abgesprochen, zwischen verschiedenen Gruppen innerhalb eines Konzepts zu differenzieren, w\u00e4hrend alle anderen Beziehungen unversehrt bleiben. Als Post-Processing-Ansatz, der dem Projection Debiasing \u00e4hnelt, kann WRING auf bereits trainierte VLMs angewendet werden, so dass kein neues Training erforderlich ist.<\/p>\n
Einer der Autoren des Forschungspapiers, Walter Gerych, betonte die Wirksamkeit und Effizienz von WRING. Er wies jedoch auf die derzeitige Einschr\u00e4nkung hin, dass es nur auf Contrastive Language-Image Pre-training (CLIP) Modelle angewendet werden kann. F\u00fcr die Zukunft plant Gerych, den WRING-Ansatz auf generative Sprachmodelle wie ChatGPT zu \u00fcbertragen. Was die Finanzierung betrifft, so wurde die Studie durch Auszeichnungen der National Science Foundation und einen MIT-Google Computing Innovation Award finanziell unterst\u00fctzt. Wenn Sie tiefer in das Thema eintauchen m\u00f6chten, lesen Sie das vollst\u00e4ndige Papier hier<\/a>.<\/p>\n