Transparenz ist ein wesentlicher Bestandteil der Vertrauenswürdigkeit, insbesondere bei wissenschaftlichen Anwendungen wie der medizinischen Diagnostik. Wenn wir verstehen, wie Entscheidungen getroffen werden, können wir den Ergebnissen mehr Vertrauen entgegenbringen. Eine Gruppe von Forschern am MIT hat fleißig daran gearbeitet, Systeme der künstlichen Intelligenz (KI) transparenter zu machen. Ihr Schwerpunkt liegt auf einer Methode, die als Concept Bottleneck Modeling bekannt ist.
Konzept-Engpass-Modelle (CBMs) wurden entwickelt, um Erklärungen für KI-Entscheidungen zu liefern. Diese Modelle zwingen Deep-Learning-KI-Systeme dazu, bei der Vorhersage von Ergebnissen auf für Menschen verständliche Konzepte zurückzugreifen. Normalerweise werden diese Konzepte von Experten vordefiniert. In der medizinischen Diagnostik könnte ein Arzt beispielsweise spezifische Beschreibungen wie “gebündelte braune Punkte” verwenden, um die Diagnose eines Melanoms auf medizinischen Bildern zu unterstützen.
Allerdings können vordefinierte Konzepte auch einen Haken haben. Sie sind möglicherweise nicht immer ausreichend detailliert oder relevant, was sich auf die Genauigkeit des Modells auswirken kann. Genau hier spielt die neue Methode der MIT-Forscher ihre Stärken aus. Sie nutzt Konzepte, die das Modell bereits während des Trainings erlernt hat, was zu klareren Erklärungen und genaueren Vorhersagen führt.
Diese bahnbrechende Methode verwendet zwei spezialisierte Machine-Learning-Modelle, die das Wissen aus einem Zielmodell übertragen und in verständliche Konzepte umsetzen. Ihr Ansatz kann jedes vorgefertigte Computer-Vision-Modell in ein selbsterklärendes System verwandeln. Antonio De Santis, der die Forschung leitete, betonte, wie wichtig es ist, zu verstehen, warum ein Modell bestimmte Vorhersagen macht: um nicht nur die Genauigkeit, sondern auch das Verständnis und die Verantwortlichkeit von KI-Modellen zu verbessern. De Santis und seine Kollegen haben ihre Arbeit in einem Buch dokumentiert Forschungsarbeit die auf einer internationalen Konferenz zum Thema KI vorgestellt werden soll.
Durch Hinzufügen eines Zwischenschritts zum Vorhersageprozess helfen CBMs den Nutzern, die Argumentation eines Modells nachzuvollziehen. Dieser Ansatz ist jedoch nicht ohne Herausforderungen, wie beispielsweise die Abstimmung der Konzepte auf die Aufgabe oder die Vermeidung unerwünschter Informationen – ein Problem, das als „Informationsleck“ bekannt ist. Die innovative Lösung, die das MIT-Team vorschlägt, nutzt Konzepte, die ein Modell von Natur aus aus riesigen Datensätzen aufgenommen hat. Ihre Methode fasst diese Merkmale zu Konzepten zusammen und übersetzt sie dann mithilfe eines multimodalen großen Sprachmodells in einfache Sprache.
Um sicherzustellen, dass die Erklärungen verständlich sind, beschränken die Forscher das Modell auf die fünf wichtigsten Begriffe pro Vorhersage. Auf diese Weise können sie unerwünschte oder unbekannte Ideen in Schach halten. Tests haben gezeigt, dass diese Methode bei Aufgaben wie der Identifizierung von Vogelarten oder der Diagnose von Hautläsionen mit genaueren Vorhersagen und sachdienlichen Konzepten besser abschneidet als bestehende VBMs.
Trotz dieser vielversprechenden Ergebnisse räumt De Santis ein, dass es ein Gleichgewicht zwischen der Interpretierbarkeit der Modelle und ihrer Genauigkeit zu finden gilt. Zukünftige Forschungsarbeiten werden sich darauf konzentrieren, Informationslecks zu beseitigen und die Technik durch die Verwendung größerer Datensätze zu skalieren. Unabhängige Experten haben diese Arbeit für ihren Beitrag zur Förderung interpretierbarer KI und zur Überbrückung der Lücke zu symbolischer KI und Wissensgraphen gelobt. Dieses Experiment eröffnet neue Möglichkeiten für Erklärungen, die den internen Mechanismen des Modells treu bleiben.
Mehrere Institutionen, darunter das Progetto Rocca Doctoral Fellowship und die Europäische Union, haben diese wichtige Forschung für mehr Transparenz in KI-Systemen unterstützt. Lesen Sie das Original Nachrichtenartikel für weitere Einzelheiten.
Diese Website verwendet Cookies.