Verbesserung der Erklärbarkeit von AI: Der innovative Ansatz des MIT für Konzept-Engpass-Modelle

Transparenz ist ein wesentlicher Bestandteil der Vertrauenswürdigkeit, insbesondere bei wissenschaftlichen Anwendungen wie der medizinischen Diagnostik. Wenn wir verstehen, wie Entscheidungen getroffen werden, können wir den Ergebnissen mehr Vertrauen entgegenbringen. Eine Gruppe von Forschern am MIT hat fleißig daran gearbeitet, Systeme der künstlichen Intelligenz (KI) transparenter zu machen. Ihr Schwerpunkt liegt auf einer Methode, die als Concept Bottleneck Modeling bekannt ist.

Entmystifizierung der AI-Entscheidungsfindung

Konzept-Engpass-Modelle (CBMs) wurden entwickelt, um Erklärungen für KI-Entscheidungen zu liefern. Diese Modelle zwingen Deep-Learning-KI-Systeme dazu, bei der Vorhersage von Ergebnissen auf für Menschen verständliche Konzepte zurückzugreifen. Normalerweise werden diese Konzepte von Experten vordefiniert. In der medizinischen Diagnostik könnte ein Arzt beispielsweise spezifische Beschreibungen wie “gebündelte braune Punkte” verwenden, um die Diagnose eines Melanoms auf medizinischen Bildern zu unterstützen.

Aber es kann ein Problem mit vordefinierten Konzepten geben. Sie sind möglicherweise nicht immer ausreichend detailliert oder relevant, was die Genauigkeit des Modells beeinträchtigen kann. Genau hier setzt die neue Methode der MIT-Forscher an. Sie macht sich Konzepte zunutze, die das Modell bereits während des Trainings gelernt hat, was zu klareren Erklärungen und genaueren Vorhersagen führt.

Diese bahnbrechende Methode verwendet zwei spezialisierte Machine-Learning-Modelle, die das Wissen aus einem Zielmodell übertragen und in verständliche Konzepte umsetzen. Ihr Ansatz kann jedes vorgefertigte Computer-Vision-Modell in ein selbsterklärendes System verwandeln. Antonio De Santis, der die Forschung leitete, betonte, wie wichtig es ist, zu verstehen, warum ein Modell bestimmte Vorhersagen macht: um nicht nur die Genauigkeit, sondern auch das Verständnis und die Verantwortlichkeit von KI-Modellen zu verbessern. De Santis und seine Kollegen haben ihre Arbeit in einem Buch dokumentiert Forschungsarbeit die auf einer internationalen Konferenz zum Thema KI vorgestellt werden soll.

Verbesserung der KI-Transparenz

Durch Hinzufügen eines Zwischenschritts zum Vorhersageprozess helfen CBMs den Benutzern, die Argumentation eines Modells zu verstehen. Dieser Ansatz ist jedoch nicht unproblematisch, z. B. wenn es darum geht, die Konzepte auf die Aufgabe abzustimmen oder unerwünschte Informationen zu vermeiden, ein Problem, das als Informationsleck bekannt ist. Die innovative Lösung, die das MIT-Team vorschlägt, nutzt Konzepte, die ein Modell von Natur aus aus großen Datensätzen aufgenommen hat. Ihre Methode konsolidiert diese Merkmale zu Konzepten und übersetzt sie dann mit Hilfe eines multimodalen großen Sprachmodells in einfache Sprache.

Um sicherzustellen, dass die Erklärungen verständlich sind, beschränken die Forscher das Modell auf die fünf wichtigsten Begriffe pro Vorhersage. Auf diese Weise können sie unerwünschte oder unbekannte Ideen in Schach halten. Tests haben gezeigt, dass diese Methode bei Aufgaben wie der Identifizierung von Vogelarten oder der Diagnose von Hautläsionen mit genaueren Vorhersagen und sachdienlichen Konzepten besser abschneidet als bestehende VBMs.

Trotz dieser vielversprechenden Ergebnisse räumt De Santis ein, dass es ein Gleichgewicht zwischen der Interpretierbarkeit der Modelle und ihrer Genauigkeit zu finden gilt. Zukünftige Forschungsarbeiten werden sich darauf konzentrieren, Informationslecks zu beseitigen und die Technik durch die Verwendung größerer Datensätze zu skalieren. Unabhängige Experten haben diese Arbeit für ihren Beitrag zur Förderung interpretierbarer KI und zur Überbrückung der Lücke zu symbolischer KI und Wissensgraphen gelobt. Dieses Experiment eröffnet neue Möglichkeiten für Erklärungen, die den internen Mechanismen des Modells treu bleiben.

Mehrere Institutionen, darunter das Progetto Rocca Doctoral Fellowship und die Europäische Union, haben diese wichtige Forschung für mehr Transparenz in KI-Systemen unterstützt. Lesen Sie das Original Nachrichtenartikel für weitere Einzelheiten.