Transparenz ist ein wesentlicher Bestandteil der Vertrauensw\u00fcrdigkeit, insbesondere bei wissenschaftlichen Anwendungen wie der medizinischen Diagnostik. Wenn wir verstehen, wie Entscheidungen getroffen werden, k\u00f6nnen wir den Ergebnissen mehr Vertrauen entgegenbringen. Eine Gruppe von Forschern am MIT hat flei\u00dfig daran gearbeitet, Systeme der k\u00fcnstlichen Intelligenz (KI) transparenter zu machen. Ihr Schwerpunkt liegt auf einer Methode, die als Concept Bottleneck Modeling bekannt ist.<\/p>\n
Konzept-Engpass-Modelle (CBMs) wurden entwickelt, um Erkl\u00e4rungen f\u00fcr KI-Entscheidungen zu liefern. Diese Modelle zwingen Deep-Learning-KI-Systeme dazu, bei der Vorhersage von Ergebnissen auf f\u00fcr Menschen verst\u00e4ndliche Konzepte zur\u00fcckzugreifen. Normalerweise werden diese Konzepte von Experten vordefiniert. In der medizinischen Diagnostik k\u00f6nnte ein Arzt beispielsweise spezifische Beschreibungen wie \u201cgeb\u00fcndelte braune Punkte\u201d verwenden, um die Diagnose eines Melanoms auf medizinischen Bildern zu unterst\u00fctzen.<\/p>\n
Aber es kann ein Problem mit vordefinierten Konzepten geben. Sie sind m\u00f6glicherweise nicht immer ausreichend detailliert oder relevant, was die Genauigkeit des Modells beeintr\u00e4chtigen kann. Genau hier setzt die neue Methode der MIT-Forscher an. Sie macht sich Konzepte zunutze, die das Modell bereits w\u00e4hrend des Trainings gelernt hat, was zu klareren Erkl\u00e4rungen und genaueren Vorhersagen f\u00fchrt.<\/p>\n
Diese bahnbrechende Methode verwendet zwei spezialisierte Machine-Learning-Modelle, die das Wissen aus einem Zielmodell \u00fcbertragen und in verst\u00e4ndliche Konzepte umsetzen. Ihr Ansatz kann jedes vorgefertigte Computer-Vision-Modell in ein selbsterkl\u00e4rendes System verwandeln. Antonio De Santis, der die Forschung leitete, betonte, wie wichtig es ist, zu verstehen, warum ein Modell bestimmte Vorhersagen macht: um nicht nur die Genauigkeit, sondern auch das Verst\u00e4ndnis und die Verantwortlichkeit von KI-Modellen zu verbessern. De Santis und seine Kollegen haben ihre Arbeit in einem Buch dokumentiert Forschungsarbeit<\/a> die auf einer internationalen Konferenz zum Thema KI vorgestellt werden soll.<\/p>\n Durch Hinzuf\u00fcgen eines Zwischenschritts zum Vorhersageprozess helfen CBMs den Benutzern, die Argumentation eines Modells zu verstehen. Dieser Ansatz ist jedoch nicht unproblematisch, z. B. wenn es darum geht, die Konzepte auf die Aufgabe abzustimmen oder unerw\u00fcnschte Informationen zu vermeiden, ein Problem, das als Informationsleck bekannt ist. Die innovative L\u00f6sung, die das MIT-Team vorschl\u00e4gt, nutzt Konzepte, die ein Modell von Natur aus aus gro\u00dfen Datens\u00e4tzen aufgenommen hat. Ihre Methode konsolidiert diese Merkmale zu Konzepten und \u00fcbersetzt sie dann mit Hilfe eines multimodalen gro\u00dfen Sprachmodells in einfache Sprache.<\/p>\n Um sicherzustellen, dass die Erkl\u00e4rungen verst\u00e4ndlich sind, beschr\u00e4nken die Forscher das Modell auf die f\u00fcnf wichtigsten Begriffe pro Vorhersage. Auf diese Weise k\u00f6nnen sie unerw\u00fcnschte oder unbekannte Ideen in Schach halten. Tests haben gezeigt, dass diese Methode bei Aufgaben wie der Identifizierung von Vogelarten oder der Diagnose von Hautl\u00e4sionen mit genaueren Vorhersagen und sachdienlichen Konzepten besser abschneidet als bestehende VBMs.<\/p>\n Trotz dieser vielversprechenden Ergebnisse r\u00e4umt De Santis ein, dass es ein Gleichgewicht zwischen der Interpretierbarkeit der Modelle und ihrer Genauigkeit zu finden gilt. Zuk\u00fcnftige Forschungsarbeiten werden sich darauf konzentrieren, Informationslecks zu beseitigen und die Technik durch die Verwendung gr\u00f6\u00dferer Datens\u00e4tze zu skalieren. Unabh\u00e4ngige Experten haben diese Arbeit f\u00fcr ihren Beitrag zur F\u00f6rderung interpretierbarer KI und zur \u00dcberbr\u00fcckung der L\u00fccke zu symbolischer KI und Wissensgraphen gelobt. Dieses Experiment er\u00f6ffnet neue M\u00f6glichkeiten f\u00fcr Erkl\u00e4rungen, die den internen Mechanismen des Modells treu bleiben.<\/p>\nVerbesserung der KI-Transparenz<\/h5>\n