Zwiększanie wytłumaczalności sztucznej inteligencji: Innowacyjne podejście MIT do modeli wąskich gardeł koncepcyjnych

Przejrzystość jest istotną częścią wiarygodności, szczególnie w zastosowaniach naukowych, takich jak diagnostyka medyczna. Kiedy rozumiemy, w jaki sposób podejmowane są decyzje, możemy mieć większe zaufanie do wyników. Grupa naukowców z MIT pilnie pracuje nad zwiększeniem przejrzystości systemów sztucznej inteligencji (AI). Skupiają się oni na metodzie znanej jako modelowanie wąskiego gardła koncepcji.

Demistyfikacja podejmowania decyzji przez sztuczną inteligencję

Modele wąskiego gardła koncepcyjnego (CBM) zostały stworzone w celu zapewnienia wyjaśnień dla decyzji podejmowanych przez sztuczną inteligencję. Modele te zmuszają systemy głębokiego uczenia AI do korzystania z pojęć zrozumiałych dla człowieka podczas przewidywania wyników. Zazwyczaj eksperci wstępnie definiują te pojęcia. Na przykład w diagnostyce medycznej lekarz może użyć konkretnych opisów, takich jak “skupione brązowe kropki”, aby pomóc w zdiagnozowaniu czerniaka na podstawie obrazów medycznych.

Wstępnie zdefiniowane koncepcje mogą jednak stanowić przeszkodę. Mogą one nie zawsze być odpowiednio szczegółowe lub istotne, potencjalnie wpływając na dokładność modelu. W tym właśnie miejscu nowa metoda opracowana przez naukowców z MIT błyszczy. Wykorzystuje ona koncepcje, których model nauczył się już podczas treningu, co prowadzi do jaśniejszych wyjaśnień i dokładniejszych prognoz.

Ta pionierska metoda wykorzystuje dwa wyspecjalizowane modele uczenia maszynowego, które przenoszą wiedzę z modelu docelowego i przekształcają ją w zrozumiałe koncepcje. Ich podejście może przekształcić dowolny gotowy komputerowy model wizyjny w samowyjaśniający się system. Antonio De Santis, który kierował badaniami, podkreślił znaczenie zrozumienia, dlaczego model dokonuje określonych prognoz: w celu poprawy nie tylko dokładności, ale także zrozumienia i odpowiedzialności modeli sztucznej inteligencji. De Santis i jego koledzy udokumentowali swoją pracę w dokumencie artykuł badawczy który zostanie zaprezentowany na międzynarodowej konferencji poświęconej sztucznej inteligencji.

Zwiększanie przejrzystości AI

Dodając pośredni krok do procesu przewidywania, CBM pomagają użytkownikom zrozumieć rozumowanie modelu. Podejście to nie jest jednak pozbawione wyzwań, takich jak dostosowanie pojęć do zadania lub unikanie niepożądanych informacji, problem znany jako wyciek informacji. Innowacyjne rozwiązanie zaproponowane przez zespół MIT wykorzystuje koncepcje, które model z natury zaabsorbował z ogromnych zbiorów danych. Ich metoda konsoliduje te cechy w pojęcia, a następnie tłumaczy je na prosty język za pomocą multimodalnego dużego modelu językowego.

Aby upewnić się, że wyjaśnienia są zrozumiałe, naukowcy ograniczyli model do używania tylko pięciu najbardziej istotnych pojęć na predykcję. W ten sposób mogą powstrzymać niepożądane lub nieznane pomysły. Testy wykazały, że metoda ta przewyższa istniejące CBM w zadaniach takich jak identyfikacja gatunków ptaków lub diagnozowanie zmian skórnych, oferując dokładniejsze przewidywania i trafniejsze koncepcje.

Pomimo tych obiecujących wyników, De Santis przyznaje, że istnieje równowaga między interpretowalnością modeli a ich dokładnością. Nadchodzące badania skupią się na zwalczaniu wycieku informacji i skalowaniu techniki przy użyciu większych zbiorów danych. Niezależni eksperci pochwalili tę pracę za jej wkład w rozwój interpretowalnej sztucznej inteligencji i wypełnienie luki w symbolicznej sztucznej inteligencji i grafach wiedzy. Eksperyment ten otwiera nowe możliwości dla wyjaśnień, które są wierne wewnętrznym mechanizmom modelu.

Kilka instytucji, w tym Progetto Rocca Doctoral Fellowship i Unia Europejska, wsparło te znaczące badania w kierunku większej przejrzystości w systemach sztucznej inteligencji. Przeczytaj oryginał artykuł informacyjny więcej szczegółów.