Przejrzysto\u015b\u0107 jest istotn\u0105 cz\u0119\u015bci\u0105 wiarygodno\u015bci, szczeg\u00f3lnie w zastosowaniach naukowych, takich jak diagnostyka medyczna. Kiedy rozumiemy, w jaki spos\u00f3b podejmowane s\u0105 decyzje, mo\u017cemy mie\u0107 wi\u0119ksze zaufanie do wynik\u00f3w. Grupa naukowc\u00f3w z MIT pilnie pracuje nad zwi\u0119kszeniem przejrzysto\u015bci system\u00f3w sztucznej inteligencji (AI). Skupiaj\u0105 si\u0119 oni na metodzie znanej jako modelowanie w\u0105skiego gard\u0142a koncepcji.<\/p>\n
Modele w\u0105skiego gard\u0142a koncepcyjnego (CBM) zosta\u0142y stworzone w celu zapewnienia wyja\u015bnie\u0144 dla decyzji podejmowanych przez sztuczn\u0105 inteligencj\u0119. Modele te zmuszaj\u0105 systemy g\u0142\u0119bokiego uczenia AI do korzystania z poj\u0119\u0107 zrozumia\u0142ych dla cz\u0142owieka podczas przewidywania wynik\u00f3w. Zazwyczaj eksperci wst\u0119pnie definiuj\u0105 te poj\u0119cia. Na przyk\u0142ad w diagnostyce medycznej lekarz mo\u017ce u\u017cy\u0107 konkretnych opis\u00f3w, takich jak \u201cskupione br\u0105zowe kropki\u201d, aby pom\u00f3c w zdiagnozowaniu czerniaka na podstawie obraz\u00f3w medycznych.<\/p>\n
Wst\u0119pnie zdefiniowane koncepcje mog\u0105 jednak stanowi\u0107 przeszkod\u0119. Mog\u0105 one nie zawsze by\u0107 odpowiednio szczeg\u00f3\u0142owe lub istotne, potencjalnie wp\u0142ywaj\u0105c na dok\u0142adno\u015b\u0107 modelu. W\u0142a\u015bnie w tym miejscu nowa metoda opracowana przez naukowc\u00f3w z MIT b\u0142yszczy. Wykorzystuje ona koncepcje, kt\u00f3rych model nauczy\u0142 si\u0119 ju\u017c podczas treningu, co prowadzi do ja\u015bniejszych wyja\u015bnie\u0144 i dok\u0142adniejszych prognoz.<\/p>\n
Ta pionierska metoda wykorzystuje dwa wyspecjalizowane modele uczenia maszynowego, kt\u00f3re przenosz\u0105 wiedz\u0119 z modelu docelowego i przekszta\u0142caj\u0105 j\u0105 w zrozumia\u0142e koncepcje. Ich podej\u015bcie mo\u017ce przekszta\u0142ci\u0107 dowolny gotowy komputerowy model wizyjny w samowyja\u015bniaj\u0105cy si\u0119 system. Antonio De Santis, kt\u00f3ry kierowa\u0142 badaniami, podkre\u015bli\u0142 znaczenie zrozumienia, dlaczego model dokonuje okre\u015blonych prognoz: w celu poprawy nie tylko dok\u0142adno\u015bci, ale tak\u017ce zrozumienia i odpowiedzialno\u015bci modeli sztucznej inteligencji. De Santis i jego koledzy udokumentowali swoj\u0105 prac\u0119 w dokumencie artyku\u0142 badawczy<\/a> kt\u00f3ry zostanie zaprezentowany na mi\u0119dzynarodowej konferencji po\u015bwi\u0119conej sztucznej inteligencji.<\/p>\n Dodaj\u0105c po\u015bredni krok do procesu przewidywania, CBM pomagaj\u0105 u\u017cytkownikom zrozumie\u0107 rozumowanie modelu. Podej\u015bcie to nie jest jednak pozbawione wyzwa\u0144, takich jak dostosowanie poj\u0119\u0107 do zadania lub unikanie niepo\u017c\u0105danych informacji, problem znany jako wyciek informacji. Innowacyjne rozwi\u0105zanie zaproponowane przez zesp\u00f3\u0142 MIT wykorzystuje koncepcje, kt\u00f3re model z natury zaabsorbowa\u0142 z ogromnych zbior\u00f3w danych. Ich metoda konsoliduje te cechy w poj\u0119cia, a nast\u0119pnie t\u0142umaczy je na prosty j\u0119zyk za pomoc\u0105 multimodalnego du\u017cego modelu j\u0119zykowego.<\/p>\n Aby upewni\u0107 si\u0119, \u017ce wyja\u015bnienia s\u0105 zrozumia\u0142e, naukowcy ograniczyli model do u\u017cywania tylko pi\u0119ciu najbardziej istotnych poj\u0119\u0107 na predykcj\u0119. W ten spos\u00f3b mog\u0105 powstrzyma\u0107 niepo\u017c\u0105dane lub nieznane pomys\u0142y. Testy wykaza\u0142y, \u017ce metoda ta przewy\u017csza istniej\u0105ce CBM w zadaniach takich jak identyfikacja gatunk\u00f3w ptak\u00f3w lub diagnozowanie zmian sk\u00f3rnych, oferuj\u0105c dok\u0142adniejsze przewidywania i trafniejsze koncepcje.<\/p>\n Pomimo tych obiecuj\u0105cych wynik\u00f3w, De Santis przyznaje, \u017ce istnieje r\u00f3wnowaga mi\u0119dzy interpretowalno\u015bci\u0105 modeli a ich dok\u0142adno\u015bci\u0105. Nadchodz\u0105ce badania skupi\u0105 si\u0119 na zwalczaniu wycieku informacji i skalowaniu techniki przy u\u017cyciu wi\u0119kszych zbior\u00f3w danych. Niezale\u017cni eksperci pochwalili t\u0119 prac\u0119 za jej wk\u0142ad w rozw\u00f3j interpretowalnej sztucznej inteligencji i wype\u0142nienie luki w symbolicznej sztucznej inteligencji i grafach wiedzy. Eksperyment ten otwiera nowe mo\u017cliwo\u015bci dla wyja\u015bnie\u0144, kt\u00f3re s\u0105 wierne wewn\u0119trznym mechanizmom modelu.<\/p>\nZwi\u0119kszanie przejrzysto\u015bci AI<\/h5>\n