Wpływ wyjaśnialnej sztucznej inteligencji na diagnostykę chorób: niezbędne jest indywidualnie dostosowane podejście

Czy zastanawialiście się kiedyś, w jaki sposób sztuczna inteligencja (AI) mogłaby pomóc w diagnozowaniu chorób? Jak wykazały najnowsze badania, strategia oparta na jednym uniwersalnym podejściu może nie być najskuteczniejsza. Naukowcy z MIT – oraz innych instytucji – odkryli, że choć sztuczna inteligencja z pewnością może ogólnie poprawić dokładność diagnozowania chorób skóry, skuteczność jej wyjaśnień (wyjaśnialna sztuczna inteligencja) faktycznie zależy od poziomu wiedzy użytkownika.

Demistyfikacja wyjaśnialnej sztucznej inteligencji

Ostatecznym celem wyjaśnialnej sztucznej inteligencji jest zapewnienie przejrzystości i budowanie zaufania między użytkownikiem a modelem AI. Ma ona pomóc użytkownikom w zrozumieniu i zaufaniu do prognoz modelu AI poprzez przedstawienie informacji na temat tego, w jaki sposób model doszedł do swojej diagnozy. Może to polegać na przykład na wykorzystaniu mapy cieplnej do zaznaczenia obszarów obrazu, które mają największe znaczenie dla diagnozy, lub na zastosowaniu dużego modelu językowego (LLM), który przedstawia wyjaśnienia w przystępny sposób.

W niniejszym badaniu osoby niebędące ekspertami oraz lekarze podstawowej opieki zdrowotnej zajmowali się diagnozowaniem chorób skóry zarówno z wykorzystaniem różnych systemów wyjaśnialnej sztucznej inteligencji, jak i bez nich. Co ciekawe, choć osoby niebędące ekspertami odnotowały poprawę dokładności diagnostycznej, wynikało to w dużej mierze z ich większego zaufania do systemu sztucznej inteligencji. Uznały one niejasne lub ogólnikowe wyjaśnienia za bardziej przekonujące i miały tendencję do ufania wyjaśnieniom opartym na modelach LLM, nawet jeśli były one niedokładne.

Tymczasem lekarze osiągali doskonałe wyniki, gdy otrzymywali prognozę modelu bez żadnego towarzyszącego jej wyjaśnienia, a nieprawidłowe wskazówki sztucznej inteligencji nie miały na nich wpływu. Pracując w ten sposób, wykazali się znacznie lepszymi wynikami.

Wyniki te stawiają więc przed nami dylemat: w jaki sposób możemy zrównoważyć i zintegrować systemy sztucznej inteligencji w środowisku opieki zdrowotnej? Marzyeh Ghassemi, profesor nadzwyczajna na MIT, podkreśla znaczenie znalezienia odpowiedniej równowagi. Z jednej strony dobre systemy sztucznej inteligencji mogą znacznie zwiększyć wydajność i dokładność. Z drugiej strony niewłaściwe poleganie na tych narzędziach może prowadzić do błędów wynikających z tak zwanego ‘algorytmicznego posłuszeństwa’. Świadomość tej ludzkiej skłonności do stronniczości związanej z automatyzacją musi mieć wpływ na projektowanie systemów sztucznej inteligencji.

Projektowanie systemów sztucznej inteligencji zorientowanych na użytkownika

Wyniki te dostarczają istotnych spostrzeżeń na temat naszego rosnącego uzależnienia od sztucznej inteligencji w opiece zdrowotnej, zwłaszcza w przypadku osób o minimalnej wiedzy medycznej – grupy, która jest najbardziej podatna na wprowadzające w błąd wyniki wyjaśnialnej sztucznej inteligencji. Roxana Daneshjou, współautorka badania i adiunkt na Uniwersytecie Stanforda, ponownie podkreśla pilną konieczność opracowania systemów sztucznej inteligencji, które będą sprzyjać krytycznemu myśleniu i minimalizować nadmierne poleganie na nich.

Orson Xu, główny autor badania, podkreśla tę kwestię. Wyjaśnia, w jaki sposób to samo wyjaśnienie może pomóc ekspertowi, a jednocześnie wprowadzić w błąd początkującego. Dlatego też odpowiednie przedstawianie zaleceń ma kluczowe znaczenie dla zapobiegania dezinformacji oraz zapewnienia, że sztuczna inteligencja może skutecznie poprawić jakość opieki zdrowotnej.

Istnieje kilka zatwierdzonych przez FDA interfejsów opartych na sztucznej inteligencji, które pomagają lekarzom we wczesnej diagnostyce chorób skóry na podstawie obrazów medycznych. Narzędzia te dostarczają prognoz dotyczących obecności choroby i wykorzystują różne metody do wyjaśnienia uzasadnienia procesu decyzyjnego modelu.

Radzenie sobie z wyzwaniem związanym z poszanowaniem decyzji sztucznej inteligencji

Systemy sztucznej inteligencji, w połączeniu z użytkownikami niebędącymi ekspertami, mogą usprawnić diagnostykę cyfrową; wyszukiwarki oparte na sztucznej inteligencji próbują przewidywać choroby skóry na podstawie danych wprowadzonych przez użytkowników. Naukowcy odkryli, że użytkownicy, którzy wykazywali największe zaufanie do sztucznej inteligencji, osiągali gorsze wyniki bez jej pomocy. Na zachowanie użytkowników wpływał również moment przedstawienia wyjaśnień przez sztuczną inteligencję; jeśli wyjaśnienie podawano jako pierwsze, użytkownicy byli bardziej skłonni do zaakceptowania wskazówek modelu.

Ghassemi podkreśla, że aplikacje oparte na sztucznej inteligencji powinny pobudzać kreatywność i skupiać się na obszarach, w których użytkownicy mogą przeoczyć subtelne cechy charakterystyczne na obrazach diagnostycznych. Konieczna jest przemyślana strategia, aby zapobiegać ryzyku, że użytkownicy będą podążać za tendencją do automatyzacji, gdy model działa nieprawidłowo.

Badania te zostały sfinansowane przez Narodową Fundację Naukową (National Science Foundation), firmę Schmidt Sciences, Narodowe Biuro Badań Ekonomicznych (National Bureau of Economic Research) oraz Uniwersytet Columbia. Aby zapoznać się z bardziej szczegółowymi informacjami na temat tego badania, zajrzyj do artykuł oryginalny.

Jeśli chcesz dowiedzieć się, w jaki sposób automatyzacja oparta na sztucznej inteligencji może usprawnić działalność Twojej firmy, warto odwiedzić stronę implementi.ai. Ich systemy oparte na sztucznej inteligencji są dostosowane do potrzeb Twojej firmy i mają na celu usprawnienie procesów decyzyjnych. Zapraszamy do zapoznania się z ich ofertą i sprawdzenia, w jaki sposób mogą Ci pomóc!