Mądrzejsze podejście do debilizacji sztucznej inteligencji w opiece zdrowotnej

Dermatolodzy w naszych nowoczesnych szpitalach i klinikach zwracają się ku sztucznej inteligencji (AI), aby sortować i klasyfikować różne choroby skóry. Kluczowym zadaniem tych systemów sztucznej inteligencji jest ocena, czy zmiana skórna może potencjalnie przekształcić się w coś bardziej złowieszczego, takiego jak rak, czy też jest to tylko łagodna narośl. Problemy pojawiają się jednak, gdy systemy te uczą się faworyzować pewne odcienie skóry nad innymi, w konsekwencji nie identyfikując dokładnie pacjentów o podwyższonym ryzyku.

Kwestia stronniczości w sztucznej inteligencji jest tak stara jak sama technologia, pozostając jednym z głównych wyzwań, przed którymi stoją badacze. Stronniczość może pochodzić z danych treningowych wykorzystywanych do uczenia sztucznej inteligencji, ale może również wynikać z projektu architektonicznego samego modelu. Kiedy stronniczość przenika do rzeczywistych zastosowań sztucznej inteligencji, jej wpływ może być znaczący - szczególnie w medycynie, gdzie stawka jest niebotycznie wysoka.

Nowe środki przeciwko stronniczości w sztucznej inteligencji

Zespół naukowców z MIT, Worcester Polytechnic Institute i Google wprowadził nowe podejście znane jako “Weighted Rotational DebiasING” (WRING). Metoda ta, uznana na Międzynarodowej Konferencji Reprezentacji Uczenia się w 2026 r., jest szczególnie ukierunkowana na wizyjne modele językowe (VLM), takie jak te używane przez firmę AI OpenAI w ich aplikacji OpenCLIP. Modele VLM to elastyczne narzędzia technologiczne, które mogą przetwarzać i rozumieć różne typy danych, takie jak wideo, obrazy i tekst jednocześnie.

Główną motywacją naukowców do opracowania WRING był utrzymujący się problem przy stosowaniu istniejących metod debiasingu, takich jak ’debiasing projekcji“. Wyzwanie to, nazwane ”dylematem Whac-A-Mole“, na które początkowo zwrócono uwagę w 2023 r., pojawia się podczas próby zwalczania stronniczości w sztucznej inteligencji. Technika debiasingu projekcji polega na usuwaniu stronniczych informacji z przestrzeni reprezentacji modelu. Początkowo brzmi to jak solidny plan, ale ma ukrytą wadę: może nieświadomie modyfikować inne relacje w modelu sztucznej inteligencji.

Inteligentniejszy sposób na debugowanie modeli wizyjnych AI

WRING genialnie radzi sobie z tymi problemami, modyfikując poszczególne współrzędne w wysokowymiarowej strukturze modelu AI. Korekty te zasadniczo zaprzeczają zdolności modelu do rozróżniania różnych grup w ramach koncepcji, pozostawiając wszystkie inne relacje bez szwanku. Jako podejście post-processingowe podobne do debiasingu projekcji, WRING może być stosowany do już wytrenowanych VLM, eliminując potrzebę nowego szkolenia.

Jeden z autorów artykułu badawczego, Walter Gerych, podkreślił skuteczność i wydajność WRING. Zauważył jednak jego obecne ograniczenie: można go zastosować tylko do modeli Contrastive Language-Image Pre-training (CLIP). Patrząc w przyszłość, Gerych przewiduje wprowadzenie podejścia WRING do generatywnych modeli językowych, takich jak ChatGPT. Jeśli chodzi o finansowanie, badanie zostało wsparte finansowo przez nagrody z National Science Foundation i MIT-Google Computing Innovation Award. Aby zagłębić się w temat, sprawdź pełny artykuł tutaj.

Jeśli jesteś zainteresowany włączeniem technologii AI do swojej firmy, zwłaszcza w celu zautomatyzowania rutynowych zadań, rozważ zapoznanie się z najwyższej klasy rozwiązaniami AI na stronie implementi.ai.