Dermatolodzy w naszych nowoczesnych szpitalach i klinikach zwracaj\u0105 si\u0119 ku sztucznej inteligencji (AI), aby sortowa\u0107 i klasyfikowa\u0107 r\u00f3\u017cne choroby sk\u00f3ry. Kluczowym zadaniem tych system\u00f3w sztucznej inteligencji jest ocena, czy zmiana sk\u00f3rna mo\u017ce potencjalnie przekszta\u0142ci\u0107 si\u0119 w co\u015b bardziej z\u0142owieszczego, takiego jak rak, czy te\u017c jest to tylko \u0142agodna naro\u015bl. Problemy pojawiaj\u0105 si\u0119 jednak, gdy systemy te ucz\u0105 si\u0119 faworyzowa\u0107 pewne odcienie sk\u00f3ry nad innymi, w konsekwencji nie identyfikuj\u0105c dok\u0142adnie pacjent\u00f3w o podwy\u017cszonym ryzyku.<\/p>\n
Kwestia stronniczo\u015bci w sztucznej inteligencji jest tak stara jak sama technologia, pozostaj\u0105c jednym z g\u0142\u00f3wnych wyzwa\u0144, przed kt\u00f3rymi stoj\u0105 badacze. Stronniczo\u015b\u0107 mo\u017ce pochodzi\u0107 z danych treningowych wykorzystywanych do uczenia sztucznej inteligencji, ale mo\u017ce r\u00f3wnie\u017c wynika\u0107 z projektu architektonicznego samego modelu. Kiedy stronniczo\u015b\u0107 przenika do rzeczywistych zastosowa\u0144 sztucznej inteligencji, jej wp\u0142yw mo\u017ce by\u0107 znacz\u0105cy - szczeg\u00f3lnie w medycynie, gdzie stawka jest niebotycznie wysoka.<\/p>\n
Zesp\u00f3\u0142 naukowc\u00f3w z MIT, Worcester Polytechnic Institute i Google wprowadzi\u0142 nowe podej\u015bcie znane jako \u201cWeighted Rotational DebiasING\u201d (WRING). Metoda ta, uznana na Mi\u0119dzynarodowej Konferencji Reprezentacji Uczenia si\u0119 w 2026 r., jest szczeg\u00f3lnie ukierunkowana na wizyjne modele j\u0119zykowe (VLM), takie jak te u\u017cywane przez firm\u0119 AI OpenAI w ich aplikacji OpenCLIP. Modele VLM to elastyczne narz\u0119dzia technologiczne, kt\u00f3re mog\u0105 przetwarza\u0107 i rozumie\u0107 r\u00f3\u017cne typy danych, takie jak wideo, obrazy i tekst jednocze\u015bnie.<\/p>\n
G\u0142\u00f3wn\u0105 motywacj\u0105 naukowc\u00f3w do opracowania WRING by\u0142 utrzymuj\u0105cy si\u0119 problem przy stosowaniu istniej\u0105cych metod debiasingu, takich jak \u2019debiasing projekcji\u201c. Wyzwanie to, nazwane \u201ddylematem Whac-A-Mole\u201c, na kt\u00f3re pocz\u0105tkowo zwr\u00f3cono uwag\u0119 w 2023 r., pojawia si\u0119 podczas pr\u00f3by zwalczania stronniczo\u015bci w sztucznej inteligencji. Technika debiasingu projekcji polega na usuwaniu stronniczych informacji z przestrzeni reprezentacji modelu. Pocz\u0105tkowo brzmi to jak solidny plan, ale ma ukryt\u0105 wad\u0119: mo\u017ce nie\u015bwiadomie modyfikowa\u0107 inne relacje w modelu sztucznej inteligencji.<\/p>\n
WRING genialnie radzi sobie z tymi problemami, modyfikuj\u0105c poszczeg\u00f3lne wsp\u00f3\u0142rz\u0119dne w wysokowymiarowej strukturze modelu AI. Korekty te zasadniczo zaprzeczaj\u0105 zdolno\u015bci modelu do rozr\u00f3\u017cniania r\u00f3\u017cnych grup w ramach koncepcji, pozostawiaj\u0105c wszystkie inne relacje bez szwanku. Jako podej\u015bcie post-processingowe podobne do debiasingu projekcji, WRING mo\u017ce by\u0107 stosowany do ju\u017c wytrenowanych VLM, eliminuj\u0105c potrzeb\u0119 nowego szkolenia.<\/p>\n
Jeden z autor\u00f3w artyku\u0142u badawczego, Walter Gerych, podkre\u015bli\u0142 skuteczno\u015b\u0107 i wydajno\u015b\u0107 WRING. Zauwa\u017cy\u0142 jednak jego obecne ograniczenie: mo\u017cna go zastosowa\u0107 tylko do modeli Contrastive Language-Image Pre-training (CLIP). Patrz\u0105c w przysz\u0142o\u015b\u0107, Gerych przewiduje wprowadzenie podej\u015bcia WRING do generatywnych modeli j\u0119zykowych, takich jak ChatGPT. Je\u015bli chodzi o finansowanie, badanie zosta\u0142o wsparte finansowo przez nagrody z National Science Foundation i MIT-Google Computing Innovation Award. Aby zag\u0142\u0119bi\u0107 si\u0119 w temat, sprawd\u017a pe\u0142ny artyku\u0142 tutaj<\/a>.<\/p>\n