Dlaczego kursy AI muszą uczyć studentów rozpoznawania uprzedzeń w danych medycznych?

Coroczny napływ studentów wybierających kierunki związane ze sztuczną inteligencją (AI) w służbie zdrowia zwiększa szanse na rewolucję w dziedzinie diagnostyki medycznej i zaleceń terapeutycznych. Pomimo tego entuzjazmu jedna kwestia budząca obawy pozostaje w dalszym ciągu niedostatecznie uwzględniona — uświadamianie studentom kluczowego znaczenia oceny jakości oraz uprzedzeń nieodłącznie związanych z danymi szkoleniowymi wykorzystywanymi do opracowywania tych modeli sztucznej inteligencji.

Niewidoczne niedociągnięcia w danych dotyczących opieki zdrowotnej oraz rola edukacji w zakresie sztucznej inteligencji

Jak znakomicie podkreślił Leo Anthony Celi, uznany lekarz i starszy pracownik naukowy w Instytucie Inżynierii Medycznej i Nauk Medycznych MIT, to przeoczenie w edukacji w zakresie sztucznej inteligencji może spowodować problemy w przyszłości. W najnowszy artykuł, wyjaśnia, w jaki sposób stronniczość danych – zwłaszcza danych klinicznych gromadzonych głównie wśród białych mężczyzn – może prowadzić do nieefektywności systemów sztucznej inteligencji w przypadku stosowania ich w odniesieniu do bardziej zróżnicowanych populacji. Na przykład pulsoksymetry często zawyżają poziom nasycenia tlenem u osób o innym kolorze skóry ze względu na ich niedostateczną reprezentację w badaniach klinicznych. To tylko wierzchołek góry lodowej – istnieje niezliczona ilość innych przypadków, w których sprzęt medyczny i systemy danych pomijają różnorodność populacji, generując zniekształcone wyniki i potencjalnie szkodliwe decyzje.

Kolejna kluczowa kwestia dotyczy wykorzystania elektronicznej dokumentacji medycznej (EHR) jako podstawy dla modeli sztucznej inteligencji. Chociaż EHR stanowi istotny element medycyny, nigdy nie była ona przeznaczona do pełnienia funkcji systemów uczących się i zawiera wiele niespójności oraz tendencyjności. Celi nie maluje jednak wyłącznie ponurej przyszłości, opowiadając się za pomysłowymi sposobami odpowiedzialnego wykorzystania istniejących danych zamiast zastępowania całej infrastruktury EHR – co obecnie nie jest wykonalne. Na szczęście badane są innowacyjne podejścia, takie jak modele transformatorowe, mające na celu lepsze zrozumienie korelacji między wynikami badań laboratoryjnych, parametrami życiowymi i metodami leczenia. To fascynujące podejście może pomóc w zmniejszeniu wpływu brakujących lub stronniczych danych, na które często wpływają społeczne determinanty zdrowia oraz ukryte uprzedzenia personelu medycznego.

Radzenie sobie z niedoskonałościami i maksymalizacja efektów nauki

Wyzwania te stają się oczywiste, gdy przyjrzymy się doświadczeniom Celiemu związanym z nauczaniem sztucznej inteligencji w służbie zdrowia. Od momentu rozpoczęcia działalności w 2016 roku jego zespół z MIT zdał sobie sprawę, że studenci byli uczeni optymalizacji modeli pod kątem wyników statystycznych, zamiast kwestionować rzetelność danych. Przegląd 11 kursów internetowych ujawnił skalę tego problemu – tylko pięć kursów poruszało temat stronniczości danych, a zaledwie dwa zawierały merytoryczną dyskusję na ten temat. W miarę jak sztuczna inteligencja coraz bardziej zaznacza swoją obecność w służbie zdrowia, na nauczycielach spoczywa obowiązek zapewnienia, by studenci potrafili nie tylko tworzyć modele, ale także krytycznie analizować dane, na których się opierają. Wypełnienie tej luki będzie wymagało przesunięcia punktu ciężkości z samego tworzenia modeli na zrozumienie danych – obszar, który według Celi powinien stanowić co najmniej połowę treści kursu.

Jedną z inicjatyw pomagających rozwiązać tę zagadkę jest konsorcjum MIT Critical Data. Od 2014 roku organizuje ono międzynarodowe datatony. Sesje te łączą lekarzy, analityków danych i pracowników służby zdrowia, którzy wspólnie analizują lokalne zbiory danych, dążąc do zrozumienia zdrowia i chorób w unikalnym kontekście kulturowym i systemowym każdego regionu. Współpraca ta sprzyja tworzeniu środowiska, w którym krytyczne myślenie rozwija się w sposób naturalny.

Akceptacja niedoskonałości danych może być również krokiem w kierunku poprawy, choć jest to wyzwanie. Dobrym przykładem jest baza danych MIMIC, której opracowanie użytecznego schematu zajęło ponad 10 lat, głównie dzięki temu, że użytkownicy dostrzegali i wskazywali jej wady. W tym miejscu warto przytoczyć trafną uwagę Celi, że nawet bez wszystkich odpowiedzi inspirowanie ludzi do zadawania właściwych pytań może całkowicie zmienić sytuację. Studenci i naukowcy angażujący się w rozwój sztucznej inteligencji w służbie zdrowia muszą mieć świadomość jej potencjału transformacyjnego oraz związanych z tym obowiązków etycznych.

Aby zapoznać się z bardziej szczegółową dyskusją na ten temat z Leo Anthonym Celi, odwiedź stronę MIT News.