Coroczny napływ studentów wybierających kierunki związane ze sztuczną inteligencją (AI) w służbie zdrowia zwiększa szanse na rewolucję w dziedzinie diagnostyki medycznej i zaleceń terapeutycznych. Pomimo tego entuzjazmu jedna kwestia budząca obawy pozostaje w dalszym ciągu niedostatecznie uwzględniona — uświadamianie studentom kluczowego znaczenia oceny jakości oraz uprzedzeń nieodłącznie związanych z danymi szkoleniowymi wykorzystywanymi do opracowywania tych modeli sztucznej inteligencji.
Wonderfully highlighted by Leo Anthony Celi, an accomplished physician and senior research scientist at MIT’s Institute for Medical Engineering and Science, this oversight in AI education may create issues down the line. In a najnowszy artykuł, wyjaśnia, w jaki sposób stronniczość danych – zwłaszcza danych klinicznych gromadzonych głównie wśród białych mężczyzn – może prowadzić do nieefektywności systemów sztucznej inteligencji w przypadku stosowania ich w odniesieniu do bardziej zróżnicowanych populacji. Na przykład pulsoksymetry często zawyżają poziom nasycenia tlenem u osób o innym kolorze skóry ze względu na ich niedostateczną reprezentację w badaniach klinicznych. To tylko wierzchołek góry lodowej – istnieje niezliczona ilość innych przypadków, w których sprzęt medyczny i systemy danych pomijają różnorodność populacji, generując zniekształcone wyniki i potencjalnie szkodliwe decyzje.
Kolejna kluczowa kwestia dotyczy wykorzystania elektronicznej dokumentacji medycznej (EHR) jako podstawy dla modeli sztucznej inteligencji. Chociaż EHR stanowi istotny element medycyny, nigdy nie była ona przeznaczona do pełnienia funkcji systemów uczących się i zawiera wiele niespójności oraz tendencyjności. Celi nie maluje jednak wyłącznie ponurej przyszłości, opowiadając się za pomysłowymi sposobami odpowiedzialnego wykorzystania istniejących danych zamiast zastępowania całej infrastruktury EHR – co obecnie nie jest wykonalne. Na szczęście badane są innowacyjne podejścia, takie jak modele transformatorowe, mające na celu lepsze zrozumienie korelacji między wynikami badań laboratoryjnych, parametrami życiowymi i metodami leczenia. To fascynujące podejście może pomóc w zmniejszeniu wpływu brakujących lub stronniczych danych, na które często wpływają społeczne determinanty zdrowia oraz ukryte uprzedzenia personelu medycznego.
The challenges become apparent when you consider Celi’s experiences teaching AI in healthcare. Since starting in 2016, his MIT team realized that students were being taught to optimize models in terms of statistical performance rather than question the data’s integrity. A review of 11 online courses revealed the scale of this problem; only five courses talked about data bias and a mere two offered substantial discussions on the subject. As AI continues to establish its footprint in healthcare, the onus lies with educators to ensure students can not only build models but also scrutinize the data fueling them. Bridging this divide will require a shift in focus from solely model building to also understanding the data – an area Celi believes should account for at least half the course content.
One initiative helping to solve this puzzle is the MIT Critical Data consortium. They’ve been hosting international datathons since 2014. These sessions unite clinicians, data scientists, and healthcare professionals to collaboratively examine local datasets, aiming to understand health and disease within the unique cultural and systematic context of each region. These collaborations inspire an environment where critical thinking organically thrives.
Akceptacja niedoskonałości danych może być również krokiem w kierunku poprawy, choć jest to wyzwanie. Dobrym przykładem jest baza danych MIMIC, której opracowanie użytecznego schematu zajęło ponad 10 lat, głównie dzięki temu, że użytkownicy dostrzegali i wskazywali jej wady. W tym miejscu warto przytoczyć trafną uwagę Celi, że nawet bez wszystkich odpowiedzi inspirowanie ludzi do zadawania właściwych pytań może całkowicie zmienić sytuację. Studenci i naukowcy angażujący się w rozwój sztucznej inteligencji w służbie zdrowia muszą mieć świadomość jej potencjału transformacyjnego oraz związanych z tym obowiązków etycznych.
Aby zapoznać się z bardziej szczegółową dyskusją na ten temat z Leo Anthonym Celi, odwiedź stronę MIT News.
Ta strona używa plików cookie.