Google usuwa wadliwe przeglądy medyczne AI w związku z obawami dotyczącymi bezpieczeństwa

Wezwanie do ostrożności: błędy Google’a w dziedzinie medycyny opartej na sztucznej inteligencji

Google stanął ostatnio w obliczu trudnych pytań i krytyki po ujawnieniu przez raport śledczy z The Guardian w tym miesiącu. Niepokojące światło rzucono na generowane przez sztuczną inteligencję Google’a podsumowania medyczne, które, jak się okazało, zawierają niepokojące, niedokładne i potencjalnie szkodliwe porady dotyczące delikatnych zagadnień zdrowotnych, pojawiające się w czołowym miejscu wyników wyszukiwania.

Przypadki, które budzą niepokój, to nie tylko drobne dezinformacje. Są to sytuacje, które mogą mieć niepokojące konsekwencje. Jednym ze szczególnie rażących błędów była porada dla pacjentów z rakiem trzustki. Sztuczna inteligencja Google zasugerowała im, by unikali potraw o wysokiej zawartości tłuszczu. Lekarze szybko stwierdzili, że ta rada jest nie tylko błędna, ale także niebezpieczna i zagrażająca życiu. Co ciekawe, zazwyczaj zaleca się, aby pacjenci zmagający się z rakiem trzustki stosowali dietę wysokotłuszczową – jest to metoda mająca na celu przywrócenie i utrzymanie masy ciała oraz siły podczas leczenia.

To nie były jedyne sygnały ostrzegawcze. W innym niepokojącym przypadku sztuczna inteligencja rozpowszechniała błędne informacje na temat czynności wątroby — choć konkretne szczegóły nie zostały jeszcze w pełni ujawnione. Specjaliści z dziedziny medycyny podkreślali, że tego rodzaju błędne porady mogą mieć katastrofalne skutki, zwłaszcza gdy pacjenci polegają na podsumowaniach generowanych przez sztuczną inteligencję zamiast zasięgać porady wykwalifikowanego personelu medycznego.

Jak radzić sobie z negatywnymi reakcjami: odpowiedź Google’a

Po crescendo publicznego oburzenia w połączeniu z dezaprobatą ze strony społeczności medycznej, wydaje się, że Google dyskretnie usunęło najbardziej rażące z tych podsumowań zorientowanych na sztuczną inteligencję. Bez oficjalnego ogłoszenia lub podania szczegółowego opisu tych modyfikacji, użytkownicy zauważyli, że te niepokojące podsumowania przestały pojawiać się w wynikach wyszukiwania.

Sztuczna inteligencja w opiece zdrowotnej: Miecz obosieczny?

Skutki tego epizodu po raz kolejny wywołują debatę na temat rosnącej i kontrowersyjnej roli, jaką narzędzia AI odgrywają w pozyskiwaniu i dostarczaniu informacji medycznych. Podczas gdy sztuczna inteligencja niesie ze sobą obietnicę demokratyzacji dostępu do wiedzy, groźba podsycania płomieni dezinformacji pojawia się złowieszczo, szczególnie w krytycznych obszarach, takich jak opieka zdrowotna. W trwającej misji włączenia większej ilości sztucznej inteligencji do platform cyfrowych, apele o przejrzystość, oceny ekspertów i odpowiedzialność stają się coraz głośniejsze.

Wszystkie najdrobniejsze szczegóły, The Verge opisał całą historię.