Google usuwa wadliwe przeglądy medyczne AI w związku z obawami dotyczącymi bezpieczeństwa

Wezwanie do ostrożności: Błędy Google w medycynie opartej na sztucznej inteligencji

Google stanął ostatnio w obliczu trudnych pytań i krytyki po ujawnieniu przez raport śledczy z The Guardian w tym miesiącu. Niepokojące światło zostało rzucone na przeglądy medyczne Google oparte na sztucznej inteligencji, które okazały się wydawać niepokojące, niedokładne i potencjalnie szkodliwe porady dotyczące wrażliwych zapytań związanych ze zdrowiem, które pojawiają się na pierwszym miejscu w wynikach wyszukiwania.

Przypadki, które podnoszą alarm, to nie tylko drobne dezinformacje. Są to przypadki, które mogą mieć niepokojące konsekwencje. Jeden szczególnie rażący błąd dotyczył porad dla pacjentów z rakiem trzustki. Sztuczna inteligencja Google zasugerowała im unikanie żywności o wysokiej zawartości tłuszczu. Lekarze szybko zaczęli argumentować, że ta rada jest nie tylko niepoprawna, ale także niebezpiecznie zagraża życiu. W dziwnej rzeczywistości zazwyczaj twierdzi się, że pacjenci zmagający się z rakiem trzustki powinni stosować dietę wysokotłuszczową, metodę stosowaną w celu uwolnienia i utrzymania wagi i siły podczas leczenia.

Na tym czerwone flagi się nie skończyły. W innym niepokojącym przypadku sztuczna inteligencja rozpowszechniała niewłaściwe dane dotyczące czynności wątroby - mimo że nie ujawniono jeszcze wszystkich szczegółów. Specjaliści medyczni podkreślili, że tego rodzaju błędne porady mogą być rujnujące, zwłaszcza gdy pacjenci zwracają się do podsumowań generowanych przez sztuczną inteligencję zamiast szukać porady u wykwalifikowanych pracowników służby zdrowia.

Radzenie sobie z reakcją: odpowiedź Google

Po crescendo publicznego oburzenia w połączeniu z dezaprobatą ze strony społeczności medycznej, wydaje się, że Google dyskretnie usunęło najbardziej rażące z tych podsumowań zorientowanych na sztuczną inteligencję. Bez oficjalnego ogłoszenia lub podania szczegółowego opisu tych modyfikacji, użytkownicy zauważyli, że te niepokojące podsumowania przestały pojawiać się w wynikach wyszukiwania.

Sztuczna inteligencja w opiece zdrowotnej: Miecz obosieczny?

Skutki tego epizodu po raz kolejny wywołują debatę na temat rosnącej i kontrowersyjnej roli, jaką narzędzia AI odgrywają w pozyskiwaniu i dostarczaniu informacji medycznych. Podczas gdy sztuczna inteligencja niesie ze sobą obietnicę demokratyzacji dostępu do wiedzy, groźba podsycania płomieni dezinformacji pojawia się złowieszczo, szczególnie w krytycznych obszarach, takich jak opieka zdrowotna. W trwającej misji włączenia większej ilości sztucznej inteligencji do platform cyfrowych, apele o przejrzystość, oceny ekspertów i odpowiedzialność stają się coraz głośniejsze.

Wszystkie najdrobniejsze szczegóły, The Verge opisał całą historię.