Wyobraź sobie, że sztuczna inteligencja (AI) jest nie tylko niesamowicie inteligentna, ale także “pokorna”? Nie jest to tak dziwne, jak się wydaje. Sztuczna inteligencja rewolucjonizuje branżę opieki zdrowotnej, oferując potencjalne zmiany w diagnozowaniu pacjentów i spersonalizowanym leczeniu. Jest jednak pewne zastrzeżenie. Według globalnego zespołu naukowców kierowanego przez MIT, obecne systemy sztucznej inteligencji mogą wprowadzać lekarzy w błąd ze względu na ich tendencję do podejmowania zbyt pewnych, choć błędnych decyzji.
Aby zarządzać tymi zagrożeniami, naukowcy ci zalecają zaprogramowanie systemów sztucznej inteligencji z uwzględnieniem cechy zazwyczaj przypisywanej ludziom – pokory. Chodzi im o to, że systemy te powinny być zaprogramowane tak, aby zdawały sobie sprawę z braku pewności co do swoich sugestii diagnostycznych lub zaleceń. Skłoniłoby to użytkowników do zebrania dodatkowych informacji w przypadku pojawienia się jakiejkolwiek niepewności.
“Obecnie wykorzystujemy sztuczną inteligencję jako źródło wiedzy, ale możemy ją również wykorzystać jako trenera. Moglibyśmy traktować sztuczną inteligencję jako prawdziwego drugiego pilota. Zwiększyłoby to nie tylko naszą zdolność do pozyskiwania informacji, ale także naszą zdolność do łączenia faktów w całość” – mówi Leo Anthony Celi, starszy naukowiec w Instytucie Inżynierii Medycznej i Nauk Medycznych MIT. Opowiada się on za modelem, w którym sztuczna inteligencja wykazuje ciekawość i pokorę, sprzyjając partnerstwu między lekarzami a systemami opartymi na sztucznej inteligencji.
Nie da się przecenić potencjalnego zagrożenia związanego z systemami sztucznej inteligencji, które są zbyt pewne siebie. Mogą one prowadzić do błędów medycznych, zwłaszcza gdy lekarze na oddziale intensywnej terapii kierują się opinią sztucznej inteligencji postrzeganej jako wiarygodna, nawet wbrew własnej intuicji. Aby temu przeciwdziałać, należy zaszczepić w sztucznej inteligencji wartości ludzkie. Jak wyjaśnia Sebastián Andrés Cajas Ordoñez, kierujący badaniem opublikowanym w czasopiśmie “BMJ Health and Care Informatics”: „Staramy się włączyć ludzi do tych systemów łączących człowieka ze sztuczną inteligencją oraz zachęcać ich do wspólnej refleksji i ponownego przemyślenia sytuacji, zamiast pozwalać, by wszystko robiły odizolowane agenty oparte na sztucznej inteligencji”.”
Częścią tej współpracy jest Epistemic Virtue Score, moduł obliczeniowy opracowany przez zespół, który zapewnia modelom sztucznej inteligencji ocenę ich pewności podczas dokonywania prognoz diagnostycznych. Oznacza to, że system sztucznej inteligencji dostarczałby odpowiedzi, ale także podnosiłby flagę ostrożności, gdy uzna to za konieczne.
Różnorodność w rozwoju sztucznej inteligencji jest kolejnym istotnym zagadnieniem. Potencjał uprzedzeń i wykluczeń z modeli sztucznej inteligencji trenowanych na określonych zbiorach danych nie jest pomijany. Poprzez swoją pracę globalne konsorcjum dąży do uwzględnienia większej liczby punktów widzenia, kwestionowania istniejących zbiorów danych i wychwytywania wszystkich istotnych czynników.
“Skłaniamy ich do krytycznego spojrzenia na zbiór danych. Czy są pewni jakości swoich danych szkoleniowych i walidacyjnych? Czy uważają, że niektórzy pacjenci zostali pominięci – nieumyślnie lub celowo – i jak to wpłynie na sam model?” pyta Celi. “Musimy być bardziej świadomi i rozważni w tym, jak rozwijamy sztuczną inteligencję, nie tylko w opiece zdrowotnej, ale w każdym sektorze”.”
Jeśli temat Cię zainteresował i chcesz zapoznać się z możliwościami automatyzacji opartej na sztucznej inteligencji w Twojej firmie, dobrym punktem wyjścia jest strona implementi.ai. Więcej informacji na temat tego niesamowitego skoku w przyszłość można znaleźć na stronie oryginalny artykuł tutaj.
Ta strona używa plików cookie.