Czy zastanawiali\u015bcie si\u0119 kiedy\u015b, w jaki spos\u00f3b sztuczna inteligencja (AI) mog\u0142aby pom\u00f3c w diagnozowaniu chor\u00f3b? Jak wykaza\u0142y najnowsze badania, strategia oparta na jednym uniwersalnym podej\u015bciu mo\u017ce nie by\u0107 najskuteczniejsza. Naukowcy z MIT \u2013 oraz innych instytucji \u2013 odkryli, \u017ce cho\u0107 sztuczna inteligencja z pewno\u015bci\u0105 mo\u017ce og\u00f3lnie poprawi\u0107 dok\u0142adno\u015b\u0107 diagnozowania chor\u00f3b sk\u00f3ry, skuteczno\u015b\u0107 jej wyja\u015bnie\u0144 (wyja\u015bnialna sztuczna inteligencja) faktycznie zale\u017cy od poziomu wiedzy u\u017cytkownika.<\/p>\n
Ostatecznym celem wyja\u015bnialnej sztucznej inteligencji jest zapewnienie przejrzysto\u015bci i budowanie zaufania mi\u0119dzy u\u017cytkownikiem a modelem AI. Ma ona pom\u00f3c u\u017cytkownikom w zrozumieniu i zaufaniu do prognoz modelu AI poprzez przedstawienie informacji na temat tego, w jaki spos\u00f3b model doszed\u0142 do swojej diagnozy. Mo\u017ce to polega\u0107 na przyk\u0142ad na wykorzystaniu mapy cieplnej do zaznaczenia obszar\u00f3w obrazu, kt\u00f3re maj\u0105 najwi\u0119ksze znaczenie dla diagnozy, lub na zastosowaniu du\u017cego modelu j\u0119zykowego (LLM), kt\u00f3ry przedstawia wyja\u015bnienia w przyst\u0119pny spos\u00f3b.<\/p>\n
W niniejszym badaniu osoby nieb\u0119d\u0105ce ekspertami oraz lekarze podstawowej opieki zdrowotnej zajmowali si\u0119 diagnozowaniem chor\u00f3b sk\u00f3ry zar\u00f3wno z wykorzystaniem r\u00f3\u017cnych system\u00f3w wyja\u015bnialnej sztucznej inteligencji, jak i bez nich. Co ciekawe, cho\u0107 osoby nieb\u0119d\u0105ce ekspertami odnotowa\u0142y popraw\u0119 dok\u0142adno\u015bci diagnostycznej, wynika\u0142o to w du\u017cej mierze z ich wi\u0119kszego zaufania do systemu sztucznej inteligencji. Uzna\u0142y one niejasne lub og\u00f3lnikowe wyja\u015bnienia za bardziej przekonuj\u0105ce i mia\u0142y tendencj\u0119 do ufania wyja\u015bnieniom opartym na modelach LLM, nawet je\u015bli by\u0142y one niedok\u0142adne.<\/p>\n
Tymczasem lekarze osi\u0105gali doskona\u0142e wyniki, gdy otrzymywali prognoz\u0119 modelu bez \u017cadnego towarzysz\u0105cego jej wyja\u015bnienia, a nieprawid\u0142owe wskaz\u00f3wki sztucznej inteligencji nie mia\u0142y na nich wp\u0142ywu. Pracuj\u0105c w ten spos\u00f3b, wykazali si\u0119 znacznie lepszymi wynikami.<\/p>\n
Wyniki te stawiaj\u0105 wi\u0119c przed nami dylemat: w jaki spos\u00f3b mo\u017cemy zr\u00f3wnowa\u017cy\u0107 i zintegrowa\u0107 systemy sztucznej inteligencji w \u015brodowisku opieki zdrowotnej? Marzyeh Ghassemi, profesor nadzwyczajna na MIT, podkre\u015bla znaczenie znalezienia odpowiedniej r\u00f3wnowagi. Z jednej strony dobre systemy sztucznej inteligencji mog\u0105 znacznie zwi\u0119kszy\u0107 wydajno\u015b\u0107 i dok\u0142adno\u015b\u0107. Z drugiej strony niew\u0142a\u015bciwe poleganie na tych narz\u0119dziach mo\u017ce prowadzi\u0107 do b\u0142\u0119d\u00f3w wynikaj\u0105cych z tak zwanego \u2018algorytmicznego pos\u0142usze\u0144stwa\u2019. \u015awiadomo\u015b\u0107 tej ludzkiej sk\u0142onno\u015bci do stronniczo\u015bci zwi\u0105zanej z automatyzacj\u0105 musi mie\u0107 wp\u0142yw na projektowanie system\u00f3w sztucznej inteligencji.<\/p>\n
Wyniki te dostarczaj\u0105 istotnych spostrze\u017ce\u0144 na temat naszego rosn\u0105cego uzale\u017cnienia od sztucznej inteligencji w opiece zdrowotnej, zw\u0142aszcza w przypadku os\u00f3b o minimalnej wiedzy medycznej \u2013 grupy, kt\u00f3ra jest najbardziej podatna na wprowadzaj\u0105ce w b\u0142\u0105d wyniki wyja\u015bnialnej sztucznej inteligencji. Roxana Daneshjou, wsp\u00f3\u0142autorka badania i adiunkt na Uniwersytecie Stanforda, ponownie podkre\u015bla piln\u0105 konieczno\u015b\u0107 opracowania system\u00f3w sztucznej inteligencji, kt\u00f3re b\u0119d\u0105 sprzyja\u0107 krytycznemu my\u015bleniu i minimalizowa\u0107 nadmierne poleganie na nich.<\/p>\n
Orson Xu, g\u0142\u00f3wny autor badania, podkre\u015bla t\u0119 kwesti\u0119. Wyja\u015bnia, w jaki spos\u00f3b to samo wyja\u015bnienie mo\u017ce pom\u00f3c ekspertowi, a jednocze\u015bnie wprowadzi\u0107 w b\u0142\u0105d pocz\u0105tkuj\u0105cego. Dlatego te\u017c odpowiednie przedstawianie zalece\u0144 ma kluczowe znaczenie dla zapobiegania dezinformacji oraz zapewnienia, \u017ce sztuczna inteligencja mo\u017ce skutecznie poprawi\u0107 jako\u015b\u0107 opieki zdrowotnej.<\/p>\n
Istnieje kilka zatwierdzonych przez FDA interfejs\u00f3w opartych na sztucznej inteligencji, kt\u00f3re pomagaj\u0105 lekarzom we wczesnej diagnostyce chor\u00f3b sk\u00f3ry na podstawie obraz\u00f3w medycznych. Narz\u0119dzia te dostarczaj\u0105 prognoz dotycz\u0105cych obecno\u015bci choroby i wykorzystuj\u0105 r\u00f3\u017cne metody do wyja\u015bnienia uzasadnienia procesu decyzyjnego modelu.<\/p>\n
Systemy sztucznej inteligencji, w po\u0142\u0105czeniu z u\u017cytkownikami nieb\u0119d\u0105cymi ekspertami, mog\u0105 usprawni\u0107 diagnostyk\u0119 cyfrow\u0105; wyszukiwarki oparte na sztucznej inteligencji pr\u00f3buj\u0105 przewidywa\u0107 choroby sk\u00f3ry na podstawie danych wprowadzonych przez u\u017cytkownik\u00f3w. Naukowcy odkryli, \u017ce u\u017cytkownicy, kt\u00f3rzy wykazywali najwi\u0119ksze zaufanie do sztucznej inteligencji, osi\u0105gali gorsze wyniki bez jej pomocy. Na zachowanie u\u017cytkownik\u00f3w wp\u0142ywa\u0142 r\u00f3wnie\u017c moment przedstawienia wyja\u015bnie\u0144 przez sztuczn\u0105 inteligencj\u0119; je\u015bli wyja\u015bnienie podawano jako pierwsze, u\u017cytkownicy byli bardziej sk\u0142onni do zaakceptowania wskaz\u00f3wek modelu.<\/p>\n
Ghassemi podkre\u015bla, \u017ce aplikacje oparte na sztucznej inteligencji powinny pobudza\u0107 kreatywno\u015b\u0107 i skupia\u0107 si\u0119 na obszarach, w kt\u00f3rych u\u017cytkownicy mog\u0105 przeoczy\u0107 subtelne cechy charakterystyczne na obrazach diagnostycznych. Konieczna jest przemy\u015blana strategia, aby zapobiega\u0107 ryzyku, \u017ce u\u017cytkownicy b\u0119d\u0105 pod\u0105\u017ca\u0107 za tendencj\u0105 do automatyzacji, gdy model dzia\u0142a nieprawid\u0142owo.<\/p>\n
Badania te zosta\u0142y sfinansowane przez Narodow\u0105 Fundacj\u0119 Naukow\u0105 (National Science Foundation), firm\u0119 Schmidt Sciences, Narodowe Biuro Bada\u0144 Ekonomicznych (National Bureau of Economic Research) oraz Uniwersytet Columbia. Aby zapozna\u0107 si\u0119 z bardziej szczeg\u00f3\u0142owymi informacjami na temat tego badania, zajrzyj do artyku\u0142 oryginalny<\/a>.<\/p>\n Je\u015bli chcesz dowiedzie\u0107 si\u0119, w jaki spos\u00f3b automatyzacja oparta na sztucznej inteligencji mo\u017ce usprawni\u0107 dzia\u0142alno\u015b\u0107 Twojej firmy, warto odwiedzi\u0107 stron\u0119 implementi.ai. Ich systemy oparte na sztucznej inteligencji s\u0105 dostosowane do potrzeb Twojej firmy i maj\u0105 na celu usprawnienie proces\u00f3w decyzyjnych. Zapraszamy do zapoznania si\u0119 z ich ofert\u0105 i sprawdzenia, w jaki spos\u00f3b mog\u0105 Ci pom\u00f3c!<\/p>","protected":false},"excerpt":{"rendered":" Ever considered how artificial intelligence (AI) could assist you in diagnosing a disease? The one-size-fits-all strategy might not be the most effective approach, recent research has shown. Scientists from MIT – among other institutions – have found that while AI can certainly enhance diagnostic accuracy for skin diseases across the board, the effectiveness of AI’s explications (explainable AI) really does depend on the user’s expertise level. Demystifying Explainable AI The ultimate goal of explainable AI is to create transparency and build trust between the user and the AI model. It aims to help users understand and trust the AI model’s […]<\/p>\n","protected":false},"author":4,"featured_media":9342,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[46,47],"tags":[],"class_list":["post-9341","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-automation","category-ai-news","post--single"],"_links":{"self":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/9341","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/comments?post=9341"}],"version-history":[{"count":0,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/9341\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media\/9342"}],"wp:attachment":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media?parent=9341"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/categories?post=9341"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/tags?post=9341"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}