artyku\u0142<\/a> Prezentacja zespo\u0142u podczas konferencji Neural Information Processing Systems (NeurIPS) w 2025 roku ujawnia, jak g\u0142\u0119boko si\u0119ga ten problem. Zasadniczo naukowcy odkryli, \u017ce modele pocz\u0105tkowo wyszkolone do diagnozowania chor\u00f3b w jednym szpitalu na podstawie zdj\u0119\u0107 rentgenowskich klatki piersiowej mog\u0142y osi\u0105ga\u0107 fatalne wyniki w innym szpitalu. W czym tkwi problem? Zagregowane statystyki w du\u017cej mierze pomijaj\u0105 t\u0119 rozbie\u017cno\u015b\u0107, maskuj\u0105c s\u0142abe wyniki w odniesieniu do konkretnych grup pacjent\u00f3w, takich jak osoby z okre\u015blonymi schorzeniami, np. chorobami op\u0142ucnej lub powi\u0119kszeniem kardiomediastinum.<\/p>\nKluczow\u0105 kwesti\u0105 wskazan\u0105 przez naukowc\u00f3w by\u0142a obecno\u015b\u0107 fa\u0142szywych korelacji \u2014 zasadniczo zale\u017cno\u015bci wyuczonych podczas szkolenia, kt\u00f3re nie maj\u0105 zastosowania w nowych \u015brodowiskach. Odkrycie cho\u0107by jednej z nich mo\u017ce mie\u0107 daleko id\u0105ce, a nawet katastrofalne konsekwencje. Na przyk\u0142ad modele obrazowania mog\u0105 kojarzy\u0107 okre\u015blone znaki widoczne na zdj\u0119ciach rentgenowskich z jednego szpitala z dan\u0105 chorob\u0105, ale nie rozpozna\u0107 tej samej choroby na zdj\u0119ciach z innego szpitala, na kt\u00f3rych znaki te nie wyst\u0119puj\u0105. Oduczenie si\u0119 tych fa\u0142szywych powi\u0105za\u0144 stanowi z pewno\u015bci\u0105 wyzwanie.<\/p>\n
Podwa\u017canie tradycyjnych przekona\u0144 i spojrzenie w przysz\u0142o\u015b\u0107<\/h5>\n
Powszechnie uwa\u017cano, \u017ce je\u015bli modele osi\u0105ga\u0142y wysokie wyniki w jednym \u015brodowisku, r\u00f3wnie dobrze sprawdz\u0105 si\u0119 w innym. To za\u0142o\u017cenie, okre\u015blane jako \u201cdok\u0142adno\u015b\u0107 na linii\u201d, zosta\u0142o obalone w wyniku bada\u0144 przeprowadzonych przez zesp\u00f3\u0142 z MIT. Ich praca wykaza\u0142a, \u017ce modele, kt\u00f3re odnios\u0142y sukces w jednym kontek\u015bcie, w innym mog\u0105 w rzeczywisto\u015bci pozostawa\u0107 w tyle.<\/p>\n
Naukowcy poradzili sobie z t\u0105 sytuacj\u0105 dzi\u0119ki nowatorskiemu algorytmowi o nazwie OODSelect, kt\u00f3rego opracowaniem kierowa\u0142 doktorant z MIT Olawale Salaudeen<\/strong>. Technika ta polega na analizie tysi\u0119cy modeli wytrenowanych na danych, a nast\u0119pnie przetestowanych na innych zbiorach danych. Algorytm zwraca uwag\u0119 na te modele, kt\u00f3re osi\u0105gn\u0119\u0142y znakomite wyniki w pierwotnym \u015brodowisku, ale znacznie zawiod\u0142y w nowym.<\/p>\nJakie s\u0105 dalsze kroki? Zesp\u00f3\u0142 udost\u0119pni\u0142 ju\u017c sw\u00f3j kod oraz zidentyfikowane podzbiory innym u\u017cytkownikom, maj\u0105c nadziej\u0119, \u017ce spo\u0142eczno\u015b\u0107 zajmuj\u0105ca si\u0119 uczeniem maszynowym z entuzjazmem przyjmie OODSelect. Dzi\u0119ki temu organizacje, kt\u00f3re napotkaj\u0105 obszary, w kt\u00f3rych ich modele osi\u0105gaj\u0105 s\u0142abe wyniki, b\u0119d\u0105 mog\u0142y skorygowa\u0107 kurs, podejmuj\u0105c ukierunkowane dzia\u0142ania maj\u0105ce na celu popraw\u0119 w\u0142a\u015bnie tych konkretnych obszar\u00f3w.<\/p>\n
\u201cMamy nadziej\u0119, \u017ce udost\u0119pniony kod i podzbiory OODSelect pos\u0142u\u017c\u0105 jako pomost\u201d \u2013 pisz\u0105 naukowcy, wskazuj\u0105c na swoje d\u0105\u017cenie do stworzenia test\u00f3w por\u00f3wnawczych i modeli, kt\u00f3re pozwol\u0105 upora\u0107 si\u0119 z niekorzystnymi skutkami fa\u0142szywych korelacji.<\/p>\n
Aby zapozna\u0107 si\u0119 z bardziej szczeg\u00f3\u0142owym om\u00f3wieniem tego tematu, zapraszamy do przeczytania oryginalnego artyku\u0142u opublikowanego w serwisie MIT News: Dlaczego tak wa\u017cne jest, by wyj\u015b\u0107 poza zbyt og\u00f3lne wska\u017aniki uczenia maszynowego<\/a>.<\/p>","protected":false},"excerpt":{"rendered":"Machine learning models have their fair share of admirers, mostly for their ability to dig into colossal datasets and churn out highly accurate results. But they\u2019re not invincible. Quite the contrary, according to recent findings from MIT scientists. They uncovered a chink in the otherwise resilient armor of top-rated models – a failure to carry their credibility from one situation to another. One would think high-accuracy is a testament to generalizability. Not according to MIT researchers, though. Marzyeh Ghassemi, an associate professor in MIT\u2019s Department of Electrical Engineering and Computer Science, suggests that a model that may be a superstar […]<\/p>\n","protected":false},"author":4,"featured_media":7823,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[47],"tags":[],"class_list":["post-7822","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-news","post--single"],"_links":{"self":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/7822","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/comments?post=7822"}],"version-history":[{"count":0,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/7822\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media\/7823"}],"wp:attachment":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media?parent=7822"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/categories?post=7822"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/tags?post=7822"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}