\nZdumiewaj\u0105cy post\u0119p dokonany w generatywnych modelach sztucznej inteligencji w replikowaniu ludzkiego j\u0119zyka jest podkre\u015blony przez niepokoj\u0105cy trend: ich sk\u0142onno\u015b\u0107 do wymy\u015blania informacji - stan okre\u015blany jako \u2018halucynacja\u2019. Prawdziwe niebezpiecze\u0144stwo wynika nie tylko z faktu, \u017ce systemy te wymy\u015blaj\u0105 informacje, ale z ich fenomenalnej zdolno\u015bci do robienia tego w przekonuj\u0105cy spos\u00f3b, a tak\u017ce z naszej sk\u0142onno\u015bci do przyjmowania ich s\u0142\u00f3w jako ewangelii. <\/p>\n
\nDecydenci w korporacjach cz\u0119sto wierz\u0105, \u017ce przy wystarczaj\u0105cym dostosowaniu, ustaleniu granic i wykorzystaniu strategii generowania rozszerzonego wyszukiwania (RAG), te modele sztucznej inteligencji mo\u017cna udomowi\u0107 i wykorzysta\u0107 na masow\u0105 skal\u0119. Liczby m\u00f3wi\u0105 jednak co innego. Badania w r\u00f3\u017cnych bran\u017cach ujawniaj\u0105 wyst\u0119powanie halucynacji wahaj\u0105cych si\u0119 od rozs\u0105dnego 0,8% do alarmuj\u0105cego 88%, w zale\u017cno\u015bci od modelu i konkretnego przypadku, w kt\u00f3rym zosta\u0142 u\u017cyty.\n<\/p>\n
\nNa przyk\u0142ad badanie przeprowadzone przez Stanford HAI & RegLab<\/a> w sektorze technologii prawnych wykaza\u0142y, \u017ce du\u017ce modele j\u0119zykowe (LLM) halucynowa\u0142y od 69% do 88% czasu podczas udzielania porad prawnych. W \u015bwiecie akademickim Badanie JMIR<\/a> ustalili, \u017ce zar\u00f3wno GPT-3.5, jak i GPT-4 mia\u0142y halucynacje w ponad 85% przypadk\u00f3w; Bard Google by\u0142 za ka\u017cdym razem nieprawid\u0142owy. W \u015bwiecie finans\u00f3w, generowane przez sztuczn\u0105 inteligencj\u0119 dezinformacje sk\u0142oni\u0142y rzeczywistych klient\u00f3w do rozwa\u017cenia realokacji swoich funduszy, jak donosi raport Badanie przeprowadzone w Wielkiej Brytanii<\/a>.\n<\/p>\n \nW tym momencie musimy zda\u0107 sobie spraw\u0119, \u017ce chodzi o co\u015b wi\u0119cej ni\u017c tylko naprawianie b\u0142\u0119d\u00f3w. Chodzi o radzenie sobie z ryzykiem - reputacyjnym, prawnym, operacyjnym. Opady s\u0105 realne i narastaj\u0105, niezale\u017cnie od tego, czy chodzi o wydawanie przez kancelarie prawne porad odradzaj\u0105cych prawnikom poleganie na orzecznictwie generowanym przez sztuczn\u0105 inteligencj\u0119, czy te\u017c o Rad\u0119 Stabilno\u015bci Finansowej G20, kt\u00f3ra uzna\u0142a generatywn\u0105 sztuczn\u0105 inteligencj\u0119 za potencjalny katalizator niestabilno\u015bci finansowej. Halucynacje to nie tylko rzadki b\u0142ysk na radarze, to zakorzeniona wada. Generatywna sztuczna inteligencja nie jest logiczn\u0105 maszyn\u0105 - jest statystycznym spekulantem. Jej przewidywania opieraj\u0105 si\u0119 na wzorcach danych, a nie na faktach. W zwi\u0105zku z tym, nawet je\u015bli wydaj\u0105 si\u0119 wiarygodne, mog\u0105 by\u0107 ca\u0142kowicie iluzoryczne. Termin \u2019halucynacje\u2018 nie powinien by\u0107 zarezerwowany tylko dla najbardziej skandalicznych b\u0142\u0119d\u00f3w, poniewa\u017c ca\u0142y wynik jest jedynie upi\u0119kszonym domys\u0142em.<\/p>\n \nAby sztuczna inteligencja zosta\u0142a przygotowana dla przedsi\u0119biorstw, musimy powstrzyma\u0107 si\u0119 od postrzegania jej jako tajemniczego bytu - zamiast tego powinni\u015bmy postrzega\u0107 j\u0105 jako infrastruktur\u0119. Wymaga to nalegania na przejrzysto\u015b\u0107, jasno\u015b\u0107 i identyfikowalno\u015b\u0107. System sztucznej inteligencji, kt\u00f3ry nie mo\u017ce zapewni\u0107 jasnego podzia\u0142u swoich proces\u00f3w, nie powinien by\u0107 powierzany krytycznym operacjom. The Przysz\u0142o\u015b\u0107 sztucznej inteligencji w przedsi\u0119biorstwie<\/a> sk\u0142ania si\u0119 ku systemom, kt\u00f3re mo\u017cna podda\u0107 audytowi i poci\u0105gn\u0105\u0107 do odpowiedzialno\u015bci.\n<\/p>\n \nRegulacje r\u00f3wnie\u017c nabieraj\u0105 tempa, czego przyk\u0142adem jest unijna ustawa o sztucznej inteligencji. Sektory wysokiego ryzyka, takie jak opieka zdrowotna, prawo i infrastruktura krytyczna, b\u0119d\u0105 wkr\u00f3tce zobowi\u0105zane do zapewnienia zgodno\u015bci swoich system\u00f3w sztucznej inteligencji z rygorystyczn\u0105 dokumentacj\u0105, testami i wytycznymi dotycz\u0105cymi przejrzysto\u015bci. Traktuj to nie tylko jako zgodno\u015b\u0107, ale jako konieczno\u015b\u0107.\n<\/p>\n \nNa horyzoncie pojawia si\u0119 nadzieja, poniewa\u017c niekt\u00f3re firmy ju\u017c zacz\u0119\u0142y rozwija\u0107 sztuczn\u0105 inteligencj\u0119 w inny spos\u00f3b. Zamiast karmi\u0107 modele du\u017c\u0105 ilo\u015bci\u0105 danych internetowych - obci\u0105\u017conych stronniczo\u015bci\u0105, dezinformacj\u0105 i naruszeniami praw w\u0142asno\u015bci intelektualnej - tworz\u0105 systemy, kt\u00f3re wnioskuj\u0105 na podstawie wiarygodnych tre\u015bci firmy. Takie modele nie spekuluj\u0105, lecz cytuj\u0105. Je\u015bli odpowied\u017a nie istnieje w materiale \u017ar\u00f3d\u0142owym, przyznaj\u0105 si\u0119 do tego. Rezultatem s\u0105 deterministyczne i wyt\u0142umaczalne modele, kt\u00f3re s\u0105 znacznie bezpieczniejsze w u\u017cyciu w scenariuszach o wysokiej stawce.\n<\/p>\n \nId\u0105c naprz\u00f3d, firmy musz\u0105 przyj\u0105\u0107 pi\u0119ciostopniowy plan odpowiedzialno\u015bci za sztuczn\u0105 inteligencj\u0119. Zidentyfikuj, gdzie sztuczna inteligencja jest wykorzystywana w Twojej organizacji i na jakie decyzje wp\u0142ywa. Czy istnieje wyra\u017ana linia prowadz\u0105ca do wiarygodnych \u017ar\u00f3de\u0142? Ustal role i praktyki audytowe w zakresie zarz\u0105dzania sztuczn\u0105 inteligencj\u0105, zintegrowane z decyzjami dotycz\u0105cymi ryzyka na poziomie zarz\u0105du, zw\u0142aszcza je\u015bli sztuczna inteligencja wchodzi w interakcje z klientami, organami regulacyjnymi lub opini\u0105 publiczn\u0105. Uznaj dostawc\u00f3w za wsp\u00f3\u0142odpowiedzialnych i wymagaj szczeg\u00f3\u0142owej dokumentacji, praw do audytu i um\u00f3w o gwarantowanym poziomie us\u0142ug (SLA), koncentruj\u0105c si\u0119 na wyja\u015bnianiu. Piel\u0119gnuj w swoich zespo\u0142ach sceptycyzm wobec postrzegania sztucznej inteligencji jako nieomylnej. Zaufanie powinno by\u0107 przyznawane stopniowo, a nie traktowane jako co\u015b oczywistego.\n<\/p>\n \nPoniewa\u017c firmy staraj\u0105 si\u0119 zintegrowa\u0107 sztuczn\u0105 inteligencj\u0119, celem nie powinno by\u0107 jedynie skupienie si\u0119 na skali. Celem powinno by\u0107 zaufanie, precyzja i odpowiedzialno\u015b\u0107. Renomowane modele s\u0105 nie tylko statystycznie solidne, ale tak\u017ce konsekwentnie niezawodne. Zanurz si\u0119 g\u0142\u0119biej w ten temat, czytaj\u0105c pe\u0142ny artyku\u0142 na stronie Unite.AI<\/a>.<\/p>","protected":false},"excerpt":{"rendered":" The astonishing progress made in generative AI models in replicating human language is underscored by a worrying trend: their penchant for inventing information\u2014a condition referred to as ‘hallucination.’ The real danger stems not just from the fact that these systems concoct information, but in their phenomenal ability to do so convincingly, and in our inclination to take their word as gospel. Navigating the Systemic Risk of AI Hallucination Decision-makers in corporations often hold the belief that with sufficient tweaking, setting boundaries, and utilization of retrieval-augmented generation (RAG) strategies, these AI models could be domesticated and put to mass use. However, […]<\/p>\n","protected":false},"author":4,"featured_media":5805,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[47],"tags":[],"class_list":["post-5804","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-news","post--single"],"_links":{"self":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/5804","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/comments?post=5804"}],"version-history":[{"count":0,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/5804\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media\/5805"}],"wp:attachment":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media?parent=5804"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/categories?post=5804"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/tags?post=5804"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Wizja odpowiedzialnej sztucznej inteligencji<\/h5>\n
Lepsze, a nie wi\u0119ksze modele sztucznej inteligencji<\/h5>\n