Zadziwiający postęp, jaki osiągnęły generatywne modele sztucznej inteligencji w odtwarzaniu ludzkiego języka, podkreśla niepokojąca tendencja: ich skłonność do wymyślania informacji — zjawisko określane jako ‘halucynacja’. Prawdziwe niebezpieczeństwo wynika nie tylko z faktu, że systemy te wymyślają informacje, ale także z ich fenomenalnej zdolności do robienia tego w przekonujący sposób oraz z naszej skłonności do traktowania ich słów jako prawdy objawionej.
Decydenci w korporacjach często wierzą, że przy wystarczającym dostosowaniu, ustaleniu granic i wykorzystaniu strategii generowania rozszerzonego wyszukiwania (RAG), te modele sztucznej inteligencji można udomowić i wykorzystać na masową skalę. Liczby mówią jednak co innego. Badania w różnych branżach ujawniają występowanie halucynacji wahających się od rozsądnego 0,8% do alarmującego 88%, w zależności od modelu i konkretnego przypadku, w którym został użyty.
Na przykład badanie przeprowadzone przez Stanford HAI i RegLab w sektorze technologii prawnych wykazały, że duże modele językowe (LLM) halucynowały od 69% do 88% czasu podczas udzielania porad prawnych. W świecie akademickim Badanie JMIR ustalili, że zarówno GPT-3.5, jak i GPT-4 miały halucynacje w ponad 85% przypadków; Bard Google był za każdym razem nieprawidłowy. W świecie finansów, generowane przez sztuczną inteligencję dezinformacje skłoniły rzeczywistych klientów do rozważenia realokacji swoich funduszy, jak donosi raport Badanie przeprowadzone w Wielkiej Brytanii.
W tej sytuacji musimy zdać sobie sprawę, że nie chodzi tu tylko o zwykłe naprawianie błędów. Chodzi o radzenie sobie z ryzykiem – reputacyjnym, prawnym i operacyjnym. Konsekwencje są realne i narastają, niezależnie od tego, czy chodzi o wydawanie przez kancelarie prawne zaleceń odradzających prawnikom poleganie na orzecznictwie generowanym przez sztuczną inteligencję, czy też o uznanie przez Radę Stabilności Finansowej G20 generatywnej sztucznej inteligencji za potencjalny czynnik wywołujący niestabilność finansową. ’Halucynacje‘ to nie tylko rzadki sygnał na radarze, ale głęboko zakorzeniona wada. Generatywna sztuczna inteligencja nie jest maszyną logiczną – to statystyczny spekulant. Jej przewidywania opierają się na wzorcach danych, a nie na faktach. W związku z tym, nawet jeśli wydają się wiarygodne, mogą być całkowicie iluzoryczne. Termin ’halucynacje” nie powinien być zarezerwowany wyłącznie dla najbardziej skandalicznych błędów, ponieważ cała generowana treść jest jedynie upiększoną hipotezą.
Aby sztuczna inteligencja była gotowa do zastosowania w przedsiębiorstwie, nie możemy postrzegać jej jako tajemniczej istoty — powinniśmy raczej traktować ją jako infrastrukturę. Wymaga to kładzenia nacisku na przejrzystość, jasność i identyfikowalność. Systemowi sztucznej inteligencji, który nie jest w stanie przedstawić jasnego opisu swoich procesów, nie należy powierzać operacji o krytycznym znaczeniu. Przyszłość sztucznej inteligencji w przedsiębiorstwie skłania się ku systemom, które można poddać audytowi i pociągnąć do odpowiedzialności.
Regulacje również nabierają tempa, czego przykładem jest unijna ustawa o sztucznej inteligencji. Sektory wysokiego ryzyka, takie jak opieka zdrowotna, prawo i infrastruktura krytyczna, będą wkrótce zobowiązane do zapewnienia zgodności swoich systemów sztucznej inteligencji z rygorystyczną dokumentacją, testami i wytycznymi dotyczącymi przejrzystości. Traktuj to nie tylko jako zgodność, ale jako konieczność.
Na horyzoncie pojawia się nadzieja, ponieważ niektóre firmy już zaczęły inaczej podchodzić do rozwoju sztucznej inteligencji. Zamiast zasilania modeli ogromnymi ilościami danych z internetu — obciążonych stronniczością, dezinformacją i naruszeniami praw własności intelektualnej — tworzą systemy, które wyciągają wnioski na podstawie własnych, wiarygodnych treści firmy. Takie modele nie spekulują; one powołują się na źródła. Jeśli odpowiedź nie występuje w materiale źródłowym, po prostu to przyznają. Efektem są deterministyczne i zrozumiałe modele, które są znacznie bezpieczniejsze w zastosowaniu w sytuacjach o wysokiej stawce.
Idąc naprzód, firmy muszą przyjąć pięciostopniowy plan odpowiedzialności za sztuczną inteligencję. Zidentyfikuj, gdzie sztuczna inteligencja jest wykorzystywana w Twojej organizacji i na jakie decyzje wpływa. Czy istnieje wyraźna linia prowadząca do wiarygodnych źródeł? Ustal role i praktyki audytowe w zakresie zarządzania sztuczną inteligencją, zintegrowane z decyzjami dotyczącymi ryzyka na poziomie zarządu, zwłaszcza jeśli sztuczna inteligencja wchodzi w interakcje z klientami, organami regulacyjnymi lub opinią publiczną. Uznaj dostawców za współodpowiedzialnych i wymagaj szczegółowej dokumentacji, praw do audytu i umów o gwarantowanym poziomie usług (SLA), koncentrując się na wyjaśnianiu. Pielęgnuj w swoich zespołach sceptycyzm wobec postrzegania sztucznej inteligencji jako nieomylnej. Zaufanie powinno być przyznawane stopniowo, a nie traktowane jako coś oczywistego.
W sytuacji, gdy firmy prześcigają się we wdrażaniu sztucznej inteligencji, nie należy skupiać się wyłącznie na skali. Celem powinny być zaufanie, precyzja i odpowiedzialność. Renomowane modele są nie tylko statystycznie poparte, ale także niezmiennie niezawodne. Zapoznaj się z tym tematem bardziej szczegółowo, czytając cały artykuł na stronie Unite.AI.
Ta strona używa plików cookie.