Paradoks zaufania: dlaczego duże modele językowe są zarówno uparte, jak i łatwowierne

Kiedy pewność siebie sztucznej inteligencji ma swoje dobre i złe strony

Jeśli rozmawiałeś kiedyś z sztuczną inteligencją, taką jak ChatGPT czy Gemini od Google’a, prawdopodobnie uderzyło cię, jak bardzo pewne siebie wydają się te modele językowe. Jednak pod tą pewnością kryje się zaskakująca sprzeczność – cecha, na którą niedawno zwrócili uwagę naukowcy z DeepMind.

Z jednej strony systemy sztucznej inteligencji mogą wykazywać niemal arogancką pewność siebie, udzielając odpowiedzi z niezachwianą pewnością — nawet gdy się mylą. Jest to pułapka, w którą łatwo wpaść nam, ludziom, zwłaszcza w tak wrażliwych dziedzinach jak medycyna czy finanse, gdzie nieuzasadnione zaufanie do pewnej siebie (ale błędnej) odpowiedzi sztucznej inteligencji może pociągać za sobą realne konsekwencje.

Jednak jednocześnie modele te potrafią wykazać się niezwykłą elastycznością. Wystarczy zadać pytanie uzupełniające lub zasugerować alternatywną odpowiedź, a ta sama sztuczna inteligencja może nagle zmienić zdanie — czasami rezygnując z własnej poprawnej odpowiedzi na rzecz nowej, błędnej. Ta zdolność do zmieniania zdania nie jest tylko dziwactwem; oznacza to, że w długich, wieloetapowych rozmowach niezawodność sztucznej inteligencji może być chwiejna właśnie wtedy, gdy oczekujesz, że będzie ona najbardziej pewna.

Dlaczego ma to znaczenie? Ponieważ w miarę jak sztuczna inteligencja staje się częścią coraz większej liczby narzędzi decyzyjnych, potrzebujemy uzasadnionego i stabilnego poziomu pewności. Programiści stoją obecnie przed trudnym wyzwaniem: jak ograniczyć nadmierną pewność siebie sztucznej inteligencji, nie sprawiając jednocześnie, by zbyt łatwo dała się przekonać, nawet wbrew prawdzie?

Istnieje kilka obiecujących pomysłów, które mogłyby to poprawić. Pomocne mogłoby być bardziej rygorystyczne szkolenie, pozwalające lepiej powiązać poziom pewności sztucznej inteligencji z faktyczną dokładnością, podobnie jak nowe sposoby sygnalizowania, kiedy model zgaduje, a kiedy jest naprawdę pewien. W trwających rozmowach sprawdzanie spójności odpowiedzi sztucznej inteligencji mogłoby, że tak powiem, wzmocnić jej „kręgosłup”.

W miarę rozwoju tych systemów sztucznej inteligencji zmaganie się z ich “osobistymi dziwactwami” — takimi jak ten paradoks pewności siebie — może okazać się równie istotne, jak zwiększanie ich inteligencji. W końcu jeśli będą zachowywać się zbyt podobnie do ludzi, z wszystkimi naszymi błędami poznawczymi, będzie to miało znaczenie dla zaufania i użyteczności. Prawidłowe podejście do tej kwestii może zadecydować o tym, czy sztuczna inteligencja będzie pomocna, czy tylko przekonująca.

Aby dowiedzieć się więcej o badaniach DeepMind i ich znaczeniu dla przyszłości sztucznej inteligencji konwersacyjnej, zapraszamy do zapoznania się z oryginalnym artykułem serwisu VentureBeat: Cały artykuł