Priorytet zaufania w sztucznej inteligencji

Sztuczna inteligencja i uczenie maszynowe są już wplecione w rutynę codziennego życia, od asystentów głosowych w naszych kuchniach po złożone analizy, które pomagają firmom podejmować decyzje. Zmieniły one sposób, w jaki uzyskujemy dostęp do informacji, znajdujemy odpowiedzi, a nawet planujemy nasze dni. Jednak w miarę jak opieramy się na tych cyfrowych mózgach przy dokonywaniu coraz ważniejszych wyborów, w powietrzu wisi ważne pytanie: jak duże zaufanie powinniśmy pokładać w tych systemach?

Ponowne przemyślenie kwestii zaufania: Więcej niż tylko “właściwe podejście”

Kuszące jest przekonanie, że jeśli system sztucznej inteligencji konsekwentnie dostarcza dokładne wyniki, to musi być niezawodny. Ale to nie jest pełny obraz. Każdy model sztucznej inteligencji, bez względu na to, jak bardzo jest zaawansowany, napotyka niepewność. Czasami dzieje się tak dlatego, że jego dane treningowe były ograniczone lub niespójne, lub po prostu dlatego, że świat jest zbyt złożony, aby przewidywać z doskonałą pewnością. Odpowiedź, którą widzisz, jest tylko jednym z wielu możliwych wyników, a model może pomijać inne.

Jak więc poruszać się po tej ukrytej warstwie nieprzewidywalności? Odpowiedź leży w czymś, co nazywa się * kwantyfikacją niepewności* (UQ). UQ to proces, który pomaga systemom sztucznej inteligencji oszacować nie tylko najbardziej prawdopodobną odpowiedź, ale także zakres innych prawdopodobnych wyników i stopień pewności systemu co do własnych przewidywań. Bez tego użytkownicy muszą zgadywać, na ile wierzyć w to, co mówi sztuczna inteligencja.

Pomijanie niepewności wiąże się z kosztami

Weźmy za przykład prognozy pogody. Jeśli jutrzejsza temperatura ma wynieść 21°C, większość z nas przyjmuje to za dobrą monetę. Wyobraź sobie jednak, że prognoza mówi również, że istnieje realna szansa, że zamiast tego będzie 12°C, 15°C lub 16°C. Ta niepewność zmienia sposób planowania dnia.

W praktyce jednak kwantyfikacja niepewności jest często pomijana, ponieważ pochłania dużo mocy obliczeniowej i sprawia, że systemy są bardziej skomplikowane w projektowaniu. Jednak w sytuacjach o wysokiej stawce, takich jak opieka zdrowotna lub pojazdy autonomiczne, ignorowanie niepewności może być niebezpieczne. Lekarze polegający na sztucznej inteligencji w zakresie diagnozy lub planu leczenia muszą wiedzieć, jak pewny jest system - i gdzie mogą znajdować się jego martwe punkty. W przypadku samochodów autonomicznych nawet niewielki margines błędu może oznaczać różnicę między bliskim chybieniem a kolizją, jeśli system nie uwzględni niepewności w swoich obliczeniach.

Jednym z najstarszych sposobów szacowania niepewności jest przeprowadzanie symulacji Monte Carlo, co oznacza wielokrotne uruchamianie tego samego modelu z niewielkimi zmianami danych wejściowych. Daje to poczucie rozkładu prawdopodobieństwa różnych wyników. Jest to niezawodna metoda, ale powolna i wymagająca dużej ilości zasobów - a ponieważ uwzględnia losowość, wyniki mogą się nieco różnić w zależności od przebiegu, nawet jeśli wszystko zostanie skonfigurowane w ten sam sposób.

Sprzęt nowej generacji: Podnoszenie poprzeczki

Obecnie pojawiają się nowe platformy obliczeniowe, które stawiają czoła tym wyzwaniom. W przeciwieństwie do tradycyjnych procesorów i akceleratorów AI, te nowe układy są budowane od podstaw, aby obsługiwać rozkłady prawdopodobieństwa tak naturalnie, jak radzą sobie z podstawową arytmetyką.

W finansach oznacza to, że oceny ryzyka, takie jak “Value at Risk”, mogą wreszcie bezpośrednio wykorzystywać rzeczywiste dane rynkowe, bez tworzenia syntetycznych próbek. Rezultaty? Znacznie szybsze i dokładniejsze odczyty ryzyka. A teraz możliwe jest dodanie kwantyfikacji niepewności do istniejących przepływów pracy AI - nawet modernizacja modeli, które są już w produkcji - przy znacznie mniejszym wysiłku.

Godny uwagi przypadek: ostatnie badania zaprezentowane na NeurIPS 2024 wykazały, że te wyspecjalizowane platformy wykonały zadania UQ ponad 100 razy szybciej niż konwencjonalny serwer z symulacjami Monte Carlo. To skok nie tylko pod względem szybkości, ale także praktycznej użyteczności.

Godna zaufania sztuczna inteligencja: przyszłość

Ponieważ systemy AI odgrywają coraz większą rolę w naszym życiu, budowanie prawdziwego, uzasadnionego zaufania nie jest opcjonalne - jest koniecznością. Kwantyfikacja niepewności powinna stać się wbudowaną częścią każdego ważnego wdrożenia sztucznej inteligencji, obok przejrzystości i wyjaśnień dotyczących sposobu, w jaki systemy podejmują decyzje.

Nie jest to tylko techniczne czepianie się - jest to coś, o co prosi opinia publiczna. Według badania KPMG, około trzy czwarte osób twierdzi, że bardziej ufałoby sztucznej inteligencji, gdyby systemy były przejrzyste i dostarczały wyniki zaufania wraz z odpowiedziami. Ponieważ wszyscy zmagamy się z trudnymi pytaniami dotyczącymi etyki, kwestii prawnych i szerszego wpływu sztucznej inteligencji, uczynienie kwantyfikacji niepewności standardem jest kluczowym krokiem w kierunku zdobycia zaufania publicznego na dłuższą metę.

Przeczytaj oryginalny artykuł tutaj: https://www.unite.ai/prioritizing-trust-in-ai/