Sztuczna inteligencja i uczenie maszynowe są już nieodłączną częścią naszej codzienności – od asystentów głosowych w naszych kuchniach po złożone analizy, które pomagają firmom w podejmowaniu decyzji. Zmieniły one sposób, w jaki uzyskujemy dostęp do informacji, znajdujemy odpowiedzi, a nawet planujemy nasze dni. Jednak w miarę jak coraz częściej polegamy na tych cyfrowych mózgach przy podejmowaniu coraz ważniejszych decyzji, w powietrzu unosi się ważne pytanie: na ile powinniśmy ufać tym systemom?
Kuszące jest przekonanie, że jeśli system sztucznej inteligencji konsekwentnie dostarcza trafne wyniki, to musi być niezawodny. Nie jest to jednak pełny obraz sytuacji. Każdy model sztucznej inteligencji, bez względu na to, jak zaawansowany, boryka się z niepewnością. Czasami wynika to z tego, że dane szkoleniowe były ograniczone lub niespójne, a czasami po prostu dlatego, że świat jest zbyt złożony, by można go było przewidzieć z całkowitą pewnością. Wyświetlana odpowiedź to tylko jeden z wielu możliwych wyników, a model może pomijać pozostałe.
Jak więc poruszać się po tej ukrytej warstwie nieprzewidywalności? Odpowiedź leży w czymś, co nazywa się * kwantyfikacją niepewności* (UQ). UQ to proces, który pomaga systemom sztucznej inteligencji oszacować nie tylko najbardziej prawdopodobną odpowiedź, ale także zakres innych prawdopodobnych wyników i stopień pewności systemu co do własnych przewidywań. Bez tego użytkownicy muszą zgadywać, na ile wierzyć w to, co mówi sztuczna inteligencja.
Weźmy na przykład prognozę pogody. Jeśli przewiduje się, że jutrzejsza maksymalna temperatura wyniesie 21°C, większość z nas przyjmuje tę informację za dobrą monetę. Wyobraź sobie jednak, że prognoza informuje również, iż istnieje realna szansa, że temperatura wyniesie zamiast tego 12°C, 15°C lub 16°C. Ta niepewność wpływa na to, jak zaplanujesz swój dzień.
W praktyce jednak kwantyfikacja niepewności jest często pomijana, ponieważ pochłania znaczne zasoby obliczeniowe i zwiększa złożoność projektowania systemów. Jednak w sytuacjach o wysokiej stawce, takich jak opieka zdrowotna czy pojazdy autonomiczne, ignorowanie niepewności może być niebezpieczne. Lekarze polegający na sztucznej inteligencji przy stawianiu diagnozy lub opracowywaniu planu leczenia muszą wiedzieć, na ile system jest pewny swoich wniosków — oraz gdzie mogą znajdować się jego „martwe punkty”. W przypadku samochodów autonomicznych nawet niewielki margines błędu może oznaczać różnicę między sytuacją, w której dochodzi do niemal zderzenia, a faktyczną kolizją, jeśli system nie uwzględni niepewności w swoich obliczeniach.
Jednym z najstarszych sposobów szacowania niepewności jest przeprowadzanie symulacji Monte Carlo, co oznacza wielokrotne uruchamianie tego samego modelu z niewielkimi zmianami danych wejściowych. Daje to poczucie rozkładu prawdopodobieństwa różnych wyników. Jest to niezawodna metoda, ale powolna i wymagająca dużej ilości zasobów - a ponieważ uwzględnia losowość, wyniki mogą się nieco różnić w zależności od przebiegu, nawet jeśli wszystko zostanie skonfigurowane w ten sam sposób.
Obecnie pojawiają się nowe platformy obliczeniowe, które stawiają czoła tym wyzwaniom. W przeciwieństwie do tradycyjnych procesorów i akceleratorów AI, te nowe układy są budowane od podstaw, aby obsługiwać rozkłady prawdopodobieństwa tak naturalnie, jak radzą sobie z podstawową arytmetyką.
W finansach oznacza to, że przy ocenie ryzyka, np. za pomocą wskaźnika “Value at Risk”, można wreszcie bezpośrednio wykorzystywać rzeczywiste dane rynkowe, bez konieczności tworzenia próbek syntetycznych. Jakie są tego skutki? Znacznie szybsza i dokładniejsza ocena ryzyka. Obecnie możliwe jest również włączenie kwantyfikacji niepewności do istniejących procesów opartych na sztucznej inteligencji — nawet w przypadku modernizacji modeli już wykorzystywanych w praktyce — przy znacznie mniejszym nakładzie pracy.
Godny uwagi przypadek: ostatnie badania zaprezentowane na NeurIPS 2024 wykazały, że te wyspecjalizowane platformy wykonały zadania UQ ponad 100 razy szybciej niż konwencjonalny serwer z symulacjami Monte Carlo. To skok nie tylko pod względem szybkości, ale także praktycznej użyteczności.
Ponieważ systemy AI odgrywają coraz większą rolę w naszym życiu, budowanie prawdziwego, uzasadnionego zaufania nie jest opcjonalne - jest koniecznością. Kwantyfikacja niepewności powinna stać się wbudowaną częścią każdego ważnego wdrożenia sztucznej inteligencji, obok przejrzystości i wyjaśnień dotyczących sposobu, w jaki systemy podejmują decyzje.
To nie jest tylko techniczne czepianie się szczegółów — to coś, czego domaga się opinia publiczna. Według badania przeprowadzonego przez KPMG około trzech czwartych osób twierdzi, że bardziej ufałoby sztucznej inteligencji, gdyby systemy były przejrzyste i podawały wskaźniki pewności wraz z udzielanymi odpowiedziami. W sytuacji, gdy wszyscy zmagamy się z trudnymi pytaniami dotyczącymi etyki, aspektów prawnych i szerszego wpływu sztucznej inteligencji, uczynienie kwantyfikacji niepewności standardem jest kluczowym krokiem w kierunku zdobycia długotrwałego zaufania opinii publicznej.
Przeczytaj oryginalny artykuł tutaj: https://www.unite.ai/prioritizing-trust-in-ai/
Ta strona używa plików cookie.