Sztuczna inteligencja i uczenie maszynowe s\u0105 ju\u017c wplecione w rutyn\u0119 codziennego \u017cycia, od asystent\u00f3w g\u0142osowych w naszych kuchniach po z\u0142o\u017cone analizy, kt\u00f3re pomagaj\u0105 firmom podejmowa\u0107 decyzje. Zmieni\u0142y one spos\u00f3b, w jaki uzyskujemy dost\u0119p do informacji, znajdujemy odpowiedzi, a nawet planujemy nasze dni. Jednak w miar\u0119 jak opieramy si\u0119 na tych cyfrowych m\u00f3zgach przy dokonywaniu coraz wa\u017cniejszych wybor\u00f3w, w powietrzu wisi wa\u017cne pytanie: jak du\u017ce zaufanie powinni\u015bmy pok\u0142ada\u0107 w tych systemach?<\/p>\n
Kusz\u0105ce jest przekonanie, \u017ce je\u015bli system sztucznej inteligencji konsekwentnie dostarcza dok\u0142adne wyniki, to musi by\u0107 niezawodny. Ale to nie jest pe\u0142ny obraz. Ka\u017cdy model sztucznej inteligencji, bez wzgl\u0119du na to, jak bardzo jest zaawansowany, napotyka niepewno\u015b\u0107. Czasami dzieje si\u0119 tak dlatego, \u017ce jego dane treningowe by\u0142y ograniczone lub niesp\u00f3jne, lub po prostu dlatego, \u017ce \u015bwiat jest zbyt z\u0142o\u017cony, aby przewidywa\u0107 z doskona\u0142\u0105 pewno\u015bci\u0105. Odpowied\u017a, kt\u00f3r\u0105 widzisz, jest tylko jednym z wielu mo\u017cliwych wynik\u00f3w, a model mo\u017ce pomija\u0107 inne.<\/p>\n
Jak wi\u0119c porusza\u0107 si\u0119 po tej ukrytej warstwie nieprzewidywalno\u015bci? Odpowied\u017a le\u017cy w czym\u015b, co nazywa si\u0119 * kwantyfikacj\u0105 niepewno\u015bci* (UQ). UQ to proces, kt\u00f3ry pomaga systemom sztucznej inteligencji oszacowa\u0107 nie tylko najbardziej prawdopodobn\u0105 odpowied\u017a, ale tak\u017ce zakres innych prawdopodobnych wynik\u00f3w i stopie\u0144 pewno\u015bci systemu co do w\u0142asnych przewidywa\u0144. Bez tego u\u017cytkownicy musz\u0105 zgadywa\u0107, na ile wierzy\u0107 w to, co m\u00f3wi sztuczna inteligencja.<\/p>\n
We\u017amy za przyk\u0142ad prognozy pogody. Je\u015bli jutrzejsza temperatura ma wynie\u015b\u0107 21\u00b0C, wi\u0119kszo\u015b\u0107 z nas przyjmuje to za dobr\u0105 monet\u0119. Wyobra\u017a sobie jednak, \u017ce prognoza m\u00f3wi r\u00f3wnie\u017c, \u017ce istnieje realna szansa, \u017ce zamiast tego b\u0119dzie 12\u00b0C, 15\u00b0C lub 16\u00b0C. Ta niepewno\u015b\u0107 zmienia spos\u00f3b planowania dnia.<\/p>\n
W praktyce jednak kwantyfikacja niepewno\u015bci jest cz\u0119sto pomijana, poniewa\u017c poch\u0142ania du\u017co mocy obliczeniowej i sprawia, \u017ce systemy s\u0105 bardziej skomplikowane w projektowaniu. Jednak w sytuacjach o wysokiej stawce, takich jak opieka zdrowotna lub pojazdy autonomiczne, ignorowanie niepewno\u015bci mo\u017ce by\u0107 niebezpieczne. Lekarze polegaj\u0105cy na sztucznej inteligencji w zakresie diagnozy lub planu leczenia musz\u0105 wiedzie\u0107, jak pewny jest system - i gdzie mog\u0105 znajdowa\u0107 si\u0119 jego martwe punkty. W przypadku samochod\u00f3w autonomicznych nawet niewielki margines b\u0142\u0119du mo\u017ce oznacza\u0107 r\u00f3\u017cnic\u0119 mi\u0119dzy bliskim chybieniem a kolizj\u0105, je\u015bli system nie uwzgl\u0119dni niepewno\u015bci w swoich obliczeniach.<\/p>\n
Jednym z najstarszych sposob\u00f3w szacowania niepewno\u015bci jest przeprowadzanie symulacji Monte Carlo, co oznacza wielokrotne uruchamianie tego samego modelu z niewielkimi zmianami danych wej\u015bciowych. Daje to poczucie rozk\u0142adu prawdopodobie\u0144stwa r\u00f3\u017cnych wynik\u00f3w. Jest to niezawodna metoda, ale powolna i wymagaj\u0105ca du\u017cej ilo\u015bci zasob\u00f3w - a poniewa\u017c uwzgl\u0119dnia losowo\u015b\u0107, wyniki mog\u0105 si\u0119 nieco r\u00f3\u017cni\u0107 w zale\u017cno\u015bci od przebiegu, nawet je\u015bli wszystko zostanie skonfigurowane w ten sam spos\u00f3b.<\/p>\n
Obecnie pojawiaj\u0105 si\u0119 nowe platformy obliczeniowe, kt\u00f3re stawiaj\u0105 czo\u0142a tym wyzwaniom. W przeciwie\u0144stwie do tradycyjnych procesor\u00f3w i akcelerator\u00f3w AI, te nowe uk\u0142ady s\u0105 budowane od podstaw, aby obs\u0142ugiwa\u0107 rozk\u0142ady prawdopodobie\u0144stwa tak naturalnie, jak radz\u0105 sobie z podstawow\u0105 arytmetyk\u0105. <\/p>\n
W finansach oznacza to, \u017ce oceny ryzyka, takie jak \u201cValue at Risk\u201d, mog\u0105 wreszcie bezpo\u015brednio wykorzystywa\u0107 rzeczywiste dane rynkowe, bez tworzenia syntetycznych pr\u00f3bek. Rezultaty? Znacznie szybsze i dok\u0142adniejsze odczyty ryzyka. A teraz mo\u017cliwe jest dodanie kwantyfikacji niepewno\u015bci do istniej\u0105cych przep\u0142yw\u00f3w pracy AI - nawet modernizacja modeli, kt\u00f3re s\u0105 ju\u017c w produkcji - przy znacznie mniejszym wysi\u0142ku.<\/p>\n
Godny uwagi przypadek: ostatnie badania zaprezentowane na NeurIPS 2024 wykaza\u0142y, \u017ce te wyspecjalizowane platformy wykona\u0142y zadania UQ ponad 100 razy szybciej ni\u017c konwencjonalny serwer z symulacjami Monte Carlo. To skok nie tylko pod wzgl\u0119dem szybko\u015bci, ale tak\u017ce praktycznej u\u017cyteczno\u015bci.<\/p>\n
Poniewa\u017c systemy AI odgrywaj\u0105 coraz wi\u0119ksz\u0105 rol\u0119 w naszym \u017cyciu, budowanie prawdziwego, uzasadnionego zaufania nie jest opcjonalne - jest konieczno\u015bci\u0105. Kwantyfikacja niepewno\u015bci powinna sta\u0107 si\u0119 wbudowan\u0105 cz\u0119\u015bci\u0105 ka\u017cdego wa\u017cnego wdro\u017cenia sztucznej inteligencji, obok przejrzysto\u015bci i wyja\u015bnie\u0144 dotycz\u0105cych sposobu, w jaki systemy podejmuj\u0105 decyzje.<\/p>\n
Nie jest to tylko techniczne czepianie si\u0119 - jest to co\u015b, o co prosi opinia publiczna. Wed\u0142ug badania KPMG, oko\u0142o trzy czwarte os\u00f3b twierdzi, \u017ce bardziej ufa\u0142oby sztucznej inteligencji, gdyby systemy by\u0142y przejrzyste i dostarcza\u0142y wyniki zaufania wraz z odpowiedziami. Poniewa\u017c wszyscy zmagamy si\u0119 z trudnymi pytaniami dotycz\u0105cymi etyki, kwestii prawnych i szerszego wp\u0142ywu sztucznej inteligencji, uczynienie kwantyfikacji niepewno\u015bci standardem jest kluczowym krokiem w kierunku zdobycia zaufania publicznego na d\u0142u\u017csz\u0105 met\u0119.<\/p>\n