Ostatnie prze\u0142omy w sztucznej inteligencji, z modelami takimi jak GPT-4, Claude i LLaMA, ca\u0142kowicie zmieni\u0142y spos\u00f3b, w jaki u\u017cywamy tych narz\u0119dzi - od przeszukiwania drobnego druku dokument\u00f3w prawnych po pomoc programistom w pisaniu lepszego kodu. Te du\u017ce modele j\u0119zykowe s\u0105 wsz\u0119dzie w \u015brodowiskach o wysokiej stawce. Wi\u0105\u017c\u0105 si\u0119 one jednak z subtelnym ograniczeniem, kt\u00f3re \u0142atwo przeoczy\u0107: tendencyjno\u015bci\u0105 pozycji.<\/p>\n
Tendencyjno\u015b\u0107 pozycji dzia\u0142a bardzo podobnie do tego, jak brzmi. Modele j\u0119zykowe maj\u0105 tendencj\u0119 do zwracania szczeg\u00f3lnej uwagi na informacje na samym pocz\u0105tku i ko\u0144cu sekwencji, czasami pomijaj\u0105c to, co znajduje si\u0119 w \u015brodku. Wyobra\u017amy sobie prawnika szukaj\u0105cego kluczowej klauzuli w d\u0142ugiej umowie. Je\u015bli klauzula ta znajduje si\u0119 gdzie\u015b po\u015brodku, istnieje wi\u0119ksze ryzyko, \u017ce sztuczna inteligencja ca\u0142kowicie j\u0105 przeoczy. Ludzie nazywaj\u0105 to problemem \u201czagubienia w \u015brodku\u201d i nie jest to tylko drobne dziwactwo - mo\u017ce mie\u0107 realne konsekwencje, gdy liczy si\u0119 dok\u0142adno\u015b\u0107.<\/p>\n
Naukowcy z MIT postanowili zag\u0142\u0119bi\u0107 si\u0119 w t\u0119 tendencyjno\u015b\u0107 i dowiedzie\u0107 si\u0119 dok\u0142adnie, co si\u0119 dzieje. Badaj\u0105c wewn\u0119trzne dzia\u0142anie transformator\u00f3w - silnik\u00f3w nap\u0119dzaj\u0105cych wi\u0119kszo\u015b\u0107 nowoczesnych modeli j\u0119zykowych - odkryli co\u015b intryguj\u0105cego. Spos\u00f3b, w jaki modele te rozk\u0142adaj\u0105 swoj\u0105 uwag\u0119, nie jest neutralny; kszta\u0142tuje to, na czym si\u0119 skupiaj\u0105 i dlaczego. W niekt\u00f3rych przypadkach konstrukcja modeli sprawia, \u017ce s\u0105 one bardziej sk\u0142onne do chwytania szczeg\u00f3\u0142\u00f3w na pocz\u0105tku lub na ko\u0144cu dokumentu, pozostawiaj\u0105c \u015brodek s\u0142abo obs\u0142u\u017cony. Jak uj\u0105\u0142 to Xinyi Wu, jeden z autor\u00f3w badania, zrozumienie tych \u2019czarnych skrzynek\u201c jest trudne, ale niezb\u0119dne, je\u015bli chcemy inteligentniejszej i bardziej niezawodnej sztucznej inteligencji.<\/p>\n
Co takiego jest w mechanizmie uwagi, \u017ce to powoduje? Transformatory pozwalaj\u0105 ka\u017cdemu segmentowi (lub \u201ctokenowi\u201d) w tek\u015bcie zwraca\u0107 uwag\u0119 na inne tokeny, pomagaj\u0105c modelowi zrozumie\u0107 kontekst i znaczenie. Jednak w przypadku d\u0142ugich dokument\u00f3w istnieje praktyczne ograniczenie - modele nie s\u0105 w stanie przetworzy\u0107 ka\u017cdej relacji. Deweloperzy u\u017cywaj\u0105 technik takich jak maskowanie i kodowanie pozycyjne, aby zarz\u0105dza\u0107 t\u0105 z\u0142o\u017cono\u015bci\u0105. Popularna metoda, maskowanie przyczynowe, ogranicza uwag\u0119 tak, \u017ce ka\u017cdy token patrzy tylko na to, co by\u0142o wcze\u015bniej. Jest to \u015bwietne rozwi\u0105zanie do generowania tekstu podobnego do ludzkiego, ale wi\u0105\u017ce si\u0119 z pewnym kosztem: mo\u017ce zmusi\u0107 model do zbytniego wa\u017cenia wcze\u015bniejszych s\u0142\u00f3w, nawet je\u015bli nie s\u0105 one tak istotne.<\/p>\n
Efekt ten staje si\u0119 bardziej wyra\u017any, gdy dodajemy wi\u0119cej warstw uwagi, aby uczyni\u0107 te modele inteligentniejszymi i bardziej z\u0142o\u017conymi. Kodowanie pozycyjne mo\u017ce pom\u00f3c - buduje po\u0142\u0105czenia mi\u0119dzy s\u0142owami i ich pobliskim kontekstem, u\u0142atwiaj\u0105c modelowi utrzymanie znaczenia w ca\u0142ej sekwencji. Jednak w miar\u0119 pog\u0142\u0119biania modeli, skuteczno\u015b\u0107 tych kodowa\u0144 mo\u017ce zanika\u0107. W tej sieci uwagi naukowcy odkryli, \u017ce wykorzystanie wykres\u00f3w do wizualizacji po\u0142\u0105cze\u0144 pomaga \u015bledzi\u0107, jak zale\u017cno\u015b\u0107 zmienia si\u0119 w modelu. To skomplikowana praca, ale to w\u0142a\u015bnie te ukryte relacje kszta\u0142tuj\u0105 wyniki.<\/p>\n
Zesp\u00f3\u0142 MIT nie polega\u0142 tylko na teorii. Ich eksperymenty wykaza\u0142y co\u015b uderzaj\u0105cego: podczas wyszukiwania informacji modele dzia\u0142aj\u0105 najlepiej, je\u015bli kluczowa tre\u015b\u0107 znajduje si\u0119 na pocz\u0105tku lub na ko\u0144cu, a najgorzej, je\u015bli znajduje si\u0119 po\u015brodku - klasyczna krzywa wydajno\u015bci w kszta\u0142cie litery U. Oznacza to, \u017ce istotne informacje znajduj\u0105ce si\u0119 w po\u0142owie dokumentu mog\u0105 zosta\u0107 zignorowane.<\/p>\n
Istniej\u0105 jednak rozwi\u0105zania. Dostosowuj\u0105c spos\u00f3b, w jaki modele maskuj\u0105 informacje, dostosowuj\u0105c liczb\u0119 warstw uwagi lub dostrajaj\u0105c spos\u00f3b kodowania pozycji, programi\u015bci mog\u0105 zmniejszy\u0107 t\u0119 stronniczo\u015b\u0107. Kolejnym wa\u017cnym krokiem jest upewnienie si\u0119, \u017ce dane wykorzystywane do trenowania tych modeli nie s\u0105 z natury stronnicze w kierunku umieszczania tre\u015bci. Jak uj\u0105\u0142 to Wu, dopracowanie i staranne dostosowanie modelu jest niezb\u0119dne, zw\u0142aszcza je\u015bli istnieje ryzyko, \u017ce dane ze \u015bwiata rzeczywistego mog\u0105 wzmocni\u0107 te uprzedzenia.<\/p>\n
Dlaczego to wszystko ma znaczenie? We wra\u017cliwych sytuacjach - takich jak chatbot, kt\u00f3ry musi zapami\u0119ta\u0107 d\u0142ug\u0105 rozmow\u0119, model medyczny przeszukuj\u0105cy lata dokumentacji pacjent\u00f3w lub asystent kodowania zag\u0142\u0119biaj\u0105cy si\u0119 w tysi\u0105ce wierszy starszego kodu - przeoczenie informacji na podstawie tego, gdzie si\u0119 pojawiaj\u0105, jest nie tylko niewygodne, ale mo\u017ce by\u0107 niebezpieczne. Jak zauwa\u017ca Ali Jadbabaie, inny autor badania, zrozumienie ogranicze\u0144 modelu i wiedza o tym, kiedy mo\u017ce on zawie\u015b\u0107, ma kluczowe znaczenie, je\u015bli mamy zaufa\u0107 tym narz\u0119dziom przy podejmowaniu wa\u017cnych decyzji.<\/p>\n
To, co wyr\u00f3\u017cnia t\u0119 prac\u0119, to nie tylko pragmatyczne porady dla programist\u00f3w, ale tak\u017ce spos\u00f3b, w jaki odsuwa zas\u0142on\u0119 na zachowanie tych modeli. W miar\u0119 jak sztuczna inteligencja staje si\u0119 coraz bardziej zwi\u0105zana z naszym codziennym \u017cyciem, te spostrze\u017cenia pomog\u0105 budowa\u0107 systemy, kt\u00f3re s\u0105 nie tylko pot\u0119\u017cniejsze, ale tak\u017ce bardziej sprawiedliwe i dok\u0142adne - tak godne zaufania, jak inteligentne.<\/p>\n