Du\u017ce modele j\u0119zykowe zyska\u0142y s\u0142aw\u0119 jako mistrzowie czytania, pisania i poruszania si\u0119 po zawi\u0142ym \u015bwiecie j\u0119zyka. Wystarczy poda\u0107 im skomplikowany fragment tekstu lub pytanie otwarte, a zazwyczaj zachwyc\u0105 ci\u0119 przekonuj\u0105cymi, uwzgl\u0119dniaj\u0105cymi kontekst odpowiedziami. Jednak gdy postawisz przed nimi zadanie matematyczne lub poprosisz o rozwi\u0105zanie \u0142amig\u0142\u00f3wki logicznej, ich pewno\u015b\u0107 siebie zaczyna si\u0119 chwia\u0107 \u2013 czasami nawet podstawowe obliczenia sprawiaj\u0105 im trudno\u015bci.<\/p>\n
Modele te \u015bwietnie radz\u0105 sobie z rozumowaniem tekstowym, ale te umiej\u0119tno\u015bci nie zawsze wystarczaj\u0105 w przypadku zada\u0144 wymagaj\u0105cych precyzji, logiki lub oblicze\u0144. Oczywi\u015bcie, du\u017ce modele j\u0119zykowe (LLM) radz\u0105 sobie lepiej ni\u017c kiedykolwiek z generowaniem kodu, ale samo pisanie kodu nie zawsze oznacza, \u017ce naprawd\u0119 rozumiej\u0105, kiedy i jak nale\u017cy go u\u017cy\u0107, aby faktycznie rozwi\u0105za\u0107 dane zadanie. Nawet je\u015bli wygeneruj\u0105 kod, mo\u017ce on nie spe\u0142nia\u0107 oczekiwa\u0144 \u2013 czasami jest niedoskona\u0142y, a czasami po prostu nieefektywny.<\/p>\n
Ta intryguj\u0105ca luka przyci\u0105gn\u0119\u0142a uwag\u0119 zespo\u0142u z MIT. Zadali sobie pytanie: a co by by\u0142o, gdyby\u015bmy zamiast pozostawia\u0107 du\u017ce modele j\u0119zykowe (LLM) samym sobie, zapewnili im odrobin\u0119 wsparcia? Ten tok my\u015blenia doprowadzi\u0142 do stworzenia CodeSteer \u2013 lekkiego asystenta cyfrowego, kt\u00f3ry pe\u0142ni rol\u0119 trenera stoj\u0105cego na uboczu. Jaka jest jego rola? Kierowanie modeli LLM w stron\u0119 w\u0142a\u015bciwej metody \u2013 niezale\u017cnie od tego, czy jest to zwyk\u0142y tekst, czy fragment kodu \u2013 w zale\u017cno\u015bci od danego zadania.<\/p>\n
CodeSteer jest celowo niewielki i zwinny. Zamiast majstrowa\u0107 przy rdzeniu zaawansowanych modeli, takich jak GPT-4, naukowcy postanowili zachowa\u0107 modu\u0142ow\u0105 struktur\u0119. Ten mini-asystent analizuje problem, sprawdza, jak poradzi\u0142 sobie z nim model LLM, a nast\u0119pnie delikatnie sugeruje, czy nale\u017cy kontynuowa\u0107 rozumowanie za pomoc\u0105 s\u0142\u00f3w, czy te\u017c przej\u015b\u0107 do wykorzystania kodu. Pozostaje przy modelu, podaj\u0105c mu wskaz\u00f3wki krok po kroku, a\u017c do uzyskania prawid\u0142owego rozwi\u0105zania.<\/p>\n
Dotychczasowe wyniki s\u0105 imponuj\u0105ce. Modele LLM, pod kierunkiem CodeSteer, wykazuj\u0105 rzeczywisty post\u0119p w takich obszarach, jak rozwi\u0105zywanie r\u00f3wna\u0144 matematycznych, wype\u0142nianie krzy\u017c\u00f3wek Sudoku, a nawet radzenie sobie z zadaniami wymagaj\u0105cymi rozumowania przestrzennego. Modele te odnotowa\u0142y popraw\u0119 dok\u0142adno\u015bci o ponad 30 procent \u2014 skok ten wynika w du\u017cej mierze z umiej\u0119tno\u015bci CodeSteer do zwalczania typowego dla modeli LLM \u201clenistwa\u201d. Pozostawione same sobie modele LLM maj\u0105 tendencj\u0119 do wybierania najkr\u00f3tszego lub najwygodniejszego rozwi\u0105zania, kt\u00f3re nie zawsze jest prawid\u0142owe. CodeSteer zach\u0119ca je do wybierania bardziej rozbudowanej (i poprawnej) \u015bcie\u017cki, por\u00f3wnuj\u0105c odpowiedzi z narz\u0119dziami do sprawdzania symbolicznego oraz przeprowadzaj\u0105c w\u0142asne weryfikacje, aby upewni\u0107 si\u0119, \u017ce kod rzeczywi\u015bcie dzia\u0142a.<\/p>\n
Oczywi\u015bcie stworzenie i przetestowanie rozwi\u0105zania takiego jak CodeSteer wymaga\u0142o ogromnej ilo\u015bci danych \u2013 dlatego zesp\u00f3\u0142 z MIT postanowi\u0142 stworzy\u0107 w\u0142asny zbi\u00f3r. Opracowali SymBench, zr\u00f3\u017cnicowany zbi\u00f3r 37 zada\u0144 symbolicznych z zakresu matematyki, rozumowania przestrzennego i optymalizacji. Dzi\u0119ki temu nowemu \u015brodowisku testowemu CodeSteer nie tylko dotrzyma\u0142 kroku konkurencji \u2013 ale wr\u0119cz j\u0105 zdeklasowa\u0142, zwi\u0119kszaj\u0105c \u015bredni\u0105 precyzj\u0119 rozwi\u0105zywania zada\u0144 z nieco ponad 53 procent do ponad 86 procent, osi\u0105gaj\u0105c lepsze wyniki ni\u017c dziewi\u0119\u0107 innych metod.<\/p>\n
By\u0107 mo\u017ce najbardziej obiecuj\u0105c\u0105 cech\u0105 CodeSteer jest jego subtelno\u015b\u0107. Nie ingeruje on w dzia\u0142anie du\u017cych modeli LLM, pe\u0142ni\u0105c raczej rol\u0119 wyrafinowanego przewodnika ni\u017c wprowadzaj\u0105c gruntowne zmiany. Oznacza to, \u017ce nawet mniejsze modele, maj\u0105c CodeSteer po swojej stronie, mog\u0105 sprosta\u0107 specjalistycznym wyzwaniom, kt\u00f3re cz\u0119sto stanowi\u0105 problem dla znacznie wi\u0119kszych, \u201cinteligentniejszych\u201d modeli.<\/p>\n
\u201cNasza metoda wykorzystuje w\u0142asne mo\u017cliwo\u015bci modelu LLM\u201d \u2013 m\u00f3wi Yongchao Chen, g\u0142\u00f3wny autor projektu. Pomagaj\u0105c modelowi zrozumie\u0107, kiedy \u2013 i jak \u2013 ma pisa\u0107 kod, zamiast polega\u0107 wy\u0142\u0105cznie na jego \u201csurowych\u201d zdolno\u015bciach, mo\u017cna radykalnie poprawi\u0107 wydajno\u015b\u0107 nawet ju\u017c bardzo zaawansowanych modeli LLM. Podej\u015bcie to nie ma wy\u0142\u0105cznie charakteru akademickiego: wyobra\u017amy sobie, jak pomaga robotom porusza\u0107 si\u0119 po trudnym terenie lub jak przyczynia si\u0119 do uporz\u0105dkowania z\u0142o\u017conych globalnych \u0142a\u0144cuch\u00f3w dostaw.<\/p>\n
W przysz\u0142o\u015bci zesp\u00f3\u0142 z MIT zamierza przyspieszy\u0107 dzia\u0142anie CodeSteer i, by\u0107 mo\u017ce, zintegrowa\u0107 funkcj\u0119 coachingu w jednym modelu \u2013 bez konieczno\u015bci stosowania oddzielnego asystenta. Prace te wywo\u0142a\u0142y ju\u017c spore poruszenie w bran\u017cy, a eksperci zar\u00f3wno z Google Cloud AI, jak i DeepMind chwal\u0105 pomys\u0142owo\u015b\u0107 CodeSteer oraz jego potencja\u0142 w zakresie usprawniania wsp\u00f3\u0142pracy mi\u0119dzy \u2018agentami\u2019 sztucznej inteligencji. Badania te, wspierane przez Biuro Bada\u0144 Marynarki Wojennej (Office of Naval Research) oraz laboratorium MIT-IBM Watson AI Lab, b\u0119d\u0105 g\u0142\u00f3wnym tematem Mi\u0119dzynarodowej Konferencji po\u015bwi\u0119conej uczeniu maszynowemu.<\/p>\n