{"id":6294,"date":"2025-07-08T06:00:00","date_gmt":"2025-07-08T04:00:00","guid":{"rendered":"https:\/\/aitrends.center\/mit-researchers-boost-llm-reasoning-with-test-time-training\/"},"modified":"2025-07-24T13:13:16","modified_gmt":"2025-07-24T11:13:16","slug":"naukowcy-z-mit-zwiekszaja-zdolnosc-rozumowania-na-poziomie-lm-dzieki-treningowi-w-czasie-testu","status":"publish","type":"post","link":"https:\/\/aitrendscenter.eu\/pl\/mit-researchers-boost-llm-reasoning-with-test-time-training\/","title":{"rendered":"Naukowcy z MIT usprawniaj\u0105 rozumowanie LLM dzi\u0119ki szkoleniom w czasie test\u00f3w"},"content":{"rendered":"<p>Du\u017ce modele j\u0119zykowe dokona\u0142y ogromnego post\u0119pu w zakresie rozumienia i wykorzystywania j\u0119zyka ludzkiego przez komputery \u2014 ich dzia\u0142anie wida\u0107 wsz\u0119dzie, od b\u0142yskawicznych streszcze\u0144 dokument\u00f3w po natychmiastowe t\u0142umaczenia i sprytne boty odpowiadaj\u0105ce na pytania. Jednak mimo ca\u0142ej swojej inteligencji modele te mog\u0105 napotka\u0107 przeszkod\u0119, gdy stan\u0105 przed wyzwaniami wymagaj\u0105cymi prawdziwego rozumowania lub odrobiny ludzkiej logiki. Wyobra\u017a sobie sztuczn\u0105 inteligencj\u0119, kt\u00f3ra bez trudu generuje podsumowania finansowe, ale ma trudno\u015bci, gdy poprosisz j\u0105 o wykrycie podejrzanych transakcji lub przewidzenie przysz\u0142ych trend\u00f3w rynkowych. Dlaczego? Gdy modele te trafi\u0105 do powszechnego u\u017cytku, nie s\u0105 w stanie samodzielnie nabywa\u0107 nowych umiej\u0119tno\u015bci ani stawa\u0107 si\u0119 m\u0105drzejsze.<\/p>\n<h5>Szkolenie w trakcie test\u00f3w: nowe \u017cycie dla sztucznej inteligencji<\/h5>\n<p>Naukowcy z MIT uznali, \u017ce to za ma\u0142o, i opracowali metod\u0119 zwan\u0105 \u201cuczeniem w czasie testowania\u201d. Zamiast aktualizowa\u0107 ca\u0142y model lub uczy\u0107 go od nowa, to sprytne podej\u015bcie pozwala na bie\u017c\u0105co dostosowywa\u0107 okre\u015blone elementy sztucznej inteligencji \u2013 dok\u0142adnie wtedy, gdy jest to potrzebne. W ten spos\u00f3b model pozostaje w swej istocie niezmieniony, ale mo\u017ce tymczasowo dostosowa\u0107 si\u0119 do rozwi\u0105zywania trudniejszych lub zupe\u0142nie nowych problem\u00f3w. Ekin Aky\u00fcrek, cz\u0142onek zespo\u0142u, zwi\u0119\u017ale to wyja\u015bni\u0142: te modele sztucznej inteligencji nie s\u0105 w stanie samodzielnie si\u0119 uczy\u0107 po wdro\u017ceniu \u2013 jednak dzi\u0119ki niewielkiej, przemy\u015blanej interwencji ich mo\u017cliwo\u015bci robi\u0105 ogromny krok naprz\u00f3d.<\/p>\n<p>Wcze\u015bniej wi\u0119kszo\u015b\u0107 os\u00f3b polega\u0142a na tak zwanym \u201cuczeniu si\u0119 w kontek\u015bcie\u201d, aby poprawi\u0107 spos\u00f3b, w jaki modele te radz\u0105 sobie z nowymi problemami: pokazuje si\u0119 im kilka przyk\u0142ad\u00f3w i pozwala im wy\u0142apa\u0107 wzorzec. To dzia\u0142a \u2013 do pewnego stopnia. Problem polega na tym, \u017ce je\u015bli zadanie naprawd\u0119 wymaga rozumowania lub elastyczno\u015bci, podej\u015bcie to cz\u0119sto zawodzi, a wyniki s\u0105 rozczarowuj\u0105ce.<\/p>\n<h5>Ogromny impuls dzi\u0119ki my\u015bleniu hybrydowemu<\/h5>\n<p>Zesp\u00f3\u0142 z MIT poszed\u0142 o krok dalej, \u0142\u0105cz\u0105c uczenie si\u0119 w kontek\u015bcie z uczeniem si\u0119 w czasie testowania. Oto, co sprawia, \u017ce rozwi\u0105zanie to jest wyj\u0105tkowe: podczas wnioskowania \u2013 czyli na etapie, kiedy sztuczna inteligencja faktycznie rozwi\u0105zuje problem \u2013 model przechodzi mini-kurs intensywny z wykorzystaniem zestawu przyk\u0142ad\u00f3w dostosowanych specjalnie do danego zadania. Zamiast gruntownej przebudowy ogromnego zestawu parametr\u00f3w sztucznej inteligencji aktualizowany jest jedynie niewielki, kluczowy podzbi\u00f3r. Ta technika, znana jako \u201cadaptacja niskiej rangi\u201d, zapewnia lekko\u015b\u0107 i szybko\u015b\u0107 dzia\u0142ania, zapewniaj\u0105c ogromny wzrost wydajno\u015bci z chirurgiczn\u0105 precyzj\u0105. W rzeczywisto\u015bci takie po\u0142\u0105czenie mo\u017ce sprawi\u0107, \u017ce sztuczna inteligencja b\u0119dzie dzia\u0142a\u0107 nawet sze\u015bciokrotnie lepiej ni\u017c w przypadku stosowania wy\u0142\u0105cznie uczenia si\u0119 w kontek\u015bcie.<\/p>\n<p>Aby jeszcze bardziej urozmaici\u0107 ten zestaw do szybkiego uczenia, naukowcy nie ograniczali si\u0119 do ponownego wykorzystania przyk\u0142ad\u00f3w w niezmienionej postaci. Urozmaicili dane, odwracaj\u0105c je, mieszaj\u0105c i modyfikuj\u0105c dane wej\u015bciowe, aby stworzy\u0107 jeszcze bogatszy zestaw. Szczeg\u00f3lnie godne uwagi jest to, \u017ce wszystkie te zmiany nast\u0119puj\u0105 dok\u0142adnie w momencie pojawienia si\u0119 nowego zadania, nie zak\u0142\u00f3caj\u0105c przy tym podstawowej wiedzy modelu. Oczywi\u015bcie to uczenie si\u0119 w czasie rzeczywistym mo\u017ce sprawi\u0107, \u017ce ka\u017cde zapytanie potrwa nieco d\u0142u\u017cej \u2013 na przyk\u0142ad minuta zamieni si\u0119 w dziesi\u0119\u0107 \u2013 ale korzy\u015bci\u0105 jest ogromny wzrost dok\u0142adno\u015bci, co ma najwi\u0119ksze znaczenie przy rozwi\u0105zywaniu szczeg\u00f3lnie z\u0142o\u017conych lub maj\u0105cych du\u017ce znaczenie zagadnie\u0144.<\/p>\n<h5>Jak mo\u017ce si\u0119 to dalej potoczy\u0107?<\/h5>\n<p>Zesp\u00f3\u0142 podda\u0142 swoj\u0105 metod\u0119 hybrydow\u0105 rygorystycznym testom, wykorzystuj\u0105c naprawd\u0119 trudne wyzwania \u2014 na przyk\u0142ad testy pe\u0142ne \u0142amig\u0142\u00f3wek sprawdzaj\u0105cych IQ i trudnych do wykrycia wzorc\u00f3w. Jakie by\u0142y wyniki? W zadaniach wymagaj\u0105cych subtelnego rozumowania lub interpretacji zupe\u0142nie nowych danych odnotowano wyra\u017an\u0105, mierzaln\u0105 popraw\u0119. Jak uj\u0105\u0142 to doktorant Mehul Damani, uczenie si\u0119 w kontek\u015bcie sprawdza si\u0119 w przypadku prostych zada\u0144, ale kiedy pozwala si\u0119 modelowi na bie\u017c\u0105co dostosowywa\u0107 si\u0119, to tak, jakby uczy\u0107 go zupe\u0142nie nowej umiej\u0119tno\u015bci na \u017c\u0105danie.<\/p>\n<p>Kolejny etap? Tworzenie modeli, kt\u00f3re potrafi\u0105 uczy\u0107 si\u0119 na bie\u017c\u0105co, samodzielnie decyduj\u0105c, czy trzyma\u0107 si\u0119 przyk\u0142ad\u00f3w, czy przej\u015b\u0107 do uczenia si\u0119 w czasie rzeczywistym \u2013 a wszystko to bez pomocy cz\u0142owieka. Je\u015bli uda si\u0119 to osi\u0105gn\u0105\u0107, b\u0119dzie to znacz\u0105cy krok w kierunku sztucznej inteligencji, kt\u00f3ra b\u0119dzie nie tylko pot\u0119\u017cniejsza, ale i rzeczywi\u015bcie m\u0105drzejsza oraz bardziej elastyczna.<\/p>\n<p>Badania te by\u0142y wynikiem wsp\u00f3\u0142pracy, wspieranej przez MIT-IBM Watson AI Lab oraz Narodow\u0105 Fundacj\u0119 Naukow\u0105 (NSF), a ich wyniki zostan\u0105 po raz pierwszy zaprezentowane podczas Mi\u0119dzynarodowej Konferencji po\u015bwi\u0119conej uczeniu maszynowemu. Szczeg\u00f3\u0142owe informacje techniczne mo\u017cna znale\u017a\u0107 w pe\u0142nym opisie bada\u0144 dost\u0119pnym pod adresem <a href=\"https:\/\/news.mit.edu\/2025\/study-could-lead-llms-better-complex-reasoning-0708\" target=\"_blank\" rel=\"noopener\">MIT News<\/a>.<\/p>","protected":false},"excerpt":{"rendered":"<p>Large language models have made major leaps in how computers understand and use human language\u2014you see their handiwork in everything from rapid-fire document summaries to instant translations and slick Q&#038;A bots. But as smart as they are, these models can hit a wall when faced with challenges that call for genuine reasoning or a touch of human logic. Imagine an AI that spins out financial summaries without breaking a sweat, but struggles if you ask it to sniff out suspicious transactions or predict where the market is headed next. The reason? Once these models are released into the wild, they [&hellip;]<\/p>\n","protected":false},"author":4,"featured_media":6295,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[47],"tags":[],"class_list":["post-6294","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-news","post--single"],"_links":{"self":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/6294","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/comments?post=6294"}],"version-history":[{"count":1,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/6294\/revisions"}],"predecessor-version":[{"id":6493,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/6294\/revisions\/6493"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media\/6295"}],"wp:attachment":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media?parent=6294"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/categories?post=6294"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/tags?post=6294"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}