S\u0142ysza\u0142e\u015b ju\u017c o wielkich modelach j\u0119zykowych (LLM), takich jak ChatGPT? To prawdziwe cuda techniki, kt\u00f3re potrafi\u0105 b\u0142yskawicznie napisa\u0107 esej, zaproponowa\u0107 pomys\u0142y na posi\u0142ki, a nawet pom\u00f3c w tworzeniu wiadomo\u015bci e-mail. Jednak mimo \u017ce s\u0105 niesamowite, historycznie nie radzi\u0142y sobie zbyt dobrze z trudnymi zadaniami, takimi jak rozwi\u0105zywanie problem\u00f3w, zw\u0142aszcza w matematyce lub z\u0142o\u017conym rozumowaniu. Ta wada staje si\u0119 jednak coraz mniejszym problemem.<\/p>\n
Nadchodzi nowa fala modeli LLM, zwanych modelami rozumowania, kt\u00f3re wykazuj\u0105 znaczn\u0105 popraw\u0119 w radzeniu sobie ze z\u0142o\u017conymi zadaniami. Modele te, w przeciwie\u0144stwie do swoich poprzednik\u00f3w, kt\u00f3re w du\u017cym stopniu opiera\u0142y si\u0119 na wzorcach j\u0119zykowych w celu odgadni\u0119cia odpowiedzi, stosuj\u0105 bardziej przemy\u015blane, krok po kroku strategie, podobnie jak robi\u0142by to cz\u0142owiek.<\/p>\n
Co wi\u0119cej, naukowcy z Instytutu Bada\u0144 nad M\u00f3zgiem im. McGovern\u00f3w przy MIT zauwa\u017cyli uderzaj\u0105ce podobie\u0144stwo w sposobie, w jaki ludzie i te nowe modele podchodz\u0105 do trudnych zada\u0144. Co ciekawe, odkryli oni, \u017ce zadania wymagaj\u0105ce od ludzi najwi\u0119kszego wysi\u0142ku umys\u0142owego s\u0105 r\u00f3wnie\u017c tymi, kt\u00f3re wymagaj\u0105 najwi\u0119kszego obci\u0105\u017cenia obliczeniowego od modeli rozumowania. Doprowadzi\u0142o to do powstania nowej koncepcji: \u201ckoszt my\u015blenia\u201d wykracza poza podzia\u0142 na cz\u0142owieka i maszyn\u0119.<\/p>\n
To nieco nieoczekiwane porozumienie doprowadzi\u0142o do tego, \u017ce zesp\u00f3\u0142 MIT pod kierownictwem profesora nadzwyczajnego Evelina Fedorenko<\/a> nieoczekiwanie. Tw\u00f3rcy tych modeli zazwyczaj skupiaj\u0105 si\u0119 na opracowaniu systemu, kt\u00f3ry dzia\u0142a sprawnie i zapewnia dok\u0142adne wyniki w r\u00f3\u017cnych warunkach, a nie na na\u015bladowaniu ludzkich proces\u00f3w poznawczych. Dlatego te\u017c po\u0142\u0105czenie wysi\u0142k\u00f3w cz\u0142owieka i maszyny okaza\u0142o si\u0119 nieoczekiwanym, ale ekscytuj\u0105cym odkryciem.<\/p>\n Modele te w gruncie rzeczy nadal s\u0105 sztucznymi sieciami neuronowymi \u2013 systemami, kt\u00f3re ucz\u0105 si\u0119 poprzez analiz\u0119 danych i rozpoznawanie wzorc\u00f3w. Wyr\u00f3\u017cniaj\u0105 si\u0119 one jednak na tle swoich poprzednik\u00f3w, poniewa\u017c zajmuj\u0105 si\u0119 bardziej z\u0142o\u017conymi zadaniami poznawczymi, takimi jak zadania matematyczne czy programowanie. Kluczow\u0105 innowacj\u0105 jest ich podej\u015bcie do rozwi\u0105zywania problem\u00f3w: modele te dziel\u0105 problemy na mniejsze cz\u0119\u015bci, co znacznie poprawia ich wydajno\u015b\u0107.<\/p>\n In\u017cynierowie wykorzystuj\u0105 r\u00f3wnie\u017c uczenie si\u0119 przez wzmocnienie do szkolenia tych modeli, nagradzaj\u0105c poprawne odpowiedzi i karz\u0105c te b\u0142\u0119dne. Z czasem model uczy si\u0119 odkrywa\u0107 \u015bcie\u017cki rozwi\u0105zywania problem\u00f3w, kt\u00f3re cz\u0119\u015bciej prowadz\u0105 do trafnych wniosk\u00f3w, na\u015bladuj\u0105c procesy poznawcze zbli\u017cone do ludzkich. Ta tradycyjna metoda, cho\u0107 trwalsza ni\u017c procesy stosowane we wcze\u015bniejszych modelach LLM, znacznie poprawia dok\u0142adno\u015b\u0107.<\/p>\nCzym wi\u0119c wyr\u00f3\u017cniaj\u0105 si\u0119 modele wnioskowania?<\/h5>\n