Krajobraz biologii obliczeniowej zosta\u0142 w ostatnich latach radykalnie przekszta\u0142cony dzi\u0119ki pojawieniu si\u0119 modeli j\u0119zyka bia\u0142ek. Zapo\u017cyczone z du\u017cych modeli j\u0119zykowych (LLM), te solidne narz\u0119dzia wykaza\u0142y talent do przewidywania struktury i funkcji bia\u0142ek z imponuj\u0105c\u0105 precyzj\u0105. Oferuj\u0105 one szeroki zakres zastosowa\u0144, od wykrywania potencjalnych cel\u00f3w lek\u00f3w po pionierskie przysz\u0142e przeciwcia\u0142a terapeutyczne.<\/p>\n
By\u0142o to jednak s\u0142odko-gorzkie zwyci\u0119stwo. Pomimo ich transformacyjnego wk\u0142adu, modele te tradycyjnie cierpia\u0142y z powodu braku przejrzysto\u015bci. Do tej pory naukowcy starali si\u0119 zrozumie\u0107, w jaki spos\u00f3b modele te generuj\u0105 swoje prognozy lub jakie konkretne cechy bia\u0142ka bior\u0105 pod uwag\u0119 w tym procesie. Jednak ta era niepewno\u015bci dobiega ko\u0144ca dzi\u0119ki niedawnym wysi\u0142kom naukowc\u00f3w z MIT.<\/p>\n
Zesp\u00f3\u0142 badawczy z Laboratorium Informatyki i Sztucznej Inteligencji MIT (CSAIL), kierowany przez Bonnie Berger, profesor matematyki Simons i szefow\u0105 grupy Computation and Biology, ujawni\u0142 metod\u0119 rozszyfrowania wewn\u0119trznych mechanizm\u00f3w tych pot\u0119\u017cnych modeli. Wed\u0142ug bada\u0144 opublikowanych w czasopi\u015bmie Proceedings of the National Academy of Sciences<\/em>To nowo odkryte zrozumienie mo\u017ce pom\u00f3c naukowcom skuteczniej wybiera\u0107 i dostosowywa\u0107 modele do konkretnych zada\u0144, zwi\u0119kszaj\u0105c tym samym tempo odkrywania lek\u00f3w i opracowywania szczepionek.<\/p>\n Jak wi\u0119c dzia\u0142aj\u0105 te modele j\u0119zyka bia\u0142ek? Pomy\u015bl o nich jak o modelach LLM, takich jak ChatGPT, ale zamiast przetwarza\u0107 ludzki j\u0119zyk, analizuj\u0105 sekwencje aminokwas\u00f3w. Zosta\u0142y one wykorzystane do przewidywania sposobu sk\u0142adania, interakcji i funkcjonowania bia\u0142ek. W 2018 roku Berger i jej by\u0142y student Tristan Bepler wprowadzili jeden z pierwszych takich modeli, przecieraj\u0105c szlaki dla p\u00f3\u017aniejszych prze\u0142omowych modeli, takich jak AlphaFold, ESM2 i OmegaFold.<\/p>\n Jedno z wyr\u00f3\u017cniaj\u0105cych si\u0119 zastosowa\u0144 mia\u0142o miejsce w 2021 r., kiedy zesp\u00f3\u0142 Bergera wykorzysta\u0142 model bia\u0142kowy do wskazania sekcji bia\u0142ek wirusowych, kt\u00f3re prawdopodobnie nie ulegn\u0105 mutacji. Te krytyczne informacje pomog\u0142y zidentyfikowa\u0107 potencjalne cele szczepionek dla gro\u017anych wirus\u00f3w, takich jak HIV, grypa i SARS-CoV-2. Modele pozostawa\u0142y jednak w pewnym sensie czarn\u0105 skrzynk\u0105 - naukowcy mogli obserwowa\u0107 wynik, ale nie mieli wgl\u0105du w proces, kt\u00f3ry do niego prowadzi\u0142.<\/p>\n Aby rzuci\u0107 \u015bwiat\u0142o na proces podejmowania decyzji w modelach bia\u0142kowych, zesp\u00f3\u0142 MIT wykorzysta\u0142 metod\u0119 znan\u0105 jako sparse autoencoder, technik\u0119 stosowan\u0105 obecnie do interpretacji LLM, kt\u00f3ra wcze\u015bniej nie by\u0142a stosowana w modelach bia\u0142kowych. Co ciekawe, model bia\u0142kowy zwykle reprezentuje dane z ograniczon\u0105 liczb\u0105 w\u0119z\u0142\u00f3w, powiedzmy 480. Poniewa\u017c w\u0119z\u0142y te s\u0105 g\u0119sto wype\u0142nione danymi, praktycznie niemo\u017cliwe jest okre\u015blenie, co ka\u017cdy z nich reprezentuje. Rzadkie autoenkodery u\u0142atwiaj\u0105 to poprzez rozszerzenie reprezentacji do znacznie wi\u0119kszego zestawu w\u0119z\u0142\u00f3w, na przyk\u0142ad 20 000. Ten wzrost, wraz z ograniczeniem rzadko\u015bci, umo\u017cliwia rozproszenie danych, upraszczaj\u0105c proces izolowania i interpretowania poszczeg\u00f3lnych funkcji.<\/p>\n Wykorzystanie rzadkich reprezentacji pozwoli\u0142o odkry\u0107 nowe spostrze\u017cenia. Po wygenerowaniu rzadkich reprezentacji r\u00f3\u017cnych bia\u0142ek, naukowcy wykorzystali asystenta AI o imieniu Claude, opracowanego przez Anthropic, aby pom\u00f3c w interpretacji danych. Okaza\u0142o si\u0119, \u017ce okre\u015blone w\u0119z\u0142y odpowiadaj\u0105 okre\u015blonym cechom biologicznym. Opr\u00f3cz przewidywania wynik\u00f3w, mo\u017cliwe jest teraz zrozumienie, dlaczego model dokonuje okre\u015blonej prognozy. Co ciekawe, naukowcy odkryli, \u017ce niekt\u00f3re cechy biologiczne s\u0105 cz\u0119\u015bciej kodowane ni\u017c inne. \"Nawet bez szkolenia w zakresie interpretowalno\u015bci, pojawia si\u0119 ona naturalnie, gdy zach\u0119ca si\u0119 do rzadko\u015bci\", przyznaje Onkar Gujral, g\u0142\u00f3wny autor badania i doktorant na MIT.<\/p>\n Post\u0119p ten ma nie tylko znacz\u0105ce implikacje dla dziedziny biologii, ale tak\u017ce wykracza poza ni\u0105. Maj\u0105c jasno\u015b\u0107 co do tego, jakie cechy koduje model bia\u0142ka, naukowcy mog\u0105 lepiej dopasowa\u0107 modele do konkretnych zada\u0144 badawczych lub udoskonali\u0107 dane wej\u015bciowe w celu poprawy prognoz, potencjalnie prowadz\u0105c w ten spos\u00f3b do nowych spostrze\u017ce\u0144 biologicznych opartych wy\u0142\u0105cznie na zachowaniu modelu. \"Gdy modele stan\u0105 si\u0119 pot\u0119\u017cniejsze, istnieje potencja\u0142, aby odkry\u0107 wi\u0119cej biologii ni\u017c to, co jest obecnie znane, po prostu analizuj\u0105c te modele\" - zauwa\u017ca Gujral.<\/p>\n Ten kamie\u0144 milowy badania zosta\u0142 poparty przez National Institutes of Health. Zapewnia to znacz\u0105cy i kluczowy krok w kierunku przejrzysto\u015bci i efektywnego wykorzystania sztucznej inteligencji w biologii.<\/p>\n