Krajobraz biologii obliczeniowej został w ostatnich latach radykalnie przekształcony dzięki pojawieniu się modeli języka białek. Zapożyczone z dużych modeli językowych (LLM), te solidne narzędzia wykazały talent do przewidywania struktury i funkcji białek z imponującą precyzją. Oferują one szeroki zakres zastosowań, od wykrywania potencjalnych celów leków po pionierskie przyszłe przeciwciała terapeutyczne.
Było to jednak słodko-gorzkie zwycięstwo. Pomimo ich transformacyjnego wkładu, modele te tradycyjnie cierpiały z powodu braku przejrzystości. Do tej pory naukowcy starali się zrozumieć, w jaki sposób modele te generują swoje prognozy lub jakie konkretne cechy białka biorą pod uwagę w tym procesie. Jednak ta era niepewności dobiega końca dzięki niedawnym wysiłkom naukowców z MIT.
Zespół badawczy z Laboratorium Informatyki i Sztucznej Inteligencji (CSAIL) przy MIT, kierowany przez Bonnie Berger – profesor matematyki im. Simonsa i kierowniczkę grupy ds. obliczeń i biologii – zaprezentował metodę pozwalającą na rozszyfrowanie wewnętrznych mechanizmów działania tych zaawansowanych modeli. Jak wynika z badania opublikowanego w Proceedings of the National Academy of SciencesTo nowo odkryte zrozumienie może pomóc naukowcom skuteczniej wybierać i dostosowywać modele do konkretnych zadań, zwiększając tym samym tempo odkrywania leków i opracowywania szczepionek.
Jak więc działają te modele językowe białek? Można je porównać do modeli LLM, takich jak ChatGPT, z tą różnicą, że zamiast przetwarzać język ludzki, analizują sekwencje aminokwasów. Wykorzystuje się je do przewidywania sposobu, w jaki białka się fałdują, oddziałują ze sobą i funkcjonują. W 2018 roku Berger i jej były student Tristan Bepler zaprezentowali jeden z pierwszych tego typu modeli, torując drogę dla późniejszych przełomowych rozwiązań, takich jak AlphaFold, ESM2 i OmegaFold.
Jedno z najbardziej znaczących zastosowań miało miejsce w 2021 roku, kiedy zespół Bergera wykorzystał model białkowy do zidentyfikowania fragmentów białek wirusowych, które z małym prawdopodobieństwem ulegną mutacji. Ta kluczowa informacja pomogła wskazać potencjalne cele szczepionkowe dla groźnych wirusów, takich jak HIV, grypa i SARS-CoV-2. Modele te pozostawały jednak w pewnym sensie „czarną skrzynką” – naukowcy mogli obserwować wynik, ale nie mieli wglądu w proces, który do niego prowadził.
Aby rzucić światło na proces podejmowania decyzji w modelach białkowych, zespół z MIT wykorzystał metodę znaną jako „rzadki autoenkoder” – technikę stosowaną obecnie do interpretacji modeli językowych wielkiej skali (LLM), która dotychczas nie była stosowana w modelach białkowych. Co ciekawe, model białkowy zazwyczaj reprezentuje dane za pomocą ograniczonej liczby węzłów, powiedzmy 480. Ponieważ węzły te są gęsto wypełnione danymi, praktycznie niemożliwe jest ustalenie, co reprezentuje każdy z nich. Rzadkie autoenkoderzy ułatwiają to zadanie, rozszerzając reprezentację na znacznie większy zbiór węzłów, np. 20 000. To zwiększenie liczby węzłów, w połączeniu z ograniczeniem rzadkości, umożliwia rozproszenie danych, upraszczając proces izolowania i interpretacji poszczególnych cech.
Takie wykorzystanie reprezentacji rzadkich pozwoliło na uzyskanie nowych spostrzeżeń. Po wygenerowaniu reprezentacji rzadkich różnych białek naukowcy skorzystali z asystenta AI o nazwie Claude, opracowanego przez firmę Anthropic, aby ułatwić interpretację danych. Okazało się, że konkretne węzły odpowiadają określonym cechom biologicznym. Oprócz przewidywania wyników możliwe jest teraz zrozumienie, dlaczego model formułuje daną prognozę. Co ciekawe, naukowcy odkryli, że niektóre cechy biologiczne są kodowane częściej niż inne. “Nawet bez specjalnego szkolenia pod kątem interpretowalności cecha ta ujawnia się naturalnie, gdy sprzyja się rzadkości”, przyznaje Onkar Gujral, główny autor badania i doktorant na MIT.
Postęp ten ma nie tylko istotne znaczenie dla dziedziny biologii, ale wykracza również poza nią. Dzięki jasności co do tego, jakie cechy koduje dany model białkowy, naukowcy mogą lepiej dopasowywać modele do konkretnych zadań badawczych lub udoskonalać dane wejściowe w celu poprawy prognoz, co potencjalnie może prowadzić do nowych spostrzeżeń biologicznych opartych wyłącznie na zachowaniu modelu. “Gdy modele staną się bardziej zaawansowane, pojawi się możliwość odkrycia nowych zjawisk biologicznych, wykraczających poza obecny stan wiedzy, po prostu poprzez analizę tych modeli” – zauważa Gujral.
Ten kamień milowy badania został poparty przez National Institutes of Health. Zapewnia to znaczący i kluczowy krok w kierunku przejrzystości i efektywnego wykorzystania sztucznej inteligencji w biologii.
Więcej szczegółów można znaleźć w oryginalnym artykule opublikowanym na MIT News: https://news.mit.edu/2025/researchers-glimpse-inner-workings-protein-language-models-0818
Ta strona używa plików cookie.