Die Landschaft der computergest\u00fctzten Biologie hat sich in den letzten Jahren dank der Einf\u00fchrung von Protein-Sprachmodellen dramatisch ver\u00e4ndert. In Anlehnung an gro\u00dfe Sprachmodelle (LLMs) haben diese leistungsstarken Werkzeuge ein besonderes Gesp\u00fcr daf\u00fcr bewiesen, die Struktur und Funktion von Proteinen mit beeindruckender Pr\u00e4zision vorherzusagen. Sie bieten ein breites Anwendungsspektrum, das vom Aufsp\u00fcren potenzieller Wirkstoffziele bis hin zur Entwicklung zukunftsweisender therapeutischer Antik\u00f6rper reicht.<\/p>\n
Doch es war ein bitters\u00fc\u00dfer Erfolg. Trotz ihrer bahnbrechenden Beitr\u00e4ge litten diese Modelle traditionell unter mangelnder Transparenz. Bislang hatten Wissenschaftler Schwierigkeiten zu verstehen, wie genau diese Modelle ihre Vorhersagen generieren oder welche spezifischen Eigenschaften eines Proteins sie dabei ber\u00fccksichtigen. Doch dank der j\u00fcngsten Bem\u00fchungen von Forschern am MIT neigt sich diese \u00c4ra der Ungewissheit nun dem Ende zu.<\/p>\n
Ein Forschungsteam am Labor f\u00fcr Informatik und K\u00fcnstliche Intelligenz (CSAIL) des MIT unter der Leitung von Bonnie Berger, Simons-Professorin f\u00fcr Mathematik und Leiterin der Forschungsgruppe \u201eComputation and Biology\u201c, hat eine Methode vorgestellt, mit der sich die inneren Mechanismen dieser leistungsstarken Modelle entschl\u00fcsseln lassen. Laut einer Studie, die in der Proceedings of the National Academy of Sciences<\/em>, k\u00f6nnte dieses neu gewonnene Verst\u00e4ndnis Wissenschaftlern dabei helfen, Modelle f\u00fcr bestimmte Aufgaben effektiver auszuw\u00e4hlen und zu optimieren, wodurch die Geschwindigkeit der Wirkstoffforschung und der Impfstoffentwicklung gesteigert w\u00fcrde.<\/p>\n Wie funktionieren diese Protein-Sprachmodelle also? Man kann sie sich wie LLMs wie ChatGPT vorstellen, nur dass sie statt menschlicher Sprache Aminos\u00e4uresequenzen analysieren. Sie werden eingesetzt, um vorherzusagen, wie sich Proteine falten, miteinander interagieren und funktionieren. Im Jahr 2018 stellten Berger und ihr ehemaliger Student Tristan Bepler eines der ersten dieser Modelle vor und ebneten damit den Weg f\u00fcr sp\u00e4tere bahnbrechende Modelle wie AlphaFold, ESM2 und OmegaFold.<\/p>\n Eine der herausragendsten Anwendungen kam 2021 zum Tragen, als Bergers Team ein Proteinmodell nutzte, um Abschnitte von Virusproteinen zu identifizieren, bei denen Mutationen unwahrscheinlich waren. Diese entscheidenden Erkenntnisse trugen dazu bei, potenzielle Impfstoffziele f\u00fcr schwer zu bek\u00e4mpfende Viren wie HIV, Influenza und SARS-CoV-2 zu identifizieren. Die Modelle blieben jedoch gewisserma\u00dfen eine \u201eBlack Box\u201c \u2013 Wissenschaftler konnten zwar das Ergebnis beobachten, hatten aber keinen Einblick in den Prozess, der dazu f\u00fchrte.<\/p>\n Um Aufschluss \u00fcber den Entscheidungsprozess innerhalb von Proteinmodellen zu gewinnen, nutzte das MIT-Team eine Methode, die als \u201eSparse Autoencoder\u201c bekannt ist \u2013 eine Technik, die mittlerweile zur Interpretation von LLMs eingesetzt wird, bisher jedoch noch nicht auf Proteinmodelle angewendet wurde. Seltsamerweise stellt ein Proteinmodell Daten in der Regel mit einer begrenzten Anzahl von Knoten dar, beispielsweise 480. Da diese Knoten dicht mit Daten gef\u00fcllt sind, ist es praktisch unm\u00f6glich zu bestimmen, was jeder einzelne Knoten darstellt. \u201eSparse Autoencoder\u201c erleichtern dies, indem sie die Darstellung auf eine viel gr\u00f6\u00dfere Anzahl von Knoten, beispielsweise 20.000, erweitern. Diese Erweiterung erm\u00f6glicht in Verbindung mit einer Sparsity-Beschr\u00e4nkung eine Streuung der Daten und vereinfacht so den Prozess der Isolierung und Interpretation einzelner Merkmale.<\/p>\n Diese Verwendung sp\u00e4rlicher Darstellungen hat neue Erkenntnisse zutage gef\u00f6rdert. Nachdem die Forscher sp\u00e4rliche Darstellungen verschiedener Proteine generiert hatten, setzten sie einen von Anthropic entwickelten KI-Assistenten namens Claude ein, um die Daten zu interpretieren. Dabei zeigte sich, dass bestimmte Knotenpunkten bestimmten biologischen Merkmalen entsprechen. Neben der Vorhersage der Ergebnisse ist es nun auch m\u00f6glich zu verstehen, warum das Modell eine bestimmte Vorhersage trifft. Interessanterweise stellten die Forscher fest, dass einige biologische Merkmale h\u00e4ufiger kodiert wurden als andere. \u201cAuch ohne dass das Modell auf Interpretierbarkeit trainiert wurde, ergibt sich dies ganz nat\u00fcrlich, wenn die Sparsit\u00e4t gef\u00f6rdert wird\u201d, r\u00e4umt Onkar Gujral ein, der Hauptautor der Studie und Doktorand am MIT.<\/p>\n Dieser Fortschritt hat nicht nur erhebliche Auswirkungen auf den Bereich der Biologie, sondern reicht auch dar\u00fcber hinaus. Da nun klar ist, welche Merkmale ein Proteinmodell kodiert, k\u00f6nnen Wissenschaftler Modelle besser auf spezifische Forschungsaufgaben abstimmen oder die Eingabedaten verfeinern, um die Vorhersagen zu verbessern, was m\u00f6glicherweise zu neuen biologischen Erkenntnissen f\u00fchrt, die ausschlie\u00dflich auf dem Modellverhalten basieren. \u201cSobald die Modelle leistungsf\u00e4higer werden, besteht die M\u00f6glichkeit, allein durch die Analyse dieser Modelle mehr \u00fcber die Biologie zu erfahren, als derzeit bekannt ist\u201d, bemerkt Gujral.<\/p>\n Diese bahnbrechende Studie wurde von den National Institutes of Health gef\u00f6rdert. Sie stellt einen bedeutenden und entscheidenden Schritt in Richtung Transparenz und effizienter Nutzung von KI in der Biologie dar.<\/p>\n