Dresden, Starnberg, 02. Aug. 2024 - BIOTEC Zentrum der TU Dresden arbeitet mit GROVER, einem neuen Large Language Model, um den Code des Lebens zu knacken...
Zum Hintergrund: DNA enthält die grundlegenden Informationen für das Leben. Zu verstehen, wie diese Informationen gespeichert und organisiert sind, war und ist eine der größten wissenschaftlichen Herausforderungen des letzten Jahrhunderts. Mit GROVER, einem neuen Large Language Model (großen Sprachmodell), das mit menschlicher DNA trainiert wurde, können Forschende nun versuchen, die in unserem Genom verborgenen komplexen Informationen zu entschlüsseln. Entwickelt von einem Team am Biotechnologischen Zentrum (BIOTEC) der Technischen Universität Dresden**, behandelt GROVER menschliche DNA wie Sprache und lernt seine Regeln und Zusammenhänge, um funktionale Informationen über die DNA-Sequenzen abzuleiten. Dieses neue Werkzeug, veröffentlicht in „Nature Machine Intelligence“, hat laut dem Bericht „das Potenzial, die Genomik zu revolutionieren und die personalisierte Medizin voranzutreiben.“ (1)
Seit der Entdeckung der Doppelhelix wird nach dem in der DNA verschlüsselten Wissen gesucht. 70 Jahre später ist klar, dass die in der DNA verborgenen Informationen vielschichtig sind. Nur 1-2 Prozent des Genoms bestehen aus Genen, den Sequenzen, die für Proteine codieren. DNA hat viele Funktionen, die über die Proteincodierung hinausgehen. Dr. Anna Poetsch, Forschungsgruppenleiterin am BIOTEC: „Einige Sequenzen regulieren Gene, andere dienen strukturellen Zwecken, die meisten Sequenzen erfüllen mehrere Funktionen gleichzeitig. Derzeit verstehen wir die Bedeutung des größten Teils der DNA nicht. Für die Bereiche außerhalb von Genen scheinen wir erst an der Oberfläche gekratzt zu haben. Hier können KI und Large Language Models helfen“.
DNA als Sprache Large Language Models wie GPT haben unser Verständnis von Sprache verändert. Ausschließlich mit Text trainiert, entwickelten die Sprachmodelle die Fähigkeit, die Sprache in vielen Kontexten zu nutzen. DNA ist der Code des Lebens. Warum sollte man sie deshalb laut Dr. Poetsch nicht wie eine Sprache behandeln? Das Team trainierte ein Large Language Model auf einem Referenz-Humangenom. Das resultierende Werkzeug namens GROVER, oder „Genome Rules Obtained via Extracted Representations" kann verwendet werden, um biologische Bedeutung aus der DNA zu extrahieren.
Künstlerische Darstellung des Large Language Models, das auf DNA-Sequenzen trainiert wurde. Quelle: © Magdalena Gonciarz, generiert mit Dall-E3.
(1) Quelle: Originalveröffentlichung , Melissa Sanabria, Jonas Hirsch, Pierre M. Joubert, and Anna R. Poetsch: DNA language model GROVER learns sequence context in the human genome. Nature Machine Intelligence (July 2024) . Externer Link: https://doi.org/10.1038/s42256-024-00872-0
"GROVER hat die Regeln der DNA gelernt. In Bezug auf Sprache sprechen wir über Grammatik, Syntax und Semantik. Für die DNA bedeutet dies, die Regeln der Sequenzen zu lernen, die Reihenfolge der Nukleotide und Sequenzen sowie deren Bedeutung. Ähnlich wie GPT-Modelle menschliche Sprachen lernen, hat GROVER im Grunde gelernt, DNA zu sprechen", beschreibt Dr. Melissa Sanabria, die Forscherin hinter dem Projekt.
Das Team zeigte, dass GROVER nicht nur die folgenden DNA-Sequenzen präzise vorhersagen kann, sondern auch verwendet werden kann, um Informationen biologischer Bedeutung aus Kontext zu extrahieren. So kann man z.B. den Start von Genen identifizieren oder Proteinbindungsstellen auf der DNA. GROVER lernt auch Prozesse, die allgemein als „epigenetisch“ gelten, also solche, die auf der DNA stattfinden und bisher nicht als „kodiert“ betrachtet werden. „Es ist faszinierend, dass wir durch das Training von GROVER allein mit der DNA-Sequenz, ohne zusätzliche funktionelle Daten, tatsächlich Informationen über die biologische Funktion extrahieren können. Für uns zeigt dies, dass die Funktion, einschließlich einiger epigenetischer Informationen, auch in der Sequenz codiert ist“, sagt Dr. Sanabria.
Das DNA-Wörterbuch ähnelt Sprache. Sie besteht aus vier Buchstaben, die Sequenzen bilden, und die Sequenzen tragen eine Bedeutung. "Im Gegensatz zu einer Sprache gibt es jedoch kein Konzept für Wörter“, so Dr. Poetsch. DNA besteht aus vier Buchstaben (A, T, G und C) und Genen, aber es gibt keine vordefinierten Sequenzen unterschiedlicher Länge, die sich zu Genen oder anderen bedeutungsvollen Sequenzen zusammensetzen.
Um GROVER zu trainieren, musste das Team zunächst ein DNA-Wörterbuch erstellen. Sie verwendeten einen Trick aus Kompressionsalgorithmen. „Dieser Schritt ist entscheidend und unterscheidet unser DNA-Sprachmodell von früheren Versuchen“, sagt Dr. Poetsch. Und weiter: „Wir haben das gesamte Genom analysiert und nach Buchstabenkombinationen gesucht, die am häufigsten vorkommen. Wir begannen mit zwei Buchstaben und durchsuchten die DNA immer wieder, um sie zu den häufigsten mehrbuchstabigen Kombinationen aufzubauen. Auf diese Weise haben wir in etwa 600 Zyklen die DNA in ‚Wörter‘ fragmentiert, die es GROVER ermöglichen, die nächste Sequenz am besten vorherzusagen“, erklärt Dr. Sanabria.
Das Versprechen der KI in der Genomik GROVER gibt die Möglichkeit, die verschiedenen Ebenen des genetischen Codes freizuschalten. DNA enthält wichtige Informationen darüber, was uns als Mensch ausmacht, unsere Krankheitsanfälligkeiten und unsere Reaktionen auf Behandlungen.
**Das Biotechnologische Zentrum (BIOTEC) wurde 2000 als zentrale wissenschaftliche Einrichtung der TU Dresden https://tu-dresden.de/ mit dem Ziel gegründet, modernste Forschungsansätze in der Molekular- und Zellbiologie mit den in Dresden traditionell starken Ingenieurwissenschaften zu verbinden. Seit 2016 ist das BIOTEC eines von drei Instituten der zentralen wissenschaftlichen Einrichtung Center for Molecular and Cellular Bioengineering (CMCB) der TU Dresden. Das BIOTEC nimmt eine zentrale Position in Forschung und Lehre im Forschungsschwerpunkt Molecular Bioengineering ein und verbindet zellbiologische, biophysikalische und bioinformatische Ansätze miteinander.
Querverweis:
Unser Blogpost > KI und GPU-Workload-Anforderungen: Storage mit HBM Memory im KI-Daten-Lebenszyklus
Unser Beitrag > Large Language Models (LLMs) und die Herausforderungen an die Speicherumgebung
Unser Beitrag > Datenzentrierte Unterstützung für Unternehmen zur KI-Einführung mit MAAP und MongoDB Atlas