BiScale‑GTR: Neuer Graph‑Transformer für molekulare Mehrskalenanalyse

Graph‑Transformer haben in den letzten Monaten die Aufmerksamkeit für die Vorhersage molekularer Eigenschaften geweckt, indem sie die strukturellen Vorurteile von Graph‑Neural‑Networks (GNNs) mit dem globalen Wahrnehmungsfeld von Transformers kombinieren. Viele bestehende Hybrid‑Architekturen bleiben jedoch stark GNN‑dominiert, sodass die erzeugten Repräsentationen vorwiegend von lokaler Nachrichtenübermittlung geprägt sind. Zudem arbeiten die meisten Methoden nur auf einer einzigen strukturellen Granularität, was die Erfassung von Mustern über mehrere molekulare Skalen hinweg erschwert.

BiScale‑GTR stellt ein einheitliches, selbstüberwachtes Lernframework vor, das chemisch fundierte Fragment‑Tokenisierung mit adaptiver Mehrskalen‑Logik verbindet. Durch eine verbesserte Graph‑Byte‑Pair‑Encoding‑Tokenisierung werden konsistente, chemisch gültige und hochabdeckende Fragment‑Tokens erzeugt, die als Eingabe für eine parallele GNN‑Transformer‑Architektur dienen. Atom‑level‑Repräsentationen, die vom GNN gelernt werden, werden zu fragment‑level‑Embeddings zusammengefasst und mit den Fragment‑Token‑Embeddings vor dem Transformer‑Reasoning fusioniert. Auf diese Weise kann das Modell gleichzeitig lokale chemische Umgebungen, substruktur‑bezogene Motive und langfristige molekulare Abhängigkeiten erfassen.

In umfangreichen Experimenten auf MoleculeNet, PharmaBench und dem Long‑Range‑Graph‑Benchmark (LRGB) erzielt BiScale‑GTR einen Stand‑der‑Kunst‑Leistungsgewinn bei Klassifikations‑ und Regressionsaufgaben. Eine Attribution‑Analyse zeigt, dass das Modell chemisch bedeutende Funktionsmotive hervorhebt, was die Interpretierbarkeit der Vorhersagen deutlich verbessert.