Lokale virtuelle Knoten reduzieren Over‑Squashing in Graph‑Neural‑Netzwerken
In Graph‑Neural‑Netzwerken (GNNs) stellt das Phänomen des Over‑Squashing ein zentrales Hindernis dar: bei Aufgaben, die lange Wege zwischen Knoten erfordern, wird die Information aus weitreichenden Nachbarschaften zu stark komprimiert, sodass wichtige Signale verloren gehen. Damit die Netzwerke effektiv kommunizieren können, muss das rezeptive Feld groß genug sein, um entfernte Knoten zu erreichen, ohne dabei an Engpässen zu scheitern.
Gängige Lösungen wie Graph‑Rewiring oder das Hinzufügen virtueller Knoten schaffen zusätzliche Pfade, um die Engpässe zu umgehen. Diese Verfahren verändern jedoch die globale Topologie des Eingangsgraphen und können damit das in der ursprünglichen Struktur eingebettete Domänenwissen zerstören – ein Risiko, das besonders bei domänenspezifischen Anwendungen kritisch ist.
Die neue Methode, Local Virtual Nodes (LVN), bietet einen eleganteren Ansatz. LVNs werden an Stellen platziert, die durch Knotenzentralität auf potenzielle Engpässe hinweisen, und besitzen trainierbare Einbettungen, die über zentrale Regionen hinweg geteilt werden. Auf diese Weise wird die Konnektivität gezielt dort verbessert, wo sie am dringendsten benötigt wird, ohne die globale Struktur zu verfälschen oder zusätzliche Schichten einzuführen.
Umfangreiche Experimente auf Standard‑Benchmark‑Datensätzen zeigen, dass LVNs die strukturelle Konnektivität erhöhen und die Leistung bei Graph‑ und Knotenkategorisierung signifikant steigern. Der zugehörige Code ist frei verfügbar unter https://github.com/ALLab-Boun/LVN/. Die Arbeit wurde auf arXiv unter der Referenz 2508.20597v1 veröffentlicht.