Mehr Tokens, weniger Engpässe: GNNs & LLMs revolutionieren GraphQA

Die Kombination von Graph Neural Networks (GNNs) mit Large Language Models (LLMs) eröffnet neue Möglichkeiten für Graph Question Answering (GraphQA). Ein zentrales Problem bleibt jedoch die effiziente Einbettung komplexer graphischer Strukturen in den latenten Raum der LLMs. Traditionelle Ansätze wie G‑Retriever nutzen meist ein einzelnes Token, das durch aggressive Mittelwert‑Pooling entsteht, was zu einem starken Informationsengpass führt.

In der vorliegenden Arbeit werden zwei Wege zur Beseitigung dieses Engpasses untersucht. Erstens wird die Bandbreite der Graph‑zu‑LLM‑Schnittstelle durch Multi‑Token‑Pooling erhöht, sodass mehrere lernbare Tokens die graphischen Daten repräsentieren. Zweitens wird die semantische Qualität des Encoders durch globale Aufmerksamkeitsmechanismen verbessert. Dabei werden verschiedene hierarchische Pruning‑ und Clustering‑Pooling‑Operatoren wie Top‑k, SAGPool, DiffPool, MinCutPool und Virtual Node Pooling (VNPool) evaluiert.

Die Experimente zeigen, dass das Pooling zunächst zu Instabilitäten bei der Soft‑Prompt‑Tuning‑Phase führt. Durch den Einsatz von Low‑Rank Adaptation (LoRA) lassen sich jedoch insbesondere VNPool und Pruning‑Methoden stabilisieren, während dichtes Clustering weiterhin herausfordernd bleibt. Mit dieser Stabilisierung erreichen die komprimierten Repräsentationen nahezu die Leistung von Vollgraph‑Baselines, etwa 73 % Hit@1 auf dem WebQSP‑Datensatz.

Konzeptionell lässt sich ein Graph‑Transformer mit VNPool als ein einzelnes Layer‑Perceiver‑IO‑Encoder‑Modell interpretieren, was die theoretische Grundlage für die beobachteten Ergebnisse liefert. Diese Erkenntnisse markieren einen wichtigen Schritt hin zu effizienteren und skalierbareren GraphQA‑Systemen.