GNN-as-Judge: LLMs als Schiedsrichter revolutionieren Graph-Lernen bei wenig Daten

In einer bahnbrechenden Studie zeigen die Autoren, dass große Sprachmodelle (LLMs) bei textattributierten Graphen (TAGs) dank ihrer ausgeprägten semantischen Analysekraft hervorragende Ergebnisse erzielen können. Das Problem liegt jedoch in der geringen Verfügbarkeit von gelabelten Knoten, was das Feintuning von LLMs erschwert.

Um diese Herausforderung zu meistern, präsentiert das Paper das neue Framework GNN-as-Judge. Es kombiniert die strukturelle Vorurteilskraft von Graph Neural Networks (GNNs) mit der Sprachkompetenz von LLMs, um in wenigen Trainingsbeispielen zuverlässige Pseudo‑Labels zu generieren und gleichzeitig Rauschen zu reduzieren.

Der Ansatz nutzt eine kollaborative Pseudo‑Labeling‑Strategie: Zunächst werden die am stärksten von gelabelten Knoten beeinflussten unlabelten Knoten identifiziert. Anschließend werden Übereinstimmungs‑ und Diskrepanzen zwischen LLMs und GNNs ausgewertet, um verlässliche Labels zu erzeugen. Ein zusätzlich entwickelter, schwach‑überwachter Feintuning‑Algorithmus distilliert das Wissen aus diesen Labels und minimiert gleichzeitig potenziellen Label‑Noise.

Experimentelle Ergebnisse auf mehreren TAG‑Datensätzen belegen, dass GNN-as-Judge die bestehenden Methoden deutlich übertrifft – besonders in ressourcenarmen Szenarien, in denen gelabelte Daten knapp sind. Diese Innovation eröffnet neue Wege für effizientes Graph‑Learning mit minimalem Datenaufwand.