Neues Framework CCC verhindert Vergessens bei dynamischen Graphen

arXiv – cs.LG Original ≈1 Min. Lesezeit
Anzeige

In vielen realen Anwendungen verändern sich Graphen ständig – sei es bei sozialen Netzwerken, Verkehrsflüssen oder biologischen Systemen. Diese kontinuierlichen strukturellen Änderungen führen bei Graph Neural Networks (GNNs) zu einem sogenannten „catastrophischen Vergessen“, bei dem das Modell frühere Informationen verliert, sobald neue Knoten oder Kanten hinzukommen.

Um dieses Problem zu lösen, hat ein Forschungsteam ein neues Framework namens Condensation‑Concatenation‑based Continual Learning (CCC) entwickelt. CCC arbeitet in zwei Schritten: Zunächst werden historische Graph‑Snapshots in kompakte semantische Repräsentationen kondensiert, wobei die ursprüngliche Label‑Verteilung und die topologischen Eigenschaften erhalten bleiben. Anschließend werden diese historischen Embeddings selektiv mit den aktuellen Graph‑Repräsentationen konkateniert, sodass das Modell sowohl neue als auch alte Strukturen berücksichtigen kann.

Ein weiterer Beitrag von CCC ist die Überarbeitung des Vergessens‑Messwerts (Forgetting Measure, FM). Der neue FM quantifiziert die Leistungsverschlechterung bestehender Knoten, die durch strukturelle Updates verursacht wird, und passt sich dadurch besser dynamischen Graph‑Szenarien an.

In umfangreichen Experimenten auf vier realen Datensätzen hat CCC die Leistung gegenüber führenden Baselines deutlich verbessert. Die Ergebnisse zeigen, dass das Framework nicht nur das Vergessen reduziert, sondern auch die Gesamtleistung von GNNs in sich verändernden Netzwerken nachhaltig steigert.

Ähnliche Artikel