Neues Netzwerk: Untergruppen-Equivariante Modelle via Symmetriebrechung

Symmetrie als inhärente Struktur in Daten – sei es bei Gittern, Mengen oder Graphen – wirkt sich positiv auf die Generalisierung aus. In der Praxis werden jedoch oft starre, vorab festgelegte Gleichheitsbedingungen in Modellen implementiert, sodass sie nur für eine bestimmte Symmetriegruppe funktionieren. Dieses Vorgehen verhindert die Entwicklung von vielseitigen, multimodalen Basismodellen, die unterschiedliche Daten gleichwertig verarbeiten können.

Die Autoren stellen das Any‑Subgroup Equivariant Network (ASEN) vor, ein einziges Modell, das gleichzeitig zu mehreren Gruppen equivariant sein kann. Durch die modulierte Einbeziehung eines Hilfsfeatures wird ein vollständig permutations‑equivariantes Grundmodell zu einem Untergruppen‑equivarianten Netzwerk. Der Schlüssel liegt in der Verwendung eines „Symmetriebrechungs“-Inputs, dessen Automorphismusgruppe genau die gewünschte Untergruppe ist.

Die Suche nach einem Input mit exakt der gewünschten Automorphismusgruppe ist jedoch rechnerisch schwierig. ASEN löst dieses Problem, indem es von exakter zu approximierter Symmetriebrechung übergeht und die Idee der 2‑Closure nutzt, um schnelle Algorithmen zu entwickeln. Theoretisch kann das Netzwerk equivariantere MLPs simulieren, und seine Universalität folgt aus der Universalität des Basismodells.

In praktischen Tests zeigte ASEN überzeugende Ergebnisse: Bei Graph‑ und Bildaufgaben konnte das Netzwerk die Symmetrieauswahl selbstständig bestimmen, während es bei Sequenzaufgaben in Multi‑Task‑ und Transfer‑Learning‑Szenarien sowohl einzelne equivariant Modelle als auch ein nicht‑equivariantes Modell übertraf. Das Ergebnis ist ein flexibles, leistungsfähiges Modell, das die Grenzen herkömmlicher Gleichheitsarchitekturen sprengt.