MAPCA: Ein einheitlicher Ansatz für skalierungsinvariante Repräsentationslernen

Die neue Methode Metric‑Aware Principal Component Analysis (MAPCA) bietet ein umfassendes Rahmenwerk für skalierungsinvariante Repräsentationslernen. Durch die Lösung eines generalisierten Eigenproblems maximiert MAPCA die Tracenorm von W^T Σ W unter der Nebenbedingung W^T M W = I, wobei M eine symmetrische, positiv definite Metrik ist. Die Wahl von M bestimmt die Geometrie der erzeugten Darstellung.

Eine besonders interessante Variante ist die beta‑Familie M(β)=Σ^β mit β∈[0,1]. Sie ermöglicht einen kontinuierlichen Übergang zwischen klassischem PCA (β = 0) und Output‑Whitening (β = 1). Dabei sinkt die Konditionszahl κ(β)=(λ₁/λ_p)^(1‑β) monoton, sodass die Darstellung mit zunehmendem β immer isotroper wird. Für β=1 entspricht die Methode exakt dem Barlow‑Twins‑Ansatz und der ZCA‑Whitening‑Technik.

Ein weiterer Schwerpunkt liegt auf der diagonalen Metrik M=D=diag(Σ), die das Invariant PCA (IPCA) reproduziert – eine Methode, die auf der klassischen Diagonalregression von Frisch (1928) basiert. IPCA erfüllt die Bedingung der Skalierungsinvarianz exakt, weil die Metrik unter einer Skalierung C transformiert als M̃=C M C. Diese Eigenschaft gilt jedoch nicht für die mittleren Werte der beta‑Familie.

MAPCA schafft zudem eine geometrische Brücke zu mehreren selbstüberwachten Lernzielen. Während Barlow Twins und ZCA Whitening dem Output‑Whitening (β = 1) entsprechen, wird der Varianzterm von VICReg durch die diagonale Metrik modelliert. Interessanterweise zeigt die Analyse, dass die Methode W‑MSE, die als whitening‑basiert beschrieben wird, tatsächlich der Metrik M=Σ⁻¹ (β = ‑1) entspricht – ein Ansatz, der außerhalb des Spektral‑Kompressionsbereichs liegt und in die entgegengesetzte Spektralrichtung führt. Diese Unterscheidung zwischen Input‑ und Output‑Whitening bleibt auf der Ebene der Verlustfunktion unsichtbar.

Insgesamt liefert MAPCA ein flexibles, mathematisch fundiertes Konzept, das die Kontrolle über Spektralbias, Skalierungsinvarianz und die Verbindung zu modernen selbstüberwachten Lernmethoden ermöglicht. Die Arbeit eröffnet neue Perspektiven für die Entwicklung robuster, skalierungsunabhängiger Feature‑Darstellungen in der Praxis.