GPT-2-Modelle zeigen 'Attention Sink': Mechanistische Analyse enthüllt Ursachen

In der Welt der Transformer‑Modelle tritt häufig ein Phänomen namens „Attention Sink“ auf: ein überproportional hoher Fokus auf die erste Position eines Eingabevektors. In einer neuen Untersuchung wurden GPT‑2‑ähnliche Architekturen mit lernbaren Query‑Biases und absoluten Positions‑Embeddings genauer analysiert.

Die Forscher kombinierten strukturelle Analysen mit gezielten Kausalinterventionen und testeten ihre Hypothesen an einer breiten Palette von Daten – von natürlicher Sprache über mathematische Ausdrücke bis hin zu Programmcode. Dadurch konnten sie die Ursachen des Attention Sinks systematisch isolieren.

Die Ergebnisse zeigen, dass das Phänomen aus der Wechselwirkung dreier Komponenten entsteht: (i) ein lernbarer Query‑Bias, (ii) die Transformation der Positionskodierung durch die erste MLP‑Schicht und (iii) die spezifische Struktur der Key‑Projection. Interessanterweise ist jede dieser Komponenten einzeln austauschbar; Modelle, die eine dieser Komponenten weglassen, zeigen dennoch Attention Sinks. Das deutet darauf hin, dass verschiedene Architekturen unterschiedliche „Zirkuit‑Pfad“ für das Phänomen nutzen.

Diese Erkenntnisse liefern wertvolle Hinweise für die Entwicklung von Gegenmaßnahmen gegen Attention Sinks und eröffnen zugleich neue Forschungsfragen darüber, warum solche Sinks in Transformer‑Modellen überhaupt entstehen.