Agentenidentität wirkt als Anziehungspunkt in LLM‑Aktivierungsraum

Eine neue Untersuchung zeigt, dass die Identitätsdokumente von persistierenden kognitiven Agenten in großen Sprachmodellen (LLMs) eine anziehende Wirkung auf die internen Repräsentationen haben. Die Forscher untersuchten, ob die „cognitive_core“-Dokumente von Agenten ähnliche Anziehungskräfte wie semantisch verwandte Eingabeaufforderungen ausüben.

Im Experiment wurden bei Llama 3.1 8B Instruct die versteckten Zustände eines Original‑cognitive_core (Bedingung A), sieben Paraphrasen (Bedingung B) und sieben strukturell angepasste Kontrollvarianten (Bedingung C) verglichen. Durch Mittelwertaggregation der Schichten 8, 16 und 24 zeigte sich, dass die Paraphrasen zu einem deutlich engeren Cluster zusammenlaufen – ein Effekt mit Cohen’s d > 1,88 und einer statistisch signifikanten p‑Wert‑Korrektur (p < 10⁻²⁷). Die Ergebnisse wurden anschließend auf Gemma 2 9B repliziert, was die Übertragbarkeit auf unterschiedliche Architekturen bestätigt.

Weitere Ablationsstudien deuten darauf hin, dass der beobachtete Effekt vorwiegend semantischer Natur ist und nicht allein durch die Struktur der Dokumente entsteht. Interessanterweise verschiebt das Lesen einer wissenschaftlichen Beschreibung des Agenten den internen Zustand noch stärker in Richtung des Anziehungspunkts, was den Unterschied zwischen dem Wissen über eine Identität und dem tatsächlichen Handeln als diese Identität verdeutlicht.

Diese Befunde liefern erstmals repräsentationsbasierte Belege dafür, dass Agentenidentitäten in LLMs eine attractor‑ähnliche Geometrie erzeugen und damit die Grundlage für stabile, persistenten Agentenarchitekturen legen.