Mehragenten-LLM-Komitees: Kollaps messen & diversitätsorientierter Konsens

In einer neuen Studie untersuchen Forscher, wie Multi‑Agenten‑LLM‑Komitees – also mehrere Instanzen desselben Modells, die unter unterschiedlichen Rollen‑Prompts arbeiten – ihre Ergebnisse durch Mehrheitsabstimmung zusammenführen. Dabei wird implizit angenommen, dass die Agenten ergänzende Beweise liefern.

Die Autoren haben die „Chain‑of‑Thought“-Rationale jedes Agenten in einen Vektor eingebettet und die paarweise Ähnlichkeit gemessen. Bei 100 Fragen aus dem GSM8K‑Datensatz mit drei Qwen2.5‑14B‑Agenten ergab sich ein mittlerer Kosinus‑Ähnlichkeitswert von 0,888 und ein effektiver Rang von 2,17 von 3,0 – ein Phänomen, das sie als „repräsentationskollaps“ bezeichnen.

Daraufhin stellen sie DALC vor, einen trainingsfreien Konsens‑Protokoll, das Diversitätsgewichte aus der Geometrie der Einbettungen berechnet. DALC erreicht 87 % Genauigkeit auf GSM8K, verglichen mit 84 % bei Self‑Consistency, und spart dabei 26 % an Token‑Kosten.

Durch Ablationsstudien zeigen die Forscher, dass die Lauf‑zu‑Lauf‑Varianz pro Protokoll 1–3 Punkte beträgt, dass das Teilen von Hinweisen mehr zur Leistungssteigerung beiträgt als die Diversitätsgewichtung allein, und dass die Wahl des Encoders die Schwere des Kollapses stark beeinflusst (Kosinus 0,908 mit mxbai vs. 0,888 mit nomic) sowie die Endergebnisse.

Die wichtigste Erkenntnis ist, dass der Kollaps messbar ist, bei schwierigeren Aufgaben zunimmt und die Auswahl des Einbettungs‑Proxys eine entscheidende Design‑Entscheidung für jedes latente Kommunikationsprotokoll darstellt.