Effizientes Agenten-Routing mit Ameisenkolonie-Optimierung

Large‑Language‑Modelle (LLMs) haben Multi‑Agent‑Systeme (MAS) in der komplexen Problemlösung und im Tool‑Einsatz revolutioniert. Durch die Kombination heterogener Agentenpool‑Strukturen lässt sich das Verhältnis von Qualität zu Kosten weiter optimieren. In der Praxis stoßen diese Systeme jedoch häufig an Grenzen: Hohe Inferenzkosten, lange Latenzzeiten und mangelnde Transparenz erschweren eine skalierbare und effiziente Einsatz‑Routierung.

Aktuelle Routing‑Ansätze setzen meist kostenintensive LLM‑Selektoren oder statische Richtlinien ein und bieten kaum Kontrolle über semantisch bedingte Pfadwahl bei dynamischen Lasten und gemischten Intentionen. Das Ergebnis sind oft instabile Leistungen und ineffiziente Ressourcennutzung.

AMRO‑S präsentiert einen neuen, effizienten und nachvollziehbaren Routing‑Rahmen für MAS. Er modelliert die Pfadwahl als semantisch konditioniertes Auswahlproblem und nutzt drei Kernmechanismen: Erstens ein feinabgestimmtes, kleines Sprachmodell zur Intent‑Inference, das einen leichten semantischen Schnittpunkt für jede Anfrage schafft. Zweitens werden Routing‑Speicher in aufgaben‑spezifische „Pheromon‑Spezialisten“ aufgeteilt, um Interferenzen zwischen Aufgaben zu reduzieren und die Pfadwahl unter gemischten Arbeitslasten zu optimieren. Drittens sorgt ein qualitätsgesteuertes, asynchrones Update‑System dafür, dass Lernprozesse von der Inferenz getrennt bleiben, wodurch die Latenz unverändert bleibt. Umfangreiche Tests an fünf öffentlichen Benchmarks sowie Hochlast‑Stresstests zeigen, dass AMRO‑S das Qualität‑Kosten‑Verhältnis konsequent verbessert und damit die Skalierbarkeit von LLM‑gestützten Multi‑Agent‑Systemen deutlich erhöht.