Adaptive Theory of Mind verbessert Koordination von LLM-Agenten

Die Theorie des Geistes (Theory of Mind, ToM) beschreibt die Fähigkeit, über die mentalen Zustände anderer zu denken. In der KI-Forschung gilt es seit langem, LLM‑basierte Agenten mit ToM auszustatten, um ihre Zusammenarbeit in Mehragentensystemen zu optimieren.

Ein zentrales Problem ist die Unstimmigkeit der ToM‑Tiefe zwischen Agenten. Wenn ein Agent zu wenig oder zu viel über die Denkprozesse seines Partners nachdenkt, führt das zu unzureichender oder übermäßiger Analyse, was die Koordination stark beeinträchtigt.

Um diesem Problem zu begegnen, wurde ein adaptiver ToM‑Agent (A‑ToM) entwickelt. Der Agent schätzt anhand früherer Interaktionen die wahrscheinliche ToM‑Tiefe seines Partners und nutzt diese Schätzung, um dessen nächste Handlung vorherzusagen. Dadurch wird die Abstimmung des Verhaltens zwischen den Agenten deutlich erleichtert.

Die Wirksamkeit des A‑ToM wurde in vier Koordinationsaufgaben getestet: ein wiederholtes Matrixspiel, zwei Navigationsaufgaben in Gitterwelten und ein Overcooked‑Szenario. Die Ergebnisse bestätigten, dass die Ausrichtung der ToM‑Ordnung die Leistung verbessert und der adaptive Agent in allen Tests überlegen war.

Darüber hinaus wurde die Übertragbarkeit des Ansatzes auf nicht-LLM‑basierte Agenten diskutiert. Faktoren, die die Notwendigkeit einer ToM‑Ausrichtung verringern könnten, wurden ebenfalls erörtert, was die Breite der Anwendbarkeit des A‑ToM-Ansatzes unterstreicht.