ProToM: KI-Feedback fördert prosoziales Verhalten in Multi-Agent-Umgebungen

Menschen sind von Natur aus soziale Wesen, doch die Frage, wann und wie man anderen hilft, kann die Zusammenarbeit erschweren – besonders wenn eigene Ziele im Vordergrund stehen. Um dieses Problem zu lösen, entwickelt ein Forschungsteam ein KI-System, das gezieltes Feedback gibt, um prosoziales Verhalten zu fördern.

Das System, genannt ProToM, nutzt eine Theorie des Geistes, um die Ziele einzelner Agenten mithilfe bayesscher inverser Planung zu ermitteln. Anschließend wählt es Feedback aus, das den erwarteten Nutzen maximiert und dabei die ermittelten Zielverteilungen berücksichtigt. Dadurch erhält jeder Agent kontextsensitives Feedback, das genau auf seine Situation zugeschnitten ist.

In zwei Multi-Agent-Umgebungen – Doors, Keys, and Gems sowie Overcooked – wurde ProToM mit aktuellen Sprach- und Rechenmodellen verglichen. Die Ergebnisse zeigen, dass herkömmliche Modelle oft zu viel kommunizieren und die Aufgaben nicht effizient unterstützen. ProToM hingegen liefert präzises Feedback, steigert die Erfolgsquote, verkürzt die Aufgabendauer und wird von menschlichen Nutzern konsequent bevorzugt.