CAMA: Neue kollusiv-attacken im kooperativen Multi-Agenten-Lernen

In der Welt des kooperativen Multi-Agenten-Reinforcement-Learnings (c‑MARL) werden Systeme zunehmend in Bereichen wie sozialen Robotern, eingebetteter Intelligenz und UAV‑Swarms eingesetzt. Trotz dieser Fortschritte drohen sie weiterhin durch verschiedene Angriffe. Bisher konzentrierten sich Studien vor allem auf einzelne Angreifer oder White‑Box‑Methoden, die interne Beobachtungen oder Aktionen manipulieren.

Die neue Studie führt erstmals drei kollusiv‑adversarielle Angriffsmodi ein: Collective Malicious Agents, Disguised Malicious Agents und Spied Malicious Agents. Mit dem einheitlichen Rahmenwerk CAMA werden diese Angriffe auf Policy‑Ebene koordiniert. Die Autoren analysieren die Wirksamkeit theoretisch hinsichtlich Störung, Tarnung und Kosten und setzen die Angriffe technisch um, indem sie Beobachtungsfusion und angreifungsgetriggerte Steuerung nutzen.

Durch umfangreiche Experimente auf vier SMAC‑II‑Karten demonstriert die Arbeit, dass die drei Angriffsmodi eine additive Synergie erzeugen: die Angriffswirkung wird verstärkt, während die Tarnung und Stabilität über lange Zeiträume erhalten bleiben. Damit schließt die Studie eine wichtige Lücke im Bereich kollusiver Angriffe auf c‑MARL‑Systeme und liefert wertvolle Erkenntnisse für die Entwicklung robusterer Multi‑Agenten‑Anwendungen.