DynaTrust: Schutz von Multi-Agenten vor schlafenden Angreifern

Die neueste Veröffentlichung auf arXiv (2603.15661v1) stellt DynaTrust vor, eine innovative Verteidigungsstrategie für Multi-Agenten-Systeme (MAS), die auf großen Sprachmodellen basieren. DynaTrust begegnet dem bislang unterschätzten Bedrohungsszenario der „schlafenden Agenten“, die sich zunächst als harmlos verhalten und erst bei bestimmten Auslösern ihre böswilligen Absichten offenbaren.

Im Gegensatz zu bisherigen Ansätzen, die auf statischen Graphen oder hierarchischen Datenstrukturen beruhen, nutzt DynaTrust einen dynamischen Vertrauensgraphen (DTG). Dabei wird Vertrauen als kontinuierlicher, sich entwickelnder Prozess behandelt, der sich anhand der Historie jedes Agenten und der Einschätzung ausgewählter Expertenagenten ständig aktualisiert. Anstatt Agenten einfach zu blockieren, reorganisiert DynaTrust den Graphen eigenständig, isoliert kompromittierte Akteure und stellt gleichzeitig die Aufgabenverbindung wieder her, sodass die MAS weiterhin funktionsfähig bleibt.

Die Wirksamkeit von DynaTrust wurde anhand gemischter Benchmarks aus AdvBench und HumanEval getestet. Die Ergebnisse zeigen, dass DynaTrust die Erfolgsrate der Verteidigung gegenüber dem aktuellen Standard AgentShield um 41,7 % steigert und unter Angriffsbedingungen mehr als 86 % erreichen kann. Gleichzeitig senkt die Methode die Falsch-Positiv-Rate deutlich, was eine stabile und sichere Systemnutzung ohne unnötige Unterbrechungen ermöglicht.