Neuro-Symbolische LLM-Agenten revolutionieren die Verifikation autonomer Systeme

In der heutigen Automatisierungsszene sind Deep‑Learning‑Modelle hervorragend darin, Anomalien in normalen Daten zu erkennen. Sie stoßen jedoch an ihre Grenzen, wenn es darum geht, diese Anomalien zu klassifizieren und skalierbar über verschiedene Steuerungssysteme hinweg zu arbeiten. Oft werden echte Fehler mit Störgeräuschen oder großen transienten Reaktionen verwechselt, was die Zuverlässigkeit von autonomen Systemen gefährdet.

Um diese Herausforderung zu meistern, hat ein internationales Forschungsteam das Konzept des Agent-Integrated Verification and Validation (AIVV) entwickelt. Dabei wird ein hybrides Framework eingesetzt, das Large Language Models (LLMs) als deliberativen äußeren Kontrollkreis nutzt. Durch die Kombination von mathematischer Anomalieerkennung mit semantischer Validierung in natürlicher Sprache entsteht ein robustes Verfahren, das die bisher manuelle, menschliche Analyse ersetzt.

Der Kern von AIVV ist ein spezialisierter LLM‑Rat, der von mathematisch identifizierten Anomalien beauftragt wird. Diese Agenten validieren gemeinsam, ob es sich um echte Fehler oder Störfälle handelt, indem sie die Vorfälle mit den in natürlicher Sprache formulierten Systemanforderungen abgleichen. Anschließend prüfen sie die Nachfolgereaktionen des Systems gegen die operativen Toleranzen und generieren konkrete V&V‑Artefakte wie Vorschläge zur Gain‑Tuning‑Optimierung.

In Experimenten mit einem Zeitreihen‑Simulator für unbemannte Unterwasserfahrzeuge (UUVs) konnte AIVV die bisherige Human‑in‑the‑Loop‑Verifikation vollständig digitalisieren. Das System übertraf regelbasierte Klassifikationsmethoden deutlich und zeigte, dass die Kombination aus neuronaler Erkennung und symbolischer Validierung die Effizienz und Genauigkeit der Systemverifikation erheblich steigert.

Die Ergebnisse deuten darauf hin, dass AIVV einen bedeutenden Schritt in Richtung vertrauenswürdiger autonomer Systeme darstellt. Durch die Automatisierung der Verifikation und Validierung können Entwickler schneller und zuverlässiger auf Fehler reagieren, was die Sicherheit und Skalierbarkeit moderner autonomer Plattformen nachhaltig verbessert.