Neues XAI-Framework liefert formell garantierte, zielgerichtete Erklärungen

In sicherheitskritischen Bereichen wie autonomem Fahren und medizinischer Diagnose werden Deep‑Neural‑Networks immer häufiger eingesetzt. Damit die Entscheidungen dieser Systeme nachvollziehbar und vertrauenswürdig sind, benötigen Stakeholder Erklärungen, die nicht nur interpretierbar, sondern auch mit mathematischen Garantien versehen sind.

Aktuelle XAI‑Ansätze wie LIME oder Integrated Gradients zeigen zwar einflussreiche Merkmale auf, bieten jedoch keine formalen Sicherheitssicherungen. Formalistische Methoden hingegen prüfen die Robustheit, bleiben aber ungerichtet und analysieren lediglich die nächstgelegene Entscheidungsgrenze, ohne zu berücksichtigen, ob diese Grenze ein kritisches Risiko darstellt.

Das neue Framework ViTaX (Verified and Targeted Explanations) löst dieses Problem, indem es für ein gegebenes Eingabe‑Label y und ein vom Nutzer definiertes kritisches Alternativlabel t die minimalen Merkmals­untergruppen bestimmt, die am empfindlichsten für den Übergang y → t sind. Anschließend führt ViTaX eine formale Erreichbarkeitsanalyse durch, die garantiert, dass eine Störung dieser Merkmale um einen Betrag ε nicht zu einer Klassifikation in t führt. Dieser Ansatz wird als Targeted ε‑Robustness bezeichnet und liefert somit formell abgesicherte, zielgerichtete Erklärungen.

ViTaX ist damit die erste Methode, die explizit die Resilienz eines Modells gegenüber benutzerdefinierten Alternativklassen formal nachweist. In umfangreichen Tests auf MNIST, GTSRB, EMNIST und TaxiNet‑Datensätzen zeigte das System, dass es zuverlässig minimalistische, robuste Erklärungen liefern kann, die den Anforderungen sicherheitskritischer Anwendungen gerecht werden.