Epistemische Unsicherheit als Kosten- und Qualitätsindikator für erklärbare KI

In einer neuen Studie aus dem arXiv-Repository wird gezeigt, dass epistemische Unsicherheit ein äußerst günstiges und zuverlässiges Maß für die Qualität von Post‑hoc-Erklärungen in künstlicher Intelligenz darstellt. Durch die Identifikation von Regionen, in denen die Entscheidungsgrenze schlecht definiert ist, lassen sich Instabilitäten und Unzuverlässigkeiten in den Erklärungen frühzeitig erkennen.

Die Autoren nutzen dieses Erkenntnisfeld für zwei praktische Anwendungsfälle: Erstens können Datenpunkte, bei denen die Unsicherheit hoch ist, gezielt an teurere, aber stabilere XAI‑Methoden weitergeleitet werden, während weniger unsichere Beispiele mit kostengünstigeren Verfahren erklärt werden. Zweitens ermöglicht die Unsicherheitsmessung das gezielte Aufschieben der Erklärungsgenerierung für stark unsichere Samples, wenn ein begrenztes Budget vorliegt.

Die Experimente erstrecken sich über vier tabellarische Datensätze, fünf unterschiedliche Modellarchitekturen und vier verschiedene XAI‑Methoden. Dabei wird eine starke negative Korrelation zwischen epistemischer Unsicherheit und Erklärungsstabilität festgestellt. Weiterhin trennt die Unsicherheit nicht nur stabile von instabilen Erklärungen, sondern auch treue von untreuen Erklärungen. Die Ergebnisse wurden zudem auf Bildklassifikationsaufgaben übertragen und zeigen, dass die Beobachtungen über die Datenart hinaus gelten.