Zwei‑Stufen‑Framework für verifizierte, zugängliche XAI‑Erklärungen

Moderne Sprachmodelle werden zunehmend eingesetzt, um die technischen Ergebnisse von erklärbaren KI‑Methoden in leicht verständliche Texte zu übersetzen. Dabei fehlt häufig eine Garantie für Genauigkeit, Treue und Vollständigkeit, und die Bewertung solcher Erklärungen bleibt meist subjektiv oder auf nachträgliche Scoring‑Methoden beschränkt.

Um diese Lücken zu schließen, stellt der Artikel ein Zwei‑Stufen‑Meta‑Verifikations‑Framework vor. Zunächst wandelt ein „Explainer“-LLM rohe XAI‑Ausgaben in natürliche Sprache um. Anschließend prüft ein „Verifier“-LLM die Erklärungen auf Treue, Kohärenz, Vollständigkeit und Halluzination. Durch einen iterativen Rückkopplungsmechanismus werden die Texte anhand des Feedbacks des Verifiers kontinuierlich verfeinert.

In Experimenten mit fünf verschiedenen XAI‑Techniken, mehreren Datensätzen und drei offenen LLM‑Familien zeigte sich, dass die Verifikation unerlässliche Filter für unzuverlässige Erklärungen liefert und gleichzeitig die sprachliche Zugänglichkeit gegenüber den Rohausgaben deutlich verbessert. Die Analyse der Entropieproduktionsrate verdeutlicht, dass das Feedback des Verifiers den Explainer systematisch zu stabileren und kohärenteren Erklärungen führt.

Das vorgestellte Framework bietet damit einen effizienten Weg zu vertrauenswürdigen und demokratisierten XAI‑Systemen, die sowohl technisch fundiert als auch für Endnutzer verständlich sind.