KI‑Epidemiologie: Erklärbare KI durch Expertenüberwachung

Ein neues Konzept namens KI‑Epidemiologie bietet einen systematischen Weg, um fortschrittliche KI‑Systeme zu überwachen und zu erklären. Dabei werden Methoden der Bevölkerungs‑Surveillance – ähnlich denen, die Epidemiologen nutzen, um öffentliche Gesundheitsmaßnahmen zu steuern – auf die Ausgaben von KI‑Modellen angewendet. So wird das Problem der Modellkomplexität umgangen, das herkömmliche Interpretationsansätze wie SHAP oder mechanische Interpretierbarkeit bei großen Modellen erschwert.

Der Kern des Ansatzes ist die standardisierte Erfassung von Interaktionen zwischen KI und Experten in drei strukturierten Feldern: Risikoniveau, Ausrichtungs‑Score und Genauigkeits‑Score. Diese Felder fungieren als Expositionsvariablen, die statistisch mit Ausfallraten der KI‑Ausgaben korrelieren – vergleichbar mit Cholesterin oder Blutdruck, die Herzinfarkten vorhersagen. Die daraus abgeleiteten Zusammenhänge werden anschließend anhand von Experten‑Overrides und realen Ergebnissen validiert.

Ein großer Vorteil ist, dass Experten keine zusätzlichen Aufgaben übernehmen müssen. Das System zeichnet automatisch Audit‑Spuren, indem es die Übereinstimmung oder Abweichung von KI‑Empfehlungen im Vergleich zu Expertenentscheidungen passiv verfolgt. Da die Analyse sich ausschließlich auf die Ausgaben konzentriert und nicht auf interne Modellberechnungen, bleibt die Governance konsistent, auch wenn Modelle aktualisiert oder Anbieter gewechselt werden.

Darüber hinaus liefert KI‑Epidemiologie Zuverlässigkeits‑Scores und semantische Bewertungen – etwa „Diese Empfehlung entspricht 500 Fällen, die von Experten wegen Richtlinienverstößen übergangen wurden“. Damit können Fachkräfte und Institutionen problematische KI‑Ausgaben frühzeitig erkennen und verhindern, dass sie Schaden anrichten.