Neues Post-Processing-Framework CAFP sorgt für faire ML-Vorhersagen

In der Welt des maschinellen Lernens ist Fairness bei Vorhersagen ein zentrales Anliegen, besonders in sensiblen Bereichen wie Kreditvergabe, Gesundheitswesen und Strafjustiz. Traditionelle Ansätze zur Förderung von Gerechtigkeit setzen häufig auf Datenvorverarbeitung oder spezielle Trainingsbeschränkungen, erfordern jedoch vollständige Kontrolle über das Modell und Zugang zu geschützten Merkmalen – Voraussetzungen, die in vielen realen Systemen nicht gegeben sind.

Das neue Verfahren Counterfactual Averaging for Fair Predictions (CAFP) bietet eine modellunabhängige Lösung, die nach dem Training angewendet wird. CAFP erzeugt für jede Eingabe eine kontrafaktische Variante, in der das sensible Attribut umgekehrt wird, und mittelt anschließend die Vorhersagen des ursprünglichen Klassifikators über die faktische und die kontrafaktische Instanz.

Eine theoretische Analyse zeigt, dass CAFP die direkte Abhängigkeit von geschützten Merkmalen vollständig eliminiert, die gegenseitige Information zwischen Vorhersagen und sensiblen Attributen reduziert und die durch die Anpassung entstehende Verzerrung gegenüber dem Originalmodell begrenzt. Unter milden Annahmen erreicht CAFP sogar perfekte demografische Parität und halbiert den Unterschied bei den gleichberechtigten Chancen (Equalized Odds) um mindestens die durchschnittliche kontrafaktische Verzerrung.

Damit stellt CAFP einen praktischen, leicht einsetzbaren Ansatz dar, um Fairness in bestehenden Machine‑Learning-Systemen zu verbessern, ohne die zugrunde liegende Modellarchitektur oder Trainingsdaten zu verändern.