Kausale Feature‑Engineering mit Multi‑Agent Reinforcement Learning

In einer bahnbrechenden Veröffentlichung stellen Forscher das neue CAFE‑Framework vor, das automatisiertes Feature‑Engineering (AFE) durch kausale Leitlinien und Multi‑Agent Reinforcement Learning revolutioniert.

Aktuelle AFE‑Methoden beruhen meist auf statistischen Heuristiken, was zu fragilen Merkmalen führt, die bei Verteilungssprüngen schnell versagen. CAFE begegnet diesem Problem, indem es die Feature‑Erstellung als kausal geführten Entscheidungsprozess modelliert.

Der Ansatz gliedert sich in zwei Phasen. Phase I ermittelt ein spärliches gerichtetes azyklisches Graphenmodell, das weiche kausale Vorannahmen liefert und Features in direkte, indirekte oder sonstige Gruppen einteilt. Phase II nutzt eine kaskadierende Multi‑Agent Deep‑Q‑Learning‑Architektur, um kausale Gruppen und Transformationsoperatoren auszuwählen. Hierbei kommen hierarchische Belohnungsformungen und kausal orientierte Explorationsstrategien zum Einsatz, die kausal plausible Transformationen bevorzugen und gleichzeitig die Feature‑Komplexität kontrollieren.

Auf 15 öffentlichen Benchmarks erzielt CAFE bis zu 7 % bessere Ergebnisse als starke AFE‑Baselines – sowohl bei Klassifikations‑Macro‑F1 als auch bei Regressions‑inverse relative absolute error. Zudem reduziert es die Anzahl der Episoden bis zur Konvergenz, erreicht konkurrenzfähige Laufzeiten und verringert bei kontrollierten Kovariatenverschiebungen den Leistungsabfall um etwa das Vierfache im Vergleich zu einem nicht‑kausalen Multi‑Agent‑Baseline. Die resultierenden Feature‑Sätze sind kompakter und weisen stabilere post‑hoc‑Attributionswerte auf.

Diese Ergebnisse unterstreichen, dass kausale Strukturen als weiche induktive Vorannahmen die Robustheit und Effizienz automatisierter Feature‑Engineering‑Methoden erheblich steigern können.