Dateninterventionen für faire Untergruppen in der ICU: Neue Erkenntnisse

In hochriskanten Bereichen, in denen maschinelles Lernen Entscheidungen über Menschen trifft, kann algorithmischer Bias die Ungleichheit für bestimmte Untergruppen verschärfen. Die Ursache liegt häufig in den Trainingsdaten selbst.

Die Autoren untersuchten, wie zusätzliche Datenquellen – wie elektronische Gesundheitsakten aus verschiedenen Krankenhäusern – die Leistung von Modellen in der Intensivpflege beeinflussen. In zwei großen Datensätzen, dem eICU Collaborative Research Database und MIMIC‑IV, zeigte sich, dass mehr Daten nicht automatisch fairer werden: Mehr Stichproben können durch Verteilungsverschiebungen die Modellleistung für bestimmte Gruppen sogar verschlechtern.

Ein Vergleich von modellbasierten Post‑hoc‑Kalibrierungen und datenzentrierten Ergänzungsstrategien ergab, dass nur die Kombination beider Ansätze die Untergruppenleistung zuverlässig verbessert. Diese Ergebnisse stellen die weit verbreitete Annahme in Frage, dass „bessere Daten“ allein die Fairnessprobleme lösen.

Die Studie liefert wichtige Hinweise für die Entwicklung von KI‑Systemen im Gesundheitswesen und betont, dass sowohl Datenqualität als auch Modellanpassung gleichermaßen berücksichtigt werden müssen, um gerechte Entscheidungen zu gewährleisten.