GLEaN: Mit Portraits Biases von Text‑zu‑Bild‑Modellen sichtbar machen

In einer Zeit, in der Text‑zu‑Bild‑Modelle wie Stable Diffusion XL immer mehr Bilder für die Öffentlichkeit erzeugen, stellt GLEaN (Generative Likeness Evaluation at N‑Scale) ein neues Verfahren vor, das die versteckten Vorurteile dieser Systeme anschaulich macht. Durch die Kombination von automatisierter Bildgenerierung, Gesichtspunkte‑basiertem Filtern und Median‑Pixel‑Komposition entsteht ein einzelnes Portrait, das die zentrale Tendenz eines Modells für einen bestimmten Identitätsprompt zusammenfasst.

Der Ansatz besteht aus drei Schritten: Erst wird in großem Umfang Bilder zu vorgegebenen Identitätsprompten erzeugt. Anschließend werden die Bilder anhand von Gesichtspunkten gefiltert und räumlich ausgerichtet, um Verzerrungen zu minimieren. Schließlich wird ein Median‑Pixel‑Bild erstellt, das die häufigste Bilddarstellung des Modells repräsentiert. Dieses Portrait kann ohne statistisches Vorwissen verstanden werden – ein Betrachter sieht sofort, wie ein Modell „einen Arzt“ oder „einen Verbrecher“ visualisiert.

Bei einer Demonstration mit Stable Diffusion XL und 40 sozialen sowie beruflichen Identitätsprompten zeigte GLEaN bekannte Vorurteile und enthüllte neue Zusammenhänge zwischen Hautfarbe und erwarteter Emotion. In einer Nutzerstudie mit 291 Teilnehmern konnten die Portraits Biases genauso deutlich vermitteln wie herkömmliche Datentabellen, dafür aber deutlich schneller.

Ein großer Vorteil von GLEaN ist, dass es ausschließlich auf generierten Ausgaben basiert. Dadurch lässt es sich auf jedes Black‑Box‑System anwenden, ohne Zugriff auf die internen Gewichte zu benötigen. Das Verfahren bietet somit eine skalierbare, modellunabhängige Möglichkeit, die Bias‑Struktur von Text‑zu‑Bild‑Modellen transparent zu machen und dem breiten Publikum zugänglich zu machen.