Empfehlungsschreiben verraten noch immer Geschlecht – KI-Analyse enthüllt Bias

Eine neue Studie von Forschern auf arXiv zeigt, dass Empfehlungsschreiben (LoRs) trotz Entfernung von Namen und Pronomen noch immer geschlechtsspezifische Hinweise enthalten. Die Ergebnisse sind erstaunlich und werfen ein Schlaglicht auf ein bislang wenig beachtetes Bias‑Problem.

Die Forscher setzten drei moderne KI‑Modelle – DistilBERT, RoBERTa und Llama 2 – ein, um das Geschlecht der Bewerber anhand anonymisierter LoRs zu bestimmen. Die Modelle erreichten bis zu 68 % Genauigkeit, was deutlich über dem Zufallsniveau liegt und damit beweist, dass die Texte noch immer erkennbare Muster aufweisen.

Durch Analyse mit TF‑IDF und SHAP wurden typische sprachliche Muster identifiziert, die als Geschlechtsindikatoren fungieren. Wörter wie „emotional“ oder „humanitarian“, die häufiger in Schreiben von weiblichen Bewerbern vorkommen, tauchen dabei besonders häufig auf.

Die Autoren entfernten gezielt diese impliziten Hinweise und beobachteten einen Rückgang der Erkennungsgenauigkeit um bis zu 5,5 % und des F1‑Scores um 2,7 %. Dennoch blieb die Vorhersageleistung über dem Zufallniveau, was zeigt, dass die Neutralisierung von LoRs schwieriger ist, als es zunächst scheint.

Die Ergebnisse unterstreichen, dass Empfehlungsschreiben schwer zu neutralisieren sind und potenziell Bias in Einstellungs‑ und Zulassungsentscheidungen auslösen können. Die Studie liefert einen ersten technischen Ansatz, fordert aber weitere Untersuchungen zur Rolle von Geschlecht in der Bewertung von LoRs.