Neue Analyse zeigt, wie Sicherheitsdaten zu falschen Ablehnungen führen

Die Feinabstimmung großer Sprachmodelle (LLMs) mit wiederholenden Sicherheitsdatensätzen führt häufig zu falschen Ablehnungen – also zu der Situation, dass harmlos wirkende Anfragen abgelehnt werden. Untersuchungen zeigen, dass Sicherheitsdaten deutlich geringere Token‑Entropie und 2‑Gram‑Vielfalt aufweisen, was die Vielfalt der Eingaben stark reduziert.

Um die Ursache zu verstehen, wurde FlowLens entwickelt, ein stabiles PCA‑basiertes Analysewerkzeug für die Geometrie der Residual‑Streams. FlowLens hat ergeben, dass Sicherheitsbeispiele die Varianz stark auf wenige Komponenten konzentrieren, wodurch die Repräsentationsglätte abnimmt und die Wahrscheinlichkeit für falsche Ablehnungen steigt – von 63 % auf 84 % bei einer Zunahme der Sicherheitsdaten von 0 % auf 40 %.

Auf Basis dieser Erkenntnisse wurde der Variance Concentration Loss (VCL) eingeführt, ein zusätzlicher Regularisierer, der übermäßige Varianzkonzentration in den mittleren Residuals bestraft. Experimentelle Ergebnisse zeigen, dass VCL die Rate falscher Ablehnungen um mehr als 35 Prozentpunkte senkt, während die Leistung auf allgemeinen Benchmarks wie MMLU und GSM8K gleich bleibt oder sogar verbessert wird.