Sicherere große Sprachmodelle: Entscheidung vor Chain-of-Thought stärkt Sicherheit

Große Sprachmodelle, die mit der Chain-of-Thought (CoT)-Technik arbeiten, haben in den letzten Jahren beeindruckende Fortschritte erzielt. Gleichzeitig zeigen neueste Untersuchungen, dass diese erweiterten Denkfähigkeiten die Sicherheit der Modelle stark beeinträchtigen.

Die Autoren des neuen Papers haben herausgefunden, dass die Sicherheitsprobleme erst auftreten, wenn die CoT-Funktion aktiviert wird. Sobald CoT deaktiviert ist, bleibt die Sicherheit unverändert – ein Hinweis darauf, dass die Problematik eng mit dem Denkprozess selbst verknüpft ist.

Um dem entgegenzuwirken, schlagen die Forscher einen Ansatz vor, bei dem das Modell zunächst eine Sicherheitsentscheidung trifft, bevor es mit der CoT-Generierung beginnt. Dazu wird ein auf BERT basierender Klassifikator eingesetzt, der Sicherheitssignale aus einem sicheren, CoT-gesperrten Modell extrahiert. Diese Signale dienen als zusätzliche Supervision, sodass die Sicherheitsgradienten direkt in die latenten Repräsentationen des Modells einfließen und die Entscheidungsfähigkeit vor dem eigentlichen Denkprozess gestärkt wird.

Umfangreiche Experimente zeigen, dass dieser Ansatz die Sicherheitsleistung der Modelle deutlich verbessert, ohne die allgemeine Leistungsfähigkeit beim logischen Denken zu beeinträchtigen. Damit wird ein vielversprechender Schritt in Richtung vertrauenswürdiger, leistungsfähiger KI‑Modelle dargestellt.