CARE: Neue Methode für sichere Textgenerierung in Echtzeit

Mit der zunehmenden Nutzung von großen Sprachmodellen (LLMs) in realen Anwendungen wird die Sicherheit der generierten Inhalte immer wichtiger. Traditionelle Dekodierungsinterventionen, wie Contrastive Decoding, führen häufig zu einem harten Kompromiss zwischen Sicherheit und Antwortqualität.

Das neue CARE‑Framework löst dieses Problem, indem es drei zentrale Komponenten kombiniert: Erstens ein Echtzeit‑Sicherheitsmonitor, der potenziell gefährliche Inhalte sofort erkennt. Zweitens ein Rollback‑Mechanismus mit einem Token‑Puffer, der unsichere Ausgaben frühzeitig korrigiert, ohne die Nutzererfahrung zu stören. Drittens eine introspektive Intervention, bei der das Modell selbstkritische Reflexionen seiner vorherigen Ausgaben erzeugt und diese in den Kontext einbindet, um die nachfolgenden Decodierungsschritte zu steuern.

Durch die präzise Interventionssteuerung des Guard‑Modells, die zeitnahe Korrektur des Rollbacks und die effektive Selbstkorrektur der introspektiven Methode erzielt CARE ein deutlich besseres Gleichgewicht zwischen Sicherheit, Qualität und Effizienz. Experimentelle Ergebnisse zeigen einen niedrigen Anteil schädlicher Antworten, minimale Unterbrechungen für den Nutzer und gleichzeitig hohe Antwortqualität.