Neuer Ansatz: CTD garantiert Kosten und Sicherheit bei LLM-Überwachung

Eine kürzlich veröffentlichte Studie auf arXiv präsentiert einen innovativen Ansatz zur Überwachung von Sprachmodellen, der sowohl Kosten als auch Sicherheit in Einklang bringt. Der Titel „Calibrate-Then-Delegate: Safety Monitoring with Risk and Budget Guarantees via Model Cascades“ beschreibt die Kernidee: ein zweistufiges System, das zunächst mit einem günstigen Prüfer alle Eingaben filtert und nur die problematischen Fälle an einen teureren Experten weiterleitet.

Derzeit setzen viele Modelle auf Unsicherheitsmessungen, um zu entscheiden, wann ein Input eskaliert werden soll. Diese Methode ist jedoch fehleranfällig, weil Unsicherheit nicht zwangsläufig bedeutet, dass ein Experte tatsächlich einen Fehler korrigieren kann. Das neue Verfahren, genannt Calibrate-Then-Delegate (CTD), nutzt stattdessen einen sogenannten Delegation Value (DV)-Probe, der direkt vorhersagt, ob die Eskalation einen Nutzen bringt.

CTD kalibriert einen Schwellenwert für den DV-Signalwert anhand von Hold‑Out-Daten und wendet dabei Techniken der multiplen Hypothesentestung an. Dadurch erhält man endlich‑Stichproben-Garantien für die Delegationsrate, was bedeutet, dass das System innerhalb eines vorgegebenen Budgets arbeitet, ohne die Sicherheit zu gefährden.

In Tests auf vier unterschiedlichen Sicherheitsdatensätzen hat CTD die herkömmliche Unsicherheitsbasierten Delegation bei jedem Budgetniveau übertroffen. Es verhindert übermäßige Eskalationen, passt die Budgetverteilung dynamisch an die Schwierigkeit der Eingaben an und benötigt dafür keine zusätzlichen Gruppierungslabels.

Die Ergebnisse zeigen, dass CTD ein vielversprechender Schritt in Richtung effizienter und verlässlicher Sicherheitssysteme für große Sprachmodelle ist. Durch die Kombination von Kostenkontrolle und probabilistischer Garantie bietet es einen robusten Rahmen, der in praktischen Anwendungen sofort eingesetzt werden kann.