Sicherheitsgates versagen – Lipschitz-Ball-Verifikator überzeugt

Eine neue Untersuchung auf arXiv (2604.00072v1) stellt die Frage, ob Klassifikator-basierte Sicherheitsgates zuverlässig die Kontrolle über KI-Systeme behalten können, wenn diese sich über hunderte Iterationen selbst verbessern. Die Ergebnisse sind eindeutig: Alle getesteten Klassifikatoren – von MLPs über SVMs bis hin zu Random Forests, k‑NN, Bayesschen Modellen und tiefen Netzwerken – erfüllen die beiden notwendigen Bedingungen für sichere Selbstverbesserung nicht.

Die Studie prüfte 18 verschiedene Klassifikatorkonfigurationen auf einem selbstverbessernden neuronalen Controller mit 240 Dimensionen. Zusätzlich wurden drei sichere Reinforcement‑Learning‑Baselines (CPO, Lyapunov, Safety Shielding) getestet, die ebenfalls scheiterten. Die Ergebnisse gelten auch für mehrere MuJoCo‑Benchmark‑Umgebungen (Reacher‑v4, Swimmer‑v4, HalfCheetah‑v4) mit Dimensionen bis zu 1824. Selbst bei einer kontrollierten Trennung der Verteilungen bis zu Δs = 2,0 und 100 % Trainingsgenauigkeit blieben alle Klassifikatoren versagt – ein strukturelles Problem, das die Klassifikation selbst betrifft.

Im Gegensatz dazu demonstriert der Lipschitz‑Ball‑Verifikator eine völlig andere Herangehensweise: Er erzielt in allen getesteten Dimensionen (84 bis 17 408) eine Fehlannahme‑Rate von null, ohne dass zusätzliche Bedingungen nötig sind. Durch Ball‑Chaining kann er unbeschränkt Parameter‑Raum durchqueren und erzielt auf MuJoCo Reacher‑v4 einen Reward‑Zuwachs von +4,31 bei Δ = 0. Beim Feintuning von Qwen2.5‑7B‑Instruct über 200 Schritte wurden 42 Ketten‑Übergänge genutzt, die 234‑fach den Einzel‑Ball‑Radius überschreiten, ohne Sicherheitsverletzungen zu verursachen. Eine 50‑Prompt‑Oracle‑Bestätigung bestätigt die Oracle‑Agnostizität, und die kompositorische Verifikation ermöglicht Ränder bis zu 37‑fach größer als bei vollständigen Netz‑Bällen.

Die Studie zeigt klar, dass Klassifikator-basierte Sicherheitsgates strukturell nicht ausreichen, um KI‑Sicherheit bei selbstverbessernden Systemen zu gewährleisten. Der Lipschitz‑Ball‑Ansatz hingegen bietet eine robuste, analytisch belegte Lösung, die sowohl in klassischen Robotik‑Benchmarks als auch bei großen Sprachmodellen ohne Sicherheitsverletzungen funktioniert. Diese Erkenntnisse markieren einen wichtigen Schritt in Richtung verlässlicher KI‑Sicherheit und eröffnen neue Wege für die Entwicklung von sicheren, selbstverbessernden KI‑Systemen.