Pruning bei Vision‑Language‑Modellen: Sicherheitsrisiken durch Kompression

In einer aktuellen Studie von Forschern, die sich auf die Analyse von Vision‑Language‑Modellen (VLMs) spezialisiert haben, wird deutlich, dass die Kompression dieser Modelle – insbesondere durch Pruning – erhebliche Auswirkungen auf ihre Sicherheitsfunktionen haben kann. Durch den Einsatz von kausaler Kreisanalyse und vergleichenden Feature‑Analysen konnten die Autoren zeigen, dass Pruning zwar die Grundstruktur der neuronalen Schaltkreise weitgehend erhalten lässt, jedoch die internen Features rotiert und abschwächt. Im Gegensatz dazu führt Quantisierung zu einer stärkeren Umgestaltung der Schaltkreise auf höherer Ebene, lässt aber die verbleibenden Features besser ausgerichtet erscheinen.

Ein weiteres Highlight der Arbeit ist die Einführung des Benchmarks VLMSafe‑420. Dieser neue Testdatensatz kombiniert schädliche Eingaben mit passenden, harmlosen Gegenfakten über verschiedene Sicherheitskategorien hinweg. Durch die systematische Gegenüberstellung können Entwickler gezielt prüfen, ob VLMs in kritischen Situationen noch angemessen reagieren.

Die Ergebnisse sind alarmierend: Pruning führt zu einem deutlichen Rückgang der echten Ablehnungsreaktionen, also der Fähigkeit des Modells, unangemessene Anfragen zu verweigern. Dies unterstreicht, dass die Wahl der Kompressionstechnik nicht nur die Effizienz, sondern auch die Sicherheit von VLMs maßgeblich beeinflusst. Entwickler und Forscher sollten daher bei der Optimierung von Modellen besonders auf die Erhaltung von Sicherheitsmechanismen achten.