Mehr als ein Wort: Diversifiziert Unlernen verbessert Text‑zu‑Bild‑Modelle

In der Welt der Text‑zu‑Bild‑Diffusionsmodelle gewinnt das Konzept des Unlearnings zunehmend an Bedeutung. Ziel ist es, schädliche Inhalte zu verhindern, indem unerwünschte Konzepte gezielt aus den Modellparametern entfernt werden.

Traditionell wird dabei auf Schlüsselwörter zurückgegriffen, um das zu lösende Konzept zu identifizieren. Diese Vorgehensweise stößt jedoch an Grenzen: Ein visuelles Konzept ist vielschichtig, lässt sich in vielen unterschiedlichen Textformen ausdrücken und überschneidet sich häufig mit verwandten Konzepten im latenten Raum. Ein einzelnes Schlüsselwort erfasst daher nur einen engen Punkt des gesamten semantischen Spektrums und führt zu ungenauen, manchmal sogar fehlerhaften Löschungen.

Um diese Schwächen zu überwinden, schlägt die neue Methode „Diversifiziertes Unlernen“ vor, ein Konzept durch eine Sammlung kontextuell vielfältiger Prompt‑Kombinationen darzustellen. Diese reichhaltigere Repräsentation ermöglicht ein präziseres und robusteres Entfernen von unerwünschten Inhalten.

Umfangreiche Experimente an mehreren Benchmarks zeigen, dass die Integration von Diversifiziertem Unlernen in bestehende Pipelines zu einer stärkeren Auslöschung führt, gleichzeitig unberührte Konzepte besser erhalten bleiben und die Modelle widerstandsfähiger gegen Angriffe zur Wiederherstellung des gelöschten Inhalts werden.