Llama3-8b-Instruct erkennt eigene Texte – neue Erkenntnisse zur KI‑Sicherheit

Eine aktuelle Studie aus dem arXiv‑Repository zeigt, dass das Chat‑Modell Llama3‑8b‑Instruct in der Lage ist, seine eigenen Texte zuverlässig von menschlichen Texten zu unterscheiden. Das Basis‑Modell Llama3‑8b kann diese Unterscheidung nicht durchführen, was die besondere Rolle der Post‑Training‑Phase des Chat‑Modells unterstreicht.

Forscher haben einen speziellen Vektor im Residual‑Stream des Modells identifiziert, der bei korrekten Selbst‑Erkennungsentscheidungen aktiviert wird. Dieser Vektor reagiert auf Hinweise auf Selbst‑Autorschaft, steht in engem Zusammenhang mit dem Konzept des „Selbst“ im Modell und ist kausal für die Fähigkeit des Modells, seine eigene Autorenschaft wahrzunehmen und zu behaupten.

Durch gezielte Manipulation dieses Vektors lässt sich das Verhalten des Modells steuern: Wird der Vektor während der Textgenerierung angewendet, kann das Modell gezwungen werden, die eigene Autorenschaft zu bestätigen oder abzulehnen. Ebenso kann der Vektor auf bereits vorhandene Texte angewendet werden, um das Modell glauben zu lassen, es habe diese Texte selbst verfasst oder nicht.

Die Ergebnisse liefern wichtige Einblicke in die Selbstwahrnehmung von Sprachmodellen und eröffnen neue Möglichkeiten, die Sicherheit und Kontrolle von KI‑Systemen zu verbessern. Sie zeigen, dass selbst generierte Texte von Modellen erkannt und manipuliert werden können – ein entscheidender Schritt zur Entwicklung vertrauenswürdiger KI‑Anwendungen.