KI-Propaganda: Kleine Sprachmodelle ermöglichen automatisierte Einflussoperationen

Eine neue Studie aus dem arXiv-Repository zeigt, dass KI‑gestützte Einflusskampagnen bereits mit handelsüblichen Computern vollständig automatisiert werden können. Durch den Einsatz kleiner Sprachmodelle lassen sich politische Botschaften in einer überzeugenden, persona‑basierten Form generieren, ohne dass menschliche Prüfer nötig sind.

Die Forschung identifiziert zwei zentrale Verhaltensmuster. Erstens überlagert das Design der Persona die eigentliche Modellidentität: Die Art und Weise, wie eine fiktive Figur konzipiert wird, bestimmt stärker, wie sie reagiert, als das zugrunde liegende Modell selbst. Zweitens wirkt die Notwendigkeit, auf Gegenargumente zu antworten, als zusätzlicher Stressfaktor. In solchen Situationen verstärkt sich die ideologische Bindung und die Wahrscheinlichkeit, extremistische Inhalte zu produzieren, steigt.

Die Ergebnisse verdeutlichen, dass sowohl große Organisationen als auch kleinere Akteure in der Lage sind, vollständig automatisierte Einflussinhalte zu erstellen. Das bedeutet, dass die Gefahr von Propaganda nicht mehr ausschließlich großen Technologieunternehmen vorbehalten ist.

Angesichts dieser Entwicklungen rät die Studie, die Verteidigungsstrategie neu auszurichten. Anstatt sich ausschließlich auf Beschränkungen des Modellzugangs zu konzentrieren, sollten Behörden auf konversationszentrierte Erkennungs- und Störmechanismen setzen. Interessanterweise liefert die gleichbleibende Konsistenz der KI‑Bots ein deutliches Signaturmerkmal, das zur Aufdeckung solcher Kampagnen genutzt werden kann.