EchoGuard: KI-Framework erkennt manipulative Kommunikation dank Wissensgraph

Manipulative Kommunikation – von Gaslighting über Schuldzuweisungen bis hin zu emotionaler Zwangs­ausübung – bleibt für viele Menschen schwer erkennbar. Traditionelle agentische KI‑Systeme verfügen zwar über Lern‑ und Entscheidungsfähigkeiten, aber ihre begrenzten Kontextfenster und das Phänomen des katastrophalen Vergessens verhindern, dass sie subtile, kontextabhängige Manipulationsmuster langfristig verfolgen können.

Mit dem neuen Framework EchoGuard wird dieses Problem angegangen. Das System nutzt einen Wissensgraphen (KG) als zentrale episodische und semantische Speicherstruktur. Interaktionen werden von den Nutzern protokolliert und in Form von Knoten und Kanten – die Ereignisse, Emotionen und Sprecher repräsentieren – in einen persönlichen, episodischen KG eingebettet.

Im Kern arbeitet EchoGuard nach einem strukturierten Log‑Analyze‑Reflect‑Loop: Erst werden die Gespräche erfasst, anschließend führen komplexe Graphabfragen die Erkennung von sechs psychologisch fundierten Manipulationsmustern aus, die in einem semantischen KG gespeichert sind. Auf Basis des erkannten Subgraphen generiert ein großes Sprachmodell (LLM) gezielte, sokratische Fragen, die den Nutzer zur Selbstreflexion anregen und ihm helfen, manipulative Signale zu erkennen.

Die Kombination aus agentischer Architektur und Wissensgraphen ermöglicht es EchoGuard, langfristige, kontextreiche Analysen durchzuführen und gleichzeitig die persönliche Autonomie und Sicherheit der Nutzer zu wahren. Das Framework wird durch eine umfassende theoretische Fundierung, ein detailliertes Design und eine geplante Evaluationsstrategie untermauert und soll in zukünftigen Studien validiert werden.