KI muss sich offenbaren: Transparenz als Verhaltensnorm in Chatbots

Mit der zunehmenden Realitätsnähe von Sprach- und Text‑Chatbots wächst die Unsicherheit der Nutzer, ob sie mit einem Menschen oder einer KI interagieren. Diese Unklarheit kann dazu führen, dass sensible Informationen ungewollt preisgegeben, unkritisch auf KI‑Erklärungen vertraut oder sogar Opfer von KI‑gestütztem Betrug werden. Ein generelles Fehlen von Transparenz unterminiert das Vertrauen in vermittelte Kommunikation.

Regulierungen wie der EU‑AI‑Act und der US‑BOT‑Act fordern zwar die Identifikation von KI‑Systemen, geben aber nur wenig konkrete Anweisungen, wie eine zuverlässige Offenlegung in Echtzeit‑Gesprächen umgesetzt werden kann. Aktuelle Mechanismen – etwa sichtbare UI‑Indikatoren oder externe Provenienz‑Tools – lassen sich leicht umgehen oder erfordern koordinierte Infrastruktur, die nicht immer verfügbar ist.

Die Autoren schlagen deshalb ein „Disclosure‑by‑Design“ vor: KI‑Modelle sollen ihre künstliche Identität explizit preisgeben, sobald der Nutzer danach fragt. Durch die Einbettung dieses Verhaltens direkt im Modell bleibt die Offenlegung unabhängig von der Benutzeroberfläche und funktioniert in allen Einsatzkontexten. Gleichzeitig behalten Nutzer die Kontrolle, ihre Identität bei Bedarf zu prüfen, ohne die Immersion bei Rollenspielen oder ähnlichen Anwendungen zu stören.

Zur Bewertung der aktuellen Praxis führt die Studie die erste multimodale Analyse von Offenlegungsverhalten in bereits eingesetzten Systemen durch – sowohl in Standard‑, als auch in Rollenspiel‑ und adversarialen Szenarien. Die Ergebnisse zeigen, dass Basis‑Offenlegungsraten oft hoch sind, jedoch stark variieren, je nachdem, wie die Systeme konzipiert und eingesetzt werden. Diese Erkenntnisse legen die Grundlage für weiterführende Forschung und die Entwicklung von Standards für transparente KI‑Interaktion.