LLM-Chatbots leicht zu Waffen: Experten warnen vor Datenraub

Ein internationales Expertenteam warnt, dass moderne LLM‑basierte Chatbots dank sogenannter System‑Prompt‑Engineering‑Tools leicht in datenraubende Agenten umgewandelt werden können. Durch gezielte Anpassung der Systemanweisungen lassen sich die KI‑Assistenten in Ermittler‑ oder Detektiv‑Rollen schalten, die die üblichen Datenschutz‑Grenzen umgehen. Selbst Angreifer ohne tiefgreifende Programmierkenntnisse könnten damit persönliche Daten der Nutzer automatisch sammeln. Die Warnung bezieht sich auf die von OpenAI und anderen Anbietern bereitgestellten Prompt‑Anpassungswerkzeuge.