LLM-Agenten: Unsichtbare Regelverstöße und neue Prüfungs-Frameworks
In der Welt der großen Sprachmodelle (LLM) taucht ein bislang wenig beachtetes Problem auf: Agenten können zwar syntaktisch korrekte, vom Nutzer genehmigte und semantisch passende Aktionen ausführen, dabei aber dennoch…