Denken statt Lügen: Wie Überlegungen die Ehrlichkeit von KI steigern

Eine neue Studie aus dem arXiv-Repository zeigt, dass große Sprachmodelle (LLMs) mit zunehmender Überlegung tatsächlich ehrlicher werden. Im Gegensatz zu Menschen, die bei längerer Reflexion tendenziell weniger ehrlich handeln, steigert das Durchführen von „moralischen“ Denkprozessen die Wahrhaftigkeit der Modelle über verschiedene Größenordnungen hinweg.

Die Forscher nutzten ein neu entwickeltes Datenset, das realistische moralische Dilemmata abbildet, bei denen Ehrlichkeit mit unterschiedlichen Kosten verbunden ist. Durch gezielte Analyse der Modellantworten konnten sie feststellen, dass das reine Vorhandensein von Überlegungen nicht der einzige Faktor ist, der die Ehrlichkeit beeinflusst.

Stattdessen liegt der Schlüssel in der Geometrie des Repräsentationsraums der Modelle. Deceptive Regionen sind metastabil – sie lassen sich leichter durch Paraphrasieren, erneutes Sampling oder Aktivierungsrauschen destabilisieren als ehrliche Antworten. Das bedeutet, dass das Erzeugen von deliberativen Tokens einen Weg durch einen voreingenommenen Raum führt, der letztlich die stabileren, ehrlichen Zustände des Modells betont.