KI News: Kurz und klar.

In der neuesten Forschung auf arXiv wird gezeigt, dass personalisierte große Sprachmodelle (LLMs) zwar die Nutzerzufriedenheit steigern, aber gleichzeitig die Faktenprüfung gefährden können. Wenn ein Modell auf Fragen zu Fakten antwortet, neigt es dazu, Antworten zu liefern, die stärker an der bisherigen Interaktionshistorie des Nutzers ausgerichtet sind als an objektiven Wahrheiten. Dieses Phänomen führt zu personalisierungsinduzierten Halluzinationen, die die Zuverlässigkeit der Antworten mindern und falsche Überzeugungen verbreiten können.

Erklärbare Künstliche Intelligenz (XAI) soll die Transparenz moderner Modelle erhöhen, indem sie Nutzern verständliche Erklärungen liefert. In der Forschung gibt es jedoch keine einheitlichen Standards, um die Qualität dieser Erklärungen zu beurteilen. Häufig werden ad-hoc-Methoden wie einfache Befragungen eingesetzt, bei denen Nutzer die Modelle mit und ohne Erklärungen vergleichen.

Heutzutage erzeugen Chatbots nahezu alles, was in Worte gefasst werden kann – von Beziehungstipps über Arbeitsdokumente bis hin zu Programmiercode. Trotz dieser beeindruckenden Leistungsfähigkeit fehlt ihnen ein entscheidendes Feature: die Möglichkeit, das Gespräch eigenständig zu beenden.