KI-Modelle testen: Neue Technik erkennt Wissensgrenzen

In einer kürzlich veröffentlichten Studie stellen Forscher ein neues Verfahren namens Knowledge Boundary Discovery (KBD) vor, das mithilfe von Reinforcement Learning die Wissensgrenzen großer Sprachmodelle (LLMs) systematisch kartiert.

Das Konzept von KBD beruht auf der automatischen Generierung zweier Fragekategorien: Fragen, die ein LLM mit hoher Sicherheit beantworten kann (innerhalb der Wissensgrenze), und Fragen, die es nicht beantworten kann (außerhalb der Wissensgrenze). Durch diese Unterscheidung wird die Grenze des Modells sichtbar, wobei die Herausforderung insbesondere durch das Phänomen der Halluzinationen entsteht.

Der Agent agiert in einer teilweise beobachtbaren Umgebung, in der er fortschreitende Fragen stellt. Für jede Frage erhält er als Belohnung eine Entropie-Reduktion, die die Unsicherheit der Antwort widerspiegelt. Die Antwort des LLMs dient als Beobachtung, die den internen Glaubenszustand des Agenten aktualisiert. Auf diese Weise lernt der Agent, gezielt Fragen zu formulieren, die die Grenzen des Modells aufdecken.

Die Experimente zeigen, dass KBD erfolgreich sowohl beantwortbare als auch unbeantwortbare Fragen identifiziert. Im Vergleich zu manuell erstellten Benchmark-Datensätzen liefern die automatisch generierten Frage-Sets vergleichbare Ergebnisse. Damit eröffnet KBD einen vielversprechenden neuen Ansatz zur Bewertung und zum besseren Verständnis von Large Language Models.