HyPER: Dynamische Pfadoptimierung steigert LLM-Logik bei geringem Rechenaufwand

Ein neues Verfahren namens HyPER verspricht, die Rechenleistung von großen Sprachmodellen (LLMs) beim logischen Denken effizienter zu nutzen. Durch eine dynamische Steuerung von Exploration und Exploitation während der Decodierung kann HyPER die Genauigkeit der Antworten erhöhen und gleichzeitig die benötigte Tokenanzahl deutlich senken.

Traditionelle Ansätze, die auf starren Baumsuchen oder paralleler Mehrpfad-Decodierung basieren, stoßen häufig an Grenzen. Sie führen entweder zu zu viel Exploration, die unnötige Rechenressourcen verbraucht, oder zu zu wenig Exploration, wodurch wichtige Lösungswege übersehen werden. HyPER erkennt, dass das optimale Gleichgewicht zwischen diesen beiden Polen je nach Phase des Decodierungsprozesses variiert.

HyPER arbeitet ohne zusätzliche Trainingsschritte und nutzt ein Online-Steuerungssystem, das die Rechenleistung innerhalb eines festen Budgets neu verteilt. Es wechselt automatisch von einer explorativen Phase, in der verschiedene Hypothesen generiert werden, zu einer exploitativen Phase, in der die vielversprechendsten Pfade verfeinert werden. Ein tokenbasiertes Verfeinerungsmechanismus ermöglicht dabei eine effiziente Ausnutzung der Rechenzeit, ohne komplette Pfadresampling durchzuführen. Abschließend aggregiert das System die Ergebnisse unter Berücksichtigung von Länge und Vertrauenswürdigkeit, um zuverlässige Antworten zu liefern.

Experimentelle Tests an vier Mixture-of-Experts-Sprachmodellen und einer Vielzahl von Logik-Benchmarks zeigen, dass HyPER die Genauigkeit um 8 bis 10 % steigert und gleichzeitig die Tokenverwendung um 25 bis 40 % reduziert. Damit bietet HyPER einen klaren Vorteil für Anwendungen, die sowohl hohe Genauigkeit als auch Rechenoptimierung erfordern.