Effizientes Denken: ReBalance optimiert große Sprachmodelle

Große Sprachmodelle, die komplexe logische Aufgaben lösen können, stoßen häufig an Grenzen: Sie denken zu lange über einfache Fragen nach (Overthinking) oder vernachlässigen bei anspruchsvolleren Problemen wichtige Überlegungen (Underthinking). Diese beiden Phänomene führen zu unnötigem Rechenaufwand und können die Genauigkeit der Antworten beeinträchtigen, was besonders in ressourcenbeschränkten Umgebungen problematisch ist.

Herkömmliche Ansätze, die versuchen, Overthinking zu reduzieren – etwa durch das Unterdrücken bestimmter Schlüsselwörter oder das Kürzen der Ausführungszeit – können unbeabsichtigt Underthinking auslösen und damit die Leistungsfähigkeit der Modelle verringern. Um dieses Spannungsfeld zu lösen, wurde ReBalance entwickelt, ein komplett trainingsfreies Framework, das die Effizienz von Large Reasoning Models (LRMs) verbessert.

ReBalance nutzt die kontinuierliche Vertrauensschätzung des Modells als Indikator für den Denkprozess. Hohe Varianz im Vertrauen signalisiert Overthinking, während ein gleichbleibend hohes Vertrauen auf Underthinking hinweist. Durch das Aggregieren der versteckten Zustände aus einer kleinen Datensatzprobe werden sogenannte „Reasoning‑Mode‑Prototypen“ erstellt, die ein Steuerungsvektor berechnen. Dieser Vektor lenkt die Denktrajektorie des Modells in Echtzeit.

Ein dynamischer Kontrollmechanismus moduliert die Stärke und Richtung des Steuerungsvektors anhand des aktuellen Vertrauens. So werden redundante Schritte bei Overthinking abgeschnitten, während bei Underthinking gezielt neue Überlegungen angeregt werden. Das Ergebnis ist ein ausgeglichener Denkprozess, der sowohl Rechenressourcen spart als auch die Genauigkeit steigert.

Umfangreiche Tests an vier Modellen mit Größen von 0,5 B bis 32 B und an neun unterschiedlichen Benchmarks – darunter Mathematik, allgemeine Fragenbeantwortung und Programmieraufgaben – zeigen, dass ReBalance die Ausgabe­redundanz signifikant reduziert und gleichzeitig die Trefferquote erhöht. Das Framework ist vollständig trainingsfrei, plug‑and‑play und lässt sich leicht in bestehende Systeme integrieren, wodurch es eine vielseitige Lösung für die praktische Anwendung von Large Reasoning Models darstellt.