KI lernt, Rechenaufwand für Antworten dynamisch anzupassen

arXiv – cs.AI Original ≈1 Min. Lesezeit
Anzeige

Eine neue Methode namens Adaptive Effort Control ermöglicht es KI-Modellen, den Denkaufwand für jede Anfrage exakt an die jeweilige Schwierigkeit anzupassen. Statt einer festen Tokenanzahl, die vorab bestimmt werden muss, kann der Nutzer bei der Ausführung einen kontinuierlichen Aufwandparameter festlegen, der das Modell automatisch in Relation zur durchschnittlichen Länge seiner bisherigen Argumentationsketten setzt.

Durch diese selbstadaptive Reinforcement‑Learning‑Strategie entfällt das lästige, dataset‑spezifische Tuning. Die Modelle lernen, Ressourcen proportional zur Komplexität der Aufgabe zu verteilen, was zu einer durchschnittlichen Reduktion der Chain‑of‑Thought‑Länge um etwa das Dreifache führt – ohne dass die Genauigkeit leidet. Studien mit Modellen von 1,5 B bis 32 B Parametern zeigen, dass die neue Technik nicht nur Kosten senkt, sondern auch die Leistung gegenüber den Basis‑Modellen verbessert.

Damit erhalten Anwender die Möglichkeit, bei Bedarf mehr Rechenzeit für kritische Fragen zu investieren und bei weniger wichtigen Aufgaben schnellere, kostengünstigere Antworten zu erhalten – alles ohne komplizierte Vorab‑Einstellungen.

Ähnliche Artikel