LLM-Agenten lernen Laufzeit: Persistente Interpreter verbessern Effizienz

In einer neuen Studie untersuchen Forscher, ob große Sprachmodelle (LLMs) von der Persistenz ihres Interpreter-Status während des Trainings profitieren können. Dabei wird die Frage gestellt, ob die Laufzeitzustände, die Agenten in realen Anwendungen nutzen, lediglich ein Laufzeit-Framework sind oder ob Modelle daraus lernen können, wenn die Trainingsdaten die entsprechenden Ausführungssemantik explizit enthalten.

Zur Untersuchung wurde die „Opaque Knapsack“-Suite entwickelt – ein prozedural generiertes Set von Optimierungsaufgaben, bei denen wichtige Item‑Attribute und Constraints erst durch budgetierte Tool‑Aufrufe sichtbar werden. Diese Aufgaben zwingen die Agenten zu mehrtägigem Kontrollfluss und iterativer Zustandsrevision, wodurch die Rolle der Persistenz deutlich wird.

Die Autoren generierten zwei Varianten von Trainingsspuren: eine, in der der Interpreter-Status zwischen den Schritten erhalten bleibt, und eine, in der er nach jeder Aktion zurückgesetzt wird. Anschließend wurden identische Basismodelle (Qwen3‑8B) auf beiden Varianten feinabgestimmt und in allen vier Kombinationen von Trainings- und Laufzeitbedingungen evaluiert.

Die Ergebnisse zeigen, dass die Qualität der Lösungen statistisch unverändert bleibt, während sich Token‑Kosten und Stabilität stark unterscheiden. Modelle, die mit persistenter Laufzeit trainiert wurden, funktionieren in einer stateless‑Umgebung häufig fehlerhaft – etwa 80 % der Fälle führen zu fehlenden Variablen‑Fehlern. Damit wird deutlich, dass die Ausführungssemantik vor allem die Art und Weise beeinflusst, wie Agenten Lösungen erreichen, nicht jedoch, ob sie überhaupt gefunden werden.