SGA-MCTS: Planung ohne Fine‑Tuning – LLMs erreichen System‑2‑Logik in Echtzeit

In der Welt der großen Sprachmodelle (LLMs) ist die Fähigkeit, komplexe Aufgaben in mehreren Schritten zu lösen, entscheidend. Traditionelle Planungsansätze stehen jedoch vor einem Dilemma: Suchalgorithmen in Echtzeit sind teuer, während das Feintuning von Modellen die Generalisierung einschränkt. SGA‑MCTS löst dieses Problem, indem es die Planung als nicht‑parametrische Retrieval‑Methode neu definiert.

Im Offline‑Modus nutzt SGA‑MCTS Monte‑Carlo‑Tree‑Search, um den Lösungsraum systematisch zu erkunden. Dabei werden hochqualitative Pfade in sogenannte State‑Goal‑Action (SGA) Atome zerlegt – de‑lexikalisierte Bausteine, die konkrete Entitäten in symbolische Slots abstrahieren. Diese Atome bewahren die zugrunde liegende kausale Logik, entfernen aber domänenspezifisches Rauschen, sodass sie wiederverwendbar bleiben.

Online greift ein retrieval‑augmentierter Agent auf diese SGAs zu. Durch einen hybriden symbolisch‑semantischen Mechanismus werden relevante Atome abgerufen und in den aktuellen Kontext eingebettet, wodurch sie als weiche Rechenhinweise dienen. Die Resultate auf anspruchsvollen Benchmarks zeigen, dass ein gefrorenes, offenes Modell die Leistung von State‑of‑the‑Art-Systemen wie GPT‑5 erreichen kann – und das ohne task‑spezifisches Fine‑Tuning.

Durch die Auslagerung der aufwändigen Suchkosten in die Offline‑Phase erreicht SGA‑MCTS die Tiefe von System‑2‑Denken bei der Geschwindigkeit von System‑1‑Inference. Damit wird autonomes Planen nicht nur skalierbar, sondern auch in Echtzeit praktikabel – ein bedeutender Fortschritt für die Anwendung von LLMs in der Praxis.