Bidirektionales Curriculum: Mehr Effizienz im mathematischen Lernen von LLMs

Mathematisches Denken in großen Sprachmodellen erfordert bislang riesige Datensätze, doch die Effizienz der Datenverwendung bleibt ein entscheidender Engpass. Traditionelle Curriculum‑Learning‑Ansätze, die von einfachen zu komplexen Aufgaben fortschreiten, nutzen Trainingsproben oft ineffizient, indem sie die Schwierigkeit weiter erhöhen, obwohl grundlegende Lücken bestehen bleiben.

Um dieses Problem zu lösen, präsentiert die neue Studie ein bidirektionales Curriculum‑Generation‑Framework, das ein Multi‑Agent‑Ökosystem nutzt, um den Lernprozess dynamisch anzupassen. Anstatt starr vorwärts zu gehen, kann das System Aufgaben gezielt erschweren, um das Modell herauszufordern, oder sie vereinfachen, um spezifische Fehler zu beheben. Dieser geschlossene Feedback‑Loop stellt sicher, dass das Modell stets die wirkungsvollsten Daten erhält.

Die Methode stützt sich auf das Optimal Pacing Theorem und optimiert damit die Lernkurve. In Experimenten übertrifft sie etablierte Baselines deutlich und erzielt ein besseres mathematisches Verständnis bei deutlich weniger Trainingsbeispielen.