TREX automatisiert LLM-Fine-Tuning mit Agenten-gestützter Baumexploration

Mit dem neuen System TREX wird das komplette Training von Large Language Models (LLMs) automatisiert – von der Analyse der Anforderungen bis hin zur Auswertung der Ergebnisse. Durch die Zusammenarbeit zweier Kernmodule, dem Researcher und dem Executor, kann TREX eigenständig Literatur und Daten recherchieren, Trainingsstrategien entwickeln, Datenvorbereitungspfade festlegen und schließlich das Modell trainieren und bewerten.

Der iterative Trainingsprozess wird als Suchbaum modelliert. Diese Baumstruktur ermöglicht es TREX, effizient Explorationspfade zu planen, frühere Ergebnisse wiederzuverwenden und aus wiederholten Versuchen wertvolle Erkenntnisse zu gewinnen. So wird die Optimierung von LLMs systematisch und datengetrieben vorangetrieben.

Zur Messung der Leistungsfähigkeit wurde das Benchmark-Set FT‑Bench entwickelt, das zehn Aufgaben aus realen Szenarien umfasst. Die Aufgaben reichen von der Verbesserung grundlegender Modellfähigkeiten bis hin zur Steigerung der Leistung in spezifischen Fachgebieten.

Die experimentellen Ergebnisse zeigen, dass TREX konsequent die Modellleistung auf den jeweiligen Zielaufgaben verbessert. Das System demonstriert damit, dass automatisierte LLM‑Trainingselemente nicht nur machbar, sondern auch effektiv sind.