CDEoH: LLM-gesteuertes Algorithmendesign steigert Stabilität und Leistung

Mit dem rasanten Fortschritt großer Sprachmodelle (LLMs) haben LLM-basierte Heuristik‑Suchmethoden beeindruckende Ergebnisse bei der automatischen Generierung von Algorithmen erzielt. Trotz ihrer Leistungsfähigkeit leiden diese Ansätze häufig unter Instabilität und vorzeitiger Konvergenz. Bisher konzentrierten sich Lösungen vor allem auf Prompt‑Engineering oder die gleichzeitige Evolution von Gedanken und Code, vernachlässigten jedoch die entscheidende Rolle der Vielfalt von Algorithmus‑Kategorien für die Stabilität des Evolutionsprozesses.

Die neue Methode Category Driven Automatic Algorithm Design with Large Language Models (CDEoH) adressiert dieses Problem gezielt. Sie modelliert explizit verschiedene Algorithmus‑Kategorien und balanciert gleichzeitig Leistung und Kategorienvielfalt in der Populationsverwaltung. Dadurch wird eine parallele Erkundung mehrerer algorithmischer Paradigmen ermöglicht, was die Gefahr einer einseitigen Konvergenz deutlich reduziert.

Umfangreiche Experimente an repräsentativen kombinatorischen Optimierungsaufgaben in unterschiedlichen Größenordnungen zeigen, dass CDEoH die Konvergenz in eine einzige Richtung wirksam verhindert. Gleichzeitig verbessert es die evolutionäre Stabilität und erzielt konsequent überdurchschnittliche Durchschnittsleistungen über alle getesteten Aufgaben und Skalen hinweg.