LLMs meistern Programmverifikation dank BRIDGE-Ansatz

arXiv – cs.LG Original ≈2 Min. Lesezeit
Anzeige

Large Language Models (LLMs) haben in der Codegenerierung bereits beeindruckende Erfolge erzielt, stoßen jedoch bei der Programmverifikation – besonders in interaktiven Beweisframeworks wie Lean4 – auf erhebliche Hindernisse. Ein zentrales Problem ist die Skalierbarkeit: Für eine verifizierte Synthese sind nicht nur Code, sondern auch präzise Spezifikationen und Korrektheitsbeweise erforderlich, und bisherige Ansätze decken selten alle drei Bereiche ab.

In der neuesten Veröffentlichung (ArXiv:2511.21104v1) stellen die Autoren BRIDGE vor, die erste systematische Untersuchung von strukturiertem Prompting zur skalierbaren, verifizierten Programmgenerierung. BRIDGE zerlegt die Verifikation in drei miteinander verknüpfte Domänen: Code (ausführbare Implementierungen), Spezifikationen (formale Intentionen) und Beweise (konstruktive Korrektheitsargumente).

Der Schlüsselansatz besteht darin, unterschiedliche Denkweisen – funktional, spezifikationsgesteuert und beweisorientiert – als Zwischendarstellungen zu provozieren, die die semantische Struktur bewahren und die drei Domänen verbinden. Durch gezielte Ablationsstudien konnte gezeigt werden, dass dieser Ansatz sowohl die Genauigkeit als auch die Effizienz deutlich über herkömmliche Fehlerfeedback-Methoden hinaus verbessert.

Beispielsweise erhöht funktionales Denken die Korrektheit von Lean4-Code um nahezu 1,5‑fach (Pass@5) im Vergleich zu direkten Baselines. Gleichzeitig ist es bei der Inferenzzeit doppelt so effizient, erzielt höhere Passraten mit weniger Generationen und geringerer Gesamtauswahlmenge. Spezifikationsgesteuertes Prompting steigert die Passraten beim Python-Codieren um bis zu 17,5 %.

Diese Ergebnisse zeigen, dass eine strukturierte Domänenausrichtung ein vielversprechender Weg ist, um die verifizierte Synthese weiter voranzutreiben und LLMs in die Lage zu versetzen, nicht nur Code zu schreiben, sondern ihn auch zuverlässig zu beweisen.

Ähnliche Artikel