Curvature-aware Expected Free Energy: Neues Bayesian-Optimierungsverfahren

In einer kürzlich veröffentlichten Studie auf arXiv wird ein neues Akquisitionsverfahren für die Bayessche Optimierung vorgestellt, das die gleichzeitige Optimierung und das Lernen der zugrunde liegenden Funktion ermöglicht. Das Verfahren basiert auf der Expected Free Energy (EFE) und adressiert damit das Problem der gemeinsamen Modellierung und Optimierung.

Die Autoren zeigen, dass die Expected Free Energy unter bestimmten Annahmen zu bekannten Akquisitionsstrategien wie Upper Confidence Bound (UCB), Lower Confidence Bound (LCB) und Expected Information Gain (EIG) zurückfällt. Diese Entsprechungen verdeutlichen die theoretische Fundierung des neuen Ansatzes.

Ein weiterer Schwerpunkt der Arbeit liegt auf der Beweisführung von konvergenten Eigenschaften. Für konvexe Funktionen liefert die Expected Free Energy eine unverzerrte Konvergenzgarantie, was die Zuverlässigkeit des Verfahrens unterstreicht.

Zur Verbesserung der Anpassungsfähigkeit wird ein krümmungsbewusstes Update‑Schema eingeführt. Die Wirksamkeit dieses Ansatzes wird anhand eines Systemidentifikationsproblems mit einem Van‑der‑Pol‑Oszillator demonstriert, wodurch die praktische Anwendbarkeit des Verfahrens belegt wird.

Schließlich zeigen umfangreiche Simulationsstudien, dass die adaptive Expected Free Energy-basierte Akquisitionsfunktion die führenden Methoden übertrifft. Sie erzielt dabei die geringste finale Simple Regret und die niedrigste Fehlerquote bei der Lernphase des Gaußschen Prozesses.