Transformer-Modelle für Zeitreihen: Ensemble‑Methoden steigern Genauigkeit
Die neuesten Transformer‑basierten Basismodelle für Zeitreihen – darunter Lag‑Llama, TimeGPT, Chronos, MOMENT, UniTS und TimesFM – haben bereits beeindruckende Leistungen bei Vorhersagen, Anomalieerkennung, Klassifikation und Imputation gezeigt. Dennoch bleiben bei der Anwendung in der Praxis noch Schwankungen, domänenspezifische Verzerrungen und eine unzureichende Unsicherheitsabschätzung bestehen.
In der vorliegenden Studie werden verschiedene statistische und ensemble‑basierte Techniken untersucht, um diese Schwächen zu beheben. Dazu zählen bootstrap‑basierte Bagging‑Methoden, Regressions‑Stacking, die Konstruktion von Vorhersageintervalle, statistische Residualmodellierung und iteratives Fehler‑Feedback. Ziel ist es, die Robustheit und Genauigkeit der Vorhersagen zu erhöhen.
Als Fallstudie dient der Datensatz zur Kurzzeit‑Lastprognose in Belgien. Die Ergebnisse zeigen, dass die kombinierten Ansätze die einzelnen Basismodelle konsequent übertreffen. Regressions‑Ensembles erzielen die niedrigste mittlere quadratische Fehlerquote, Bagging reduziert signifikant Fehler bei langen Kontexten, Residualmodellierung korrigiert systematische Verzerrungen und die daraus resultierenden Vorhersageintervalle erreichen nahezu nominale Abdeckungsraten, wobei die Breite mit zunehmender Kontextlänge schrumpft.
Die Arbeit demonstriert, dass die Integration statistischer Logik in moderne Transformer‑Modelle messbare Verbesserungen in Genauigkeit, Zuverlässigkeit und Interpretierbarkeit für reale Zeitreihenanwendungen liefert. Diese Erkenntnisse eröffnen neue Perspektiven für die praktische Umsetzung von Zeitreihen‑Forecasting in Industrie und Forschung.