VeriTime: KI-Framework verbessert Zeitreihen-Analyse durch Prozessverifikation

arXiv – cs.AI Original ≈1 Min. Lesezeit
Anzeige

Die Analyse von Zeitreihen ist in vielen Bereichen unverzichtbar, doch bisher konnten große Sprachmodelle (LLMs) ihr volles Potenzial in diesem Feld nicht ausschöpfen. Der Grund liegt vor allem in fehlenden, sorgfältig kuratierten Daten für das sogenannte Chain‑of‑Thought (CoT) Reasoning sowie in ineffizienten Trainingsstrategien.

Mit dem neuen Framework VeriTime wird das Problem angegangen. Es kombiniert drei zentrale Innovationen: eine automatisierte Datensynthese, die ein multimodales TS‑Text‑Dataset mit prüfbaren Prozess‑Annotations erzeugt; ein intelligentes Daten‑Scheduling, das Trainingsbeispiele nach einer klaren Schwierigkeits‑ und Aufgabenhierarchie anordnet; und ein zweistufiges Reinforcement‑Learning‑Fine‑Tuning, das fein abgestimmte, mehrzielige Belohnungen nutzt.

Die Synthese‑Pipeline erstellt beispielsweise Zeitreihen‑Text‑Paare, bei denen jeder Schritt des Rechenprozesses eindeutig verifizierbar ist. Das Scheduling sorgt dafür, dass das Modell zunächst mit einfachen Aufgaben beginnt und sich schrittweise zu komplexeren Szenarien hocharbeitet. Im RL‑Schritt werden die Modelle mit Belohnungen trainiert, die nicht nur das Endergebnis, sondern auch die Qualität der Zwischenschritte bewerten.

Ergebnisse aus umfangreichen Experimenten zeigen, dass VeriTime die Leistung von LLMs in einer Vielzahl von Zeitreihen‑Aufgaben deutlich steigert. Besonders beeindruckend ist, dass kompakte 3‑Billionen‑Parameter‑Modelle dank dieser Technik die Fähigkeiten größerer, proprietärer LLMs erreichen oder sogar übertreffen.

Ähnliche Artikel