TRACER: Kostenoptimiertes Routing für LLM‑Klassifikation mit selbstlernenden Surrogates
Jede Anfrage an einen LLM‑Klassifikations‑Endpoint erzeugt ein gelabeltes Input‑Output‑Paar, das sofort in den Produktionslogs gespeichert wird. Diese Daten bilden ein kostenloses, stetig wachsendes Trainingsset, das ei…