Effizientere und genauere RAG durch Testzeit-Strategien

Retrieval-Augmented Generation (RAG)-Systeme kämpfen häufig mit komplexen, mehrstufigen Fragen. Agentische Ansätze wie Search‑R1, die in mehreren Iterationen arbeiten, wurden entwickelt, um diese Herausforderungen zu meistern. Doch sie führen oft zu unnötigen Wiederholungen bei der Informationsbeschaffung und erschweren die Einbettung der gefundenen Inhalte in den generativen Prompt.

In der vorliegenden Studie werden Testzeit-Optimierungen für die Search‑R1-Pipeline vorgestellt. Zwei zentrale Komponenten werden integriert: ein Kontextualisierungsmodule, das relevante Informationen aus den abgerufenen Dokumenten besser in die Argumentationskette einbindet, und ein De‑Duplication-Modul, das bereits abgerufene Texte durch die nächstrelevanteren ersetzt. Diese Anpassungen zielen darauf ab, die Effizienz zu steigern und die Genauigkeit der Antworten zu erhöhen.

Die Wirksamkeit der Ansätze wurde anhand der HotpotQA- und Natural Questions-Datensätze geprüft. Der beste Prototyp, der GPT‑4.1‑Mini für die Kontextualisierung nutzt, erzielte einen Anstieg des Exact‑Match‑Scores um 5,6 % und reduzierte die durchschnittliche Anzahl an Retrieval‑Runden um 10,5 % im Vergleich zum ursprünglichen Search‑R1‑Baseline. Diese Ergebnisse zeigen deutlich, dass gezielte Testzeit-Strategien die Leistungsfähigkeit von RAG-Systemen signifikant verbessern können.