Indexierte externe Erinnerung senkt Retrieval-Kosten bei KI-Agenten drastisch

Forscher haben gezeigt, dass KI-Agenten, die ihre eigenen Gedanken mithilfe einer strukturierten Indexierung abfragen, die Kosten für die Informationsbeschaffung deutlich reduzieren. Im Gegensatz zu herkömmlichen Agenten, die ihre Daten sequentiell durchsuchen, nutzen die neuen Modelle einen I/O‑Page‑Index, der die Anzahl der benötigten Seitenlesungen von linear zu logarithmisch senkt.

Die Studie demonstriert, dass ein Index die durchschnittliche Seitenlesung pro Abfrage auf etwa einen einzigen Zugriff begrenzt, unabhängig von der Größe des Speichers. Bei bis zu 5.000 gespeicherten Elementen bleibt die Effizienz konstant, während Agenten ohne Index bei größeren Datenmengen stark an Leistung verlieren.

Durch den Einsatz von zwei unterschiedlichen Modellgenerationen – GPT‑4o‑mini und GPT‑5.4 – konnte die Forschung die Skalierbarkeit des Ansatzes nachweisen. Während das stärkere Modell nahezu optimale binäre Suchergebnisse liefert, bleibt das schwächere Modell bei großen Datenmengen hinter dem Index zurück.

Ein interessanter Nebeneffekt zeigte sich bei der Verarbeitung von vertrauten Inhalten wie Enzyklopädieeinträgen: Die Agenten neigten dazu, auf ihr internes parametric memory zurückzugreifen und die Retrieval‑Protokolle zu umgehen. Dies führte zu einem erheblichen Anstieg des Token‑Verbrauchs, obwohl die Indexierung technisch einwandfrei funktionierte.

Die Ergebnisse unterstreichen die Bedeutung einer strukturierten externen Erinnerung für die effiziente und skalierbare Entscheidungsfindung von KI-Agenten. Sie legen nahe, dass zukünftige Entwicklungen in der KI‑Architektur stark von intelligenten Indexierungsmechanismen profitieren werden.