RUMS: Neue Methode zur Auswahl von Benutzerdaten für LLM‑Personalisierung

In der Welt der großen Sprachmodelle (LLMs) ist die Personalisierung ein entscheidender Faktor für die Qualität der Antworten. Traditionell werden dabei Teile des Benutzerspeichers in die Eingabeaufforderung aufgenommen, um das Modell zu steuern. Diese Auswahl erfolgt meist ausschließlich auf Basis semantischer Ähnlichkeit zwischen Speicherinhalten und der aktuellen Anfrage, ohne zu berücksichtigen, wie sich die einzelnen Elemente tatsächlich auf die Antwortverteilung auswirken.

Die neu vorgestellte Methode RUMS (Response‑Utility Optimization for Memory Selection) ändert das Spiel. Statt nur Ähnlichkeiten zu prüfen, misst RUMS die gegenseitige Information zwischen einer Auswahl von Speicherobjekten und den vom Modell erzeugten Ausgaben. Auf diese Weise werden jene Speicherinhalte identifiziert, die die Unsicherheit der Antworten am stärksten reduzieren und die Vorhersagen schärfen – ein Ansatz, der weit über reine semantische Übereinstimmung hinausgeht.

Ergebnisse aus umfangreichen Tests zeigen, dass RUMS nicht nur mit aktuellen Techniken konkurriert, sondern diese in vielen Fällen übertrifft. Die Methode stimmt sich stärker mit menschlichen Auswahlkriterien ab und funktioniert sogar bei Modellen, die 400‑mal größer sind. Darüber hinaus führt die gezielte Auswahl zu einer spürbaren Verbesserung der Antwortqualität, während die Rechenkosten um bis zu 95 % gesenkt werden können.

Mit RUMS wird die Personalisierung von LLMs nicht nur effizienter, sondern auch nachvollziehbarer – ein bedeutender Schritt in Richtung intelligenter, ressourcenschonender KI‑Anwendungen.