DFAMS: Dynamische Flussgesteuerte Federierte Ausrichtung für Mehrprototyp-Suche

arXiv – cs.LG Original ≈1 Min. Lesezeit
Anzeige

Federated Retrieval (FR) verteilt Anfragen über mehrere externe Wissensquellen, um Halluzinationen von großen Sprachmodellen zu reduzieren. In der Praxis stoßen bestehende Verfahren jedoch häufig an ihre Grenzen, wenn es um die Suche nach relevanten Dokumenten bei mehrdeutigen Anfragen oder in Querschnittsdomänen geht. Diese Einschränkungen hemmen die Effektivität von FR bei nachgelagerten Generierungsaufgaben.

Der neue Ansatz DFAMS nutzt das Konzept des dynamischen Informationsflusses (DIF), um versteckte Intentionen der Nutzeranfrage zu erkennen und semantisch abgestimmte Wissenspartitionen zu bilden. Durch die Analyse von Gradienten aus wenigen annotierten Anfragen und die Anwendung von Shapley-Wert‑Attributionen werden neuronale Aktivierungswege identifiziert, die mit der Erkennung von Intentionen und der Bestimmung von Subdomain‑Grenzen zusammenhängen.

Auf Basis dieser Erkenntnisse trainiert DFAMS ein Ausrichtungsmodul mittels mehrprototypischer kontrastiver Lernverfahren. Dadurch wird eine feinkörnige Modellierung innerhalb einzelner Quellen sowie eine semantische Ausrichtung zwischen verschiedenen Wissensdatenbanken ermöglicht.

Experimentelle Tests an fünf Benchmark‑Datensätzen zeigen, dass DFAMS die führenden FR‑Methoden um bis zu 14,37 % in der Klassifikationsgenauigkeit, 5,38 % in der Rückrufrate und 6,45 % in der Genauigkeit bei nachgelagerten Frage‑Antwort‑Aufgaben übertrifft. Diese Ergebnisse unterstreichen die Leistungsfähigkeit von DFAMS in komplexen Federated‑Retrieval‑Szenarien.

Ähnliche Artikel