ProGRank: Verteidigung gegen Corpus‑Poisoning bei Dense‑Retriever RAG

Die neue Methode ProGRank schützt Retrieval‑Augmented Generation (RAG) vor Corpus‑Poisoning, einem Angriff, bei dem Angreifer Passagen manipulieren, damit sie in den Top‑K‑Ergebnissen für bestimmte Suchanfragen erscheinen und die nachfolgende Textgenerierung beeinflussen.

Im Gegensatz zu bisherigen Verteidigungen, die auf Inhaltsfilterung, Hilfsmodellen oder Generator‑Logik setzen, arbeitet ProGRank ausschließlich auf der Retriever‑Seite. Die Technik ist post‑hoc und erfordert kein erneutes Training des Modells.

ProGRank testet jedes Anfrage‑Passage‑Paar mit sanften, zufälligen Störungen und extrahiert Probe‑Gradienten aus einer kleinen, festen Parametergruppe des Retrievers. Aus diesen Signalen werden zwei Instabilitätsmaße – die Repräsentationskonsistenz und das Dispersion‑Risiko – berechnet und mit einem Score‑Gate kombiniert, um die Rangfolge neu zu bestimmen.

Die Originalpassagen bleiben unverändert, und die Methode kann auch in einer Surrogat‑Variante eingesetzt werden, falls der eingesetzte Retriever nicht verfügbar ist. Umfangreiche Experimente auf drei Datensätzen, drei Dense‑Retriever‑Backbones und verschiedenen Angriffsszenarien zeigen, dass ProGRank eine stärkere Verteidigung bietet, einen guten Kompromiss zwischen Robustheit und Nutzen erzielt und auch bei adaptiven, ausweichenden Angriffen konkurrenzfähig bleibt.