IPEC: Neuer Testzeit-Ansatz verbessert Prototypen bei Few-Shot-Lernen
Metric-basierte Few-Shot-Methoden erfreuen sich großer Beliebtheit, weil sie leicht zu implementieren sind, gut interpretierbar bleiben und wenig Rechenleistung benötigen. Dennoch bleibt ein entscheidendes Problem bestehen: Während des Testens wird häufig die Annahme getroffen, dass die einzelnen Batches unabhängig voneinander sind. Dadurch kann das Modell keine wertvollen Erkenntnisse aus vorherigen Batches nutzen.
Um dieses Hindernis zu überwinden, stellt die neue Arbeit den Incremental Prototype Enhancement Classifier (IPEC) vor. IPEC optimiert die Prototypenbestimmung, indem es Informationen aus bereits klassifizierten Query-Proben sammelt. Dabei wird ein dynamisches Hilfssatz erstellt, in das nur Query-Proben aufgenommen werden, die mit hoher Sicherheit klassifiziert wurden.
Zur Sicherstellung der Qualität der aufgenommenen Proben nutzt IPEC einen robusten Dual‑Filtermechanismus. Dieser bewertet jede Query-Probe sowohl anhand der globalen Vorhersage‑Vertrauenswürdigkeit als auch anhand ihrer lokalen diskriminativen Fähigkeit. Durch die Kombination dieses Hilfssatzes mit dem ursprünglichen Support‑Set entstehen im Verlauf der Aufgaben immer stabilere und repräsentativere Prototypen, wodurch die Abhängigkeit vom anfänglichen Support‑Set reduziert wird.
Die Autoren untermauern ihren Ansatz mit einer bayesschen Interpretation: Das Support‑Set wird als Prior betrachtet, während der Hilfssatz als datengetriebene Posterior fungiert. Daraus folgt ein praktisches „Warm‑up‑und‑Test“-Protokoll in zwei Phasen. Umfangreiche Experimente zeigen, dass IPEC die Leistung in einer Vielzahl von Few‑Shot‑Klassifikationsaufgaben deutlich verbessert.