CORE: Neue Methode erkennt zuverlässig Ausreißer in Deep Learning

In der Welt des Deep Learning ist die Erkennung von Ausreißern – also von Daten, die nicht zu den Trainingsdaten gehören – entscheidend für die Zuverlässigkeit von Modellen. Eine neue Technik namens CORE (COnfidence + REsidual) verspricht, dieses Problem zuverlässig zu lösen, indem sie zwei unterschiedliche Signale aus den letzten Schichten eines neuronalen Netzes nutzt.

Traditionell basieren OOD-Erkennungsalgorithmen entweder auf den Logit-Werten, die lediglich die Vertrauenswürdigkeit des Klassifikators widerspiegeln, oder auf Feature‑Basierten Ansätzen, die versuchen, die Zugehörigkeit zu den Trainingsdaten im gesamten Merkmalsraum zu bestimmen. Beide Ansätze haben jedoch Schwächen: Logit‑Methoden sind oft zu eng an die Architektur gebunden, während Feature‑Methoden die Vertrauenssignale mit Rauschen vermischen und dadurch unzuverlässig werden.

CORE erkennt, dass die Merkmale der vorletzten Schicht in zwei orthogonale Teilräume zerfallen: ein klassifikator‑ausgerichteter Teil, der die Vertrauenswürdigkeit kodiert, und ein Residual, das vom Klassifikator verworfen wird. Dieses Residual trägt ein klassen­spezifisches, richtungs­abhängiges Signal, das bei In‑Distribution‑Daten vorhanden ist, aber von Logit‑Methoden nicht erfasst wird. Durch die unabhängige Bewertung beider Teilräume und die anschließende normierte Summierung kombiniert CORE die Stärken beider Ansätze.

In umfangreichen Tests über fünf Architekturen und fünf Benchmark‑Konfigurationen zeigte CORE eine herausragende Leistung: Es erreichte den ersten Platz in drei der fünf Szenarien und erzielte den höchsten durchschnittlichen AUROC unter nahezu vernachlässigbarem Rechenaufwand. Diese Ergebnisse deuten darauf hin, dass CORE eine robuste, architekturunabhängige Lösung für die OOD‑Erkennung darstellt.