Neue Methode nutzt Aktivationsunterräume zur Erkennung von Out-of-Distribution-Daten

Um die Zuverlässigkeit von tiefen Lernmodellen in der Praxis zu sichern, entwickeln Forscher neue Verfahren zur Erkennung von Out-of-Distribution‑(OOD)‑Daten. Dabei soll unterschieden werden, ob ein Bild oder ein Text den Trainingsdaten nahekommt (In‑Distribution, ID) oder weit davon entfernt ist.

In der aktuellen Studie wird ein innovatives Verfahren vorgestellt, das die Singulärwertzerlegung der Gewichtsmatrix des Klassifikationskopfes nutzt. Durch diese Zerlegung werden die Aktivierungen des Modells in entscheidende und unwichtige Komponenten aufgeteilt. Die entscheidenden Teile tragen maximal zum Endergebnis bei, während die unwichtigen kaum Einfluss haben.

Die Untersuchung zeigt, dass die unwichtigen Komponenten besonders bei großen Verteilungsverschiebungen (Far‑OOD) besser zwischen ID und OOD unterscheiden können. Da die Klassifikationsaufgabe diese Unterräume weitgehend unbeeinflusst lässt, bleiben die dortigen Merkmale „unverfälscht“. Bei kleineren Verschiebungen (Near‑OOD) hingegen profitieren Aktivierungsformungstechniken mehr davon, sich ausschließlich auf die entscheidenden Unterräume zu konzentrieren, da die unwichtigen Teile dort Störungen verursachen können.

Durch die Kombination beider Erkenntnisse entsteht die Methode ActSub, die in mehreren Standard‑OOD‑Benchmarks den aktuellen Stand der Technik übertrifft. Diese Fortschritte markieren einen wichtigen Schritt hin zu robusteren KI‑Systemen, die zuverlässig erkennen können, wenn ein Eingabedatensatz außerhalb ihres gelernten Bereichs liegt.