Klassen- und Datenumfang bestimmen Erfolg von Audio-Transferlernen

Transferlernen ist ein zentrales Konzept im Deep Learning, das neuronale Netzwerke ermöglicht, von umfangreichen vortrainierten Datensätzen zu profitieren, wenn sie mit Aufgaben konfrontiert werden, für die nur wenige Daten verfügbar sind. Trotz seiner weiten Verbreitung und klaren Vorteile bleiben viele Fragen zu den Mechanismen des Transferlernens offen, insbesondere zu den Bedingungen, unter denen es besonders gut funktioniert.

In einer neuen Studie wurde das Phänomen des Audio‑zu‑Audio‑Transferlernens systematisch untersucht. Die Autoren trainierten verschiedene Modellvarianten auf Ontologie‑basierten Teilmengen des AudioSet‑Datensatzes und passten sie anschließend an drei unterschiedliche Computer‑Audition‑Aufgaben an: die Erkennung akustischer Szenen, die Erkennung von Vogelaktivitäten und die Erkennung von Sprachbefehlen.

Die Ergebnisse zeigen, dass sowohl eine größere Anzahl an Proben als auch mehr Klassen im Vortraining die Leistung des Transferlernens positiv beeinflussen. Dennoch übertrifft die Ähnlichkeit zwischen dem Vortrainings‑ und dem Ziel‑Task diesen Effekt in der Regel, sodass Modelle vergleichbare Merkmale lernen, wenn die Aufgaben eng miteinander verwandt sind.