Neurale Netze nach Kirchhoff: Neue Architektur für hochgradige Wahrnehmung

Die neuesten Fortschritte im Deep Learning beruhen auf Inspirationen aus der Neurowissenschaft, insbesondere auf der Struktur der sensorischen Bahnen des Gehirns. Diese Modelle haben beeindruckende Erfolge bei der Erzeugung informativer Datenrepräsentationen erzielt, doch sie unterscheiden sich grundlegend von biologischen Systemen, die auf dynamische Membranpotentiale angewiesen sind.

Konventionelle neuronale Netze optimieren Gewichte und Biases, indem sie die Verbindungsstärken zwischen Neuronen anpassen. Dabei fehlt jedoch ein systematischer Mechanismus, der gleichzeitig Signalintensität, Kopplungsstruktur und Zustandsentwicklung berücksichtigt. Dieses Defizit erschwert die gleichzeitige Modellierung höherer Ordnung in der Signalverarbeitung.

Um diese Lücke zu schließen, wurde das Kirchhoff-Inspired Neural Network (KINN) entwickelt. KINN nutzt Zustandsvariablen und basiert auf dem Kirchhoffschen Stromgesetz, um numerisch stabile Zustandsupdates aus fundamentalen Differentialgleichungen abzuleiten. Dadurch können höhere Ordnungskomponenten in einer einzigen Schicht explizit getrennt und kodiert werden, während physikalische Konsistenz, Interpretierbarkeit und End-to-End-Trainierbarkeit erhalten bleiben.

Umfangreiche Experimente, die die Lösung partieller Differentialgleichungen und die Bildklassifikation auf ImageNet umfassen, zeigen, dass KINN die führenden bestehenden Methoden übertrifft. Diese Ergebnisse unterstreichen das Potenzial von physikbasierten Ansätzen für die nächste Generation von neuronalen Architekturen.