LADY: Linear Attention steigert Effizienz autonomer Fahrzeuge ohne Transformers
Forscher haben LADY vorgestellt, ein neues Modell für autonome Fahrzeuge, das auf linearer Aufmerksamkeit basiert und die Grenzen herkömmlicher Transformer-Architekturen sprengt.
Während Transformer‑Modelle bei langen räumlichen und zeitlichen Sequenzen einen quadratischen Rechenaufwand verursachen, nutzt LADY eine lineare Attention‑Mechanik, die die Komplexität auf linear reduziert. Dadurch bleibt die Rechen- und Speicherbelastung konstant, unabhängig von der Länge der Historie von Kameras und LiDAR‑Daten.
Ein weiteres Highlight ist die leichtgewichtige lineare Cross‑Attention, die einen effizienten Austausch von Informationen zwischen verschiedenen Modalitäten ermöglicht – ein entscheidender Faktor für die Planung in Echtzeit.
Tests auf den Benchmarks NAVSIM und Bench2Drive zeigen, dass LADY nicht nur die aktuelle Spitzenleistung erreicht, sondern auch die Planung verbessert und die Rechenkosten deutlich senkt. Das Modell wurde bereits erfolgreich auf Edge‑Geräten eingesetzt und dort validiert.
Mit LADY beweist die Forschung, dass autonome Fahrsysteme ohne die teuren Transformer‑Architekturen leistungsfähig und ressourcenschonend sein können – ein bedeutender Schritt in Richtung praktischer, Echtzeit‑Anwendungen.