Forschung
RoPE und lange Eingaben: Geometrische Analyse enthüllt neue Lösung
Ein neues arXiv-Papier beleuchtet die Grenzen von Rotary Positional Embedding (RoPE), einer weit verbreiteten Technik zur Positionskodierun…
arXiv – cs.LG