A-SelecT: Zeitschritt-Auswahl steigert Diffusion Transformer Leistung

In der Welt der generativen KI haben Diffusionsmodelle einen bemerkenswerten Wandel herbeigeführt. Nun wird ihre Fähigkeit, diskriminative Repräsentationen zu lernen, immer stärker genutzt. Der Diffusion Transformer (DiT) gilt als vielversprechende Alternative zu den klassischen U‑Net‑basierten Modellen und eröffnet neue Wege für nachgelagerte Aufgaben wie Klassifikation und Segmentierung.

Ein zentrales Problem bei DiT ist jedoch die ineffiziente Auswahl der Zeitschritte und die unzureichende Nutzung der modell­spezifischen Features. Die neue Methode A-SelecT löst dieses Problem, indem sie in einem einzigen Durchlauf den für das Modell am informativsten Zeitschritt bestimmt. Dadurch entfällt die aufwendige, rechenintensive Suche nach optimalen Zeitschritten und die Auswahl suboptimaler diskriminativer Merkmale.

Durch die dynamische Zeitschritt-Auswahl wird die Trainingsgeschwindigkeit erheblich gesteigert und die Repräsentationskraft des Modells verbessert. Umfangreiche Experimente auf etablierten Klassifikations‑ und Segmentierungsbenchmarks zeigen, dass DiT mit A-SelecT sämtliche bisherigen diffusionbasierten Ansätze übertrifft – effizienter und effektiver zugleich.