meineki.news Logo
meineki.news
KI News. Verstehen, was wichtig wird.
Anmelden
Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “Phasenwechsel”
Forschung

Ein brandneues Papier auf arXiv (2604.08591v1) beleuchtet ein kritisches Sicherheitsrisiko bei großen ASR‑Modellen: Halluzinationen. Die Autoren stellen das „Spektrale Sensitivitäts-Theorem“ vor, das einen Phasenwechsel in tiefen Netzwerken vorhersagt – von einem streuenden Regime, in dem Signale abklingen, zu einem Anziehungspunkt, bei dem die Aktivierungen zu einem Rang‑1‑Kollaps zusammenfassen. Der Schlüssel zur Vorhersage liegt in der schichtweisen Verstärkung und Ausrichtung der Signale. Durch die A
arXiv – cs.LG
Forschung

<h1>Neues Modell erklärt Phasenwechsel beim Training von neuronalen Netzen</h1> <p>Ein neues mathematisches Konzept, die „Spectral Edge Thesis“, liefert einen klaren Rahmen für die Phasenwechsel, die beim Training von neuronalen Netzen auftreten. Diese Wechsel – von Grokking über Leistungssteigerungen bis hin zu Verlustplateaus – werden laut der Theorie durch das Spektral­gap des rollenden‑Fenster‑Gram‑Matrizen der Parameterupdates bestimmt.</p> <p>Im extremen Aspektverhältnis (Parameter im Bereich von 10^8
arXiv – cs.LG
Forschung

<p>Persistente Entropie erkennt Phasenwechsel zuverlässig</p> <p>Die neue Studie von Forschern aus dem Bereich der Topologischen Datenanalyse zeigt, dass die persistente Entropie – ein Maß, das die Informationen aus sogenannten Persistence Barcodes zusammenfasst – ein robustes Werkzeug zur Erkennung von Phasenübergängen in komplexen Systemen ist. Trotz ihrer bisherigen empirischen Erfolge fehlte bislang eine allgemeine theoretische Basis, wann und warum dieses Maß zuverlässig funktioniert. Das neue Ergebnis
arXiv – cs.AI
Forschung

<p>DPO-Optimierung zeigt Phasenwechsel: Logikleistung schwankt mit β</p> <p>In einer neuen Studie wurde die Direct Preference Optimization (DPO) für drei 7‑B‑Modelle mit offenen Gewichten systematisch untersucht. Dabei wurde der Parameter β, der die Ausrichtung der Modelle steuert, in feinen Schritten variiert, um die Auswirkungen auf die Logikfähigkeit zu beobachten.</p> <p>Bei Mistral zeigte sich ein starkes, nicht‑monotones Verhalten: Die Logikmarge wird nur in einem engen Bereich um β ≈ 10⁻² positiv, au
arXiv – cs.LG