Suche nach Kompression | meineki.news

LegoNet: Speicherbedarf von neuronalen Netzen um 64‑fach reduziert

Neural‑Network‑Entwickler haben mit LegoNet ein neues Verfahren zur drastischen Reduktion des Speicherverbrauchs vorgestellt. Dabei werden…

arXiv – cs.LG 10.03.2026 04:00

Forschung

Transformer-Keys verkleinern: Low-Dimensional Attention spart Speicher

In einer neuen Studie wird die bisherige Symmetrie im Transformer‑Attention‑Mechanismus in Frage gestellt. Während klassische Modelle diese…

arXiv – cs.LG 06.03.2026 05:00

Forschung

WebFactory: Automatisierte Kompression von Sprachmodellwissen zu Web-Agenten

Die Entwicklung von GUI-Agenten steht bislang vor zwei großen Hindernissen: Entweder greifen sie auf unsichere, nicht reproduzierbare Live-…

arXiv – cs.AI 06.03.2026 05:00

Forschung

Neues Lernverfahren optimiert DRAM-Equalizer mit Worst-Case-Garantie

Die Optimierung von Equalizer‑Parametern ist entscheidend für die Signalintegrität in Hochgeschwindigkeits‑Speichersystemen, die bei Multi‑…

arXiv – cs.LG 06.03.2026 05:00

Forschung

NuMuon: Optimierer mit nuklearem Norm-Constraint steigert Kompression von LLMs

Die rasante Entwicklung großer Sprachmodelle (LLMs) wird zunehmend durch Speicher- und Bereitstellungskosten begrenzt. Um diese Hürden zu ü…

arXiv – cs.LG 05.03.2026 05:00

Forschung

Neue Methode steigert Energiegewinn bei Sub-1-Bit-LLMs durch latente Geometrie

Forscher haben einen bahnbrechenden Ansatz entwickelt, um den Spektralen Energiegewinn in extrem komprimierten Sprachmodellen zu maximieren…

arXiv – cs.LG 03.03.2026 05:00

Forschung

Draft-Thinking: Effizientes Lösen von langen Argumentationsketten in LLMs

Die Technik des „Long Chain‑of‑Thought“ (CoT) hat sich als führendes Verfahren zur Steigerung der Rechenleistung großer Sprachmodelle etabl…

arXiv – cs.AI 03.03.2026 05:00

Forschung

Router‑Kalibrierung rettet re‑Training‑freie MoE‑Kompression

Die neueste Studie aus dem arXiv‑Repository zeigt, dass die gängige Praxis, Mixture‑of‑Experts‑Modelle ohne erneutes Training zu komprimier…

arXiv – cs.LG 04.03.2026 05:00

Forschung

GRAIL: Post-hoc Linear-Reconstruction kompensiert Kompression von Deep Networks

GRAIL ist ein neuer Ansatz, der die Genauigkeitsverluste nach aggressiver Kompression von tiefen neuronalen Netzen adressiert. Der Ansatz n…

arXiv – cs.LG 02.03.2026 05:00

Forschung

LLMs bleiben trotz Skalierung fehleranfällig: Menschliche Anleitung als Engpass

Neues Forschungsergebnis aus dem Bereich der künstlichen Intelligenz zeigt, dass große Sprachmodelle – obwohl sie auf riesigen Mengen mensc…

arXiv – cs.AI 02.03.2026 05:00

Forschung

Künstliche Agenten: Neugier, Kompression und Kommunikation als Schlüssel

Das neue Artificial Agency Program (AAP) präsentiert einen klaren Fahrplan für die Entwicklung von KI-Systemen als in der Realität veranker…

arXiv – cs.AI 02.03.2026 05:00

Praxis

DeepMind stellt Unified Latents vor: Optimiertes ML-Framework

Generative KI nutzt seit Kurzem Latent Diffusion Models (LDMs), um die enorme Rechenlast bei hochauflösender Bildsynthese zu reduzieren. Du…

MarkTechPost 28.02.2026 03:58

Forschung

SideQuest: KV-Cache-Management für langfristige agentische Aufgaben

Ein neues Verfahren namens SideQuest wurde vorgestellt, das die Effizienz von KI-Agenten bei langwierigen Aufgaben deutlich verbessert. Bei…

arXiv – cs.AI 27.02.2026 05:00

Forschung

Neues Prinzip: Schnellere Trainingszeit zeigt wahre Kausalrichtung

Wissenschaftler haben ein neues Konzept namens Causal Computational Asymmetry (CCA) vorgestellt, das die wahre Kausalrichtung zwischen zwei…

arXiv – cs.LG 27.02.2026 05:00

Forschung

OmniZip: schlanker, einheitlicher verlustfreier Kompressor für multimodale Daten

Die effiziente Speicherung und Übertragung von Daten ist in der heutigen datenintensiven Welt unverzichtbar. Während lernbasierte verlustfr…

arXiv – cs.LG 27.02.2026 05:00

Forschung

Latent Context Compilation: Lange Kontexte in kompakte Speicher komprimieren

Die effiziente Nutzung von Langzeitkontexten in großen Sprachmodellen bleibt ein zentrales Problem. Traditionelle Ansätze wie amortisierte…

arXiv – cs.AI 26.02.2026 05:00

Forschung

Neue Urban‑Vibrancy‑Embeddings verbessern Verkehrsvorhersagen

In einer aktuellen Studie aus dem arXiv-Repository wird gezeigt, wie die dynamische menschliche Aktivität in Städten mithilfe von mobilen D…

arXiv – cs.AI 26.02.2026 05:00

Forschung

AngelSlim: Kompakteres, umfassenderes und effizienteres Toolkit für große Modelle

Das neue Toolkit AngelSlim, entwickelt vom Tencent Hunyuan Team, bietet eine umfassende Lösung zur Kompression großer KI‑Modelle. Durch die…

arXiv – cs.AI 26.02.2026 05:00

Forschung

Neues Pruning-Verfahren kompensiert Gewichte mit Bias‑Störungen

In einem neuen Ansatz zur Netzwerkkompression wird nicht nur die überflüssige Gewichtung entfernt, sondern gleichzeitig der benachbarte Bia…

arXiv – cs.LG 25.02.2026 05:00

Forschung

Neue Proxy‑Methode steigert Effizienz beim Feintuning großer Sprachmodelle

Beim Supervised Fine‑Tuning (SFT) ist die Auswahl der Trainingsdaten entscheidend für die Leistung eines Modells. Gradientbasierte Auswahlv…

arXiv – cs.LG 23.02.2026 05:00

Forschung

Quantisierung von Sprachmodellen auf Ascend NPU: Erfolgreich, aber herausfordernd

Post‑Training‑Quantisierung (PTQ) ist ein entscheidender Schritt für die effiziente Bereitstellung von KI‑Modellen. Auf der Ascend NPU, ein…

arXiv – cs.AI 23.02.2026 05:00

Forschung

Neurale Netzwerke für Vogelüberwachung: Kompression bei mehr Klassen

Die Erhaltung der Artenvielfalt ist ein zentrales Anliegen der heutigen Zeit. Besonders Vögel eignen sich hervorragend für die Überwachung…

arXiv – cs.AI 23.02.2026 05:00

Forschung

Dual Length Codes: Schnellere, kompaktere Kompression von BFloat16 für LLMs

In der Welt der großen Sprachmodelle (LLMs) ist die Parallelisierung von Trainings- und Inferenzprozessen entscheidend, doch häufig wird si…

arXiv – cs.LG 23.02.2026 05:00

Forschung

GeneZip: DNA-Kompression mit regionalem Fokus erreicht 137,6-fache Reduktion

Die neue Methode GeneZip löst ein zentrales Problem der Genomforschung: die Verarbeitung von Sequenzen, die Milliarden von Basenpaaren umfa…

arXiv – cs.AI 23.02.2026 05:00

Forschung

LLM-Prompts: Code komprimiert besser als Mathematik – das Perplexity-Paradox erklärt

Eine neue Studie aus dem arXiv-Repository (2602.15843v1) klärt ein bislang unbestätigtes Phänomen in der Welt der großen Sprachmodelle (LLM…

arXiv – cs.AI 19.02.2026 05:00

Forschung

Sign Lock-In: Gewichtszeichen bleiben stabil – neue Theorie

In der neuesten Studie zur Sub‑Bit‑Modellkompression wird gezeigt, dass die Signatur der Gewichte – also deren Vorzeichen – ein entscheiden…

arXiv – cs.LG 20.02.2026 05:00

Forschung

SeleCom: Query-Conditioned Soft Compression für Retrieval-Augmented Generation

Retrieval-Augmented Generation (RAG) verbindet große Sprachmodelle mit externem Wissen und ist besonders bei Web-basierten Aufgaben beliebt…

arXiv – cs.AI 19.02.2026 05:00

Forschung

FUTURE-VLA: Echtzeit‑Vorhersage für Robotik mit einheitlicher Trajektorienplanung

Die neue Architektur FUTURE‑VLA revolutioniert die Robotik, indem sie langanhaltende Steuerung und Zukunftsvorhersage in einer einzigen Seq…

arXiv – cs.AI 19.02.2026 05:00

Forschung

Schnelle KV-Kompression durch Attention Matching

Die Skalierung von Sprachmodellen auf lange Kontexte wird häufig durch die Größe des Key‑Value‑Caches (KV‑Cache) begrenzt. In der Praxis we…

arXiv – cs.LG 19.02.2026 05:00

Forschung

COMPOT: Trainingfreie Kompression von Transformers mit Procrustes‑Optimierung

In der Praxis wird die Kompression von Transformer‑Modellen häufig mit einer abgeschnittenen Singulärwertzerlegung (SVD) durchgeführt. Dies…

arXiv – cs.LG 18.02.2026 05:00

Finde Modelle, Firmen und Themen

LegoNet: Speicherbedarf von neuronalen Netzen um 64‑fach reduziert

Transformer-Keys verkleinern: Low-Dimensional Attention spart Speicher

WebFactory: Automatisierte Kompression von Sprachmodellwissen zu Web-Agenten

Neues Lernverfahren optimiert DRAM-Equalizer mit Worst-Case-Garantie

NuMuon: Optimierer mit nuklearem Norm-Constraint steigert Kompression von LLMs

Neue Methode steigert Energiegewinn bei Sub-1-Bit-LLMs durch latente Geometrie

Draft-Thinking: Effizientes Lösen von langen Argumentationsketten in LLMs

Router‑Kalibrierung rettet re‑Training‑freie MoE‑Kompression

GRAIL: Post-hoc Linear-Reconstruction kompensiert Kompression von Deep Networks

LLMs bleiben trotz Skalierung fehleranfällig: Menschliche Anleitung als Engpass

Künstliche Agenten: Neugier, Kompression und Kommunikation als Schlüssel

DeepMind stellt Unified Latents vor: Optimiertes ML-Framework

SideQuest: KV-Cache-Management für langfristige agentische Aufgaben

Neues Prinzip: Schnellere Trainingszeit zeigt wahre Kausalrichtung

OmniZip: schlanker, einheitlicher verlustfreier Kompressor für multimodale Daten

Latent Context Compilation: Lange Kontexte in kompakte Speicher komprimieren

Neue Urban‑Vibrancy‑Embeddings verbessern Verkehrsvorhersagen

AngelSlim: Kompakteres, umfassenderes und effizienteres Toolkit für große Modelle

Neues Pruning-Verfahren kompensiert Gewichte mit Bias‑Störungen

Neue Proxy‑Methode steigert Effizienz beim Feintuning großer Sprachmodelle

Quantisierung von Sprachmodellen auf Ascend NPU: Erfolgreich, aber herausfordernd

Neurale Netzwerke für Vogelüberwachung: Kompression bei mehr Klassen

Dual Length Codes: Schnellere, kompaktere Kompression von BFloat16 für LLMs

GeneZip: DNA-Kompression mit regionalem Fokus erreicht 137,6-fache Reduktion

LLM-Prompts: Code komprimiert besser als Mathematik – das Perplexity-Paradox erklärt

Sign Lock-In: Gewichtszeichen bleiben stabil – neue Theorie

SeleCom: Query-Conditioned Soft Compression für Retrieval-Augmented Generation

FUTURE-VLA: Echtzeit‑Vorhersage für Robotik mit einheitlicher Trajektorienplanung

Schnelle KV-Kompression durch Attention Matching

COMPOT: Trainingfreie Kompression von Transformers mit Procrustes‑Optimierung

🍪 Cookie-Einstellungen