Google LiteRT NeuroPilot macht MediaTek Dimensity NPUs zu Top-Zielen für LLMs
Anzeige
Google und MediaTek haben den LiteRT NeuroPilot Accelerator vorgestellt, der es ermöglicht, generative KI-Modelle direkt auf Geräten auszuführen.
Der Accelerator verbindet die bestehende LiteRT Runtime mit dem NeuroPilot NPU-Stack von MediaTek, sodass Entwickler große Sprachmodelle und Embedding‑Modelle ohne ständige Cloud‑Abhängigkeit einsetzen können.
Damit können Smartphones, Laptops und IoT‑Geräte komplexe Sprach‑ und Textverarbeitungsaufgaben lokal erledigen, was die Latenz reduziert und die Privatsphäre verbessert.
Der Schritt markiert einen wichtigen Fortschritt in der On‑Device KI und eröffnet neue Möglichkeiten für Entwickler, KI‑Funktionalitäten in ihre Produkte zu integrieren.
Ähnliche Artikel
The Register – Headlines
•
SoundCloud klärt Datenleck nach Cyberangriff auf – VPNs bleiben zugänglich
arXiv – cs.LG
•
CLOAK: Diffusion‑basierte Methode schützt Zeitreihendaten
ZDNet – Artificial Intelligence
•
Windows 10 noch aktiv? So gefährlich ist das!
arXiv – cs.LG
•
Neues Spieltheoretisches Modell schützt Community-Detection vor Angriffen
ZDNet – Artificial Intelligence
•
Amazon's neue Gesichtserkennungs-KI für Türklingeln sorgt für Datenschutzbedenken
ZDNet – Artificial Intelligence
•
Promotions‑E‑Mails überwachen dich: 80 % verfolgen dich laut neuem Bericht