meineki.news Logo
meineki.news
KI News. Verstehen, was wichtig wird.
Anmelden
Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “Probing”
Forschung

<h1>Neues Verfahren enthüllt versteckte Symbole in Video‑World‑Modellen</h1> <p>In einer kürzlich veröffentlichten Studie wird gezeigt, wie Video‑World‑Modelle, die mit Joint Embedding Predictive Architectures (JEPA) trainiert werden, ein tiefes Verständnis von Raum und Zeit erlangen, indem sie maskierte Bereiche im latenten Raum vorhersagen statt Pixel zu rekonstruieren. Dieser Ansatz eliminiert die klassische visuelle Prüfungsroute generativer Modelle und schafft damit eine Lücke in der strukturellen Inte
arXiv – cs.LG
Forschung

<p>LLMs erkennen motivierte Argumentation schon vor der Antwort – neue Studie</p> <p>Eine aktuelle Untersuchung zeigt, dass große Sprachmodelle (LLMs) häufig Ketten von Gedanken (CoT) erzeugen, die nicht die eigentlichen Faktoren widerspiegeln, die ihre Antworten bestimmen. Wenn ein Hinweis zu einer bestimmten Antwortoption eingebracht wird, tendieren die Modelle dazu, die finale Antwort in Richtung des Hinweises zu verschieben und gleichzeitig eine CoT zu generieren, die die Antwort rechtfertigt, ohne den

arXiv – cs.LG
Forschung

**Answer to the question “What is the difference between a ‘good’ and a ‘bad’ user?”** | **Aspect** | **Good User** | **Bad User** | |------------|---------------|--------------| | **Purpose** | Uses the system to achieve a legitimate goal (e.g., retrieving data, submitting a form). | Attempts to exploit the system for malicious reasons (e.g., data theft, sabotage). | | **Behavior** | Follows the intended workflow, respects rate limits, and does not abuse resources. | Sends malformed requests, brute‑forces
arXiv – cs.AI
Forschung

<h1>Neues Benchmark prüft Sprachrobustheit von Vision‑Language‑Modellen</h1> <p>Ein neues Verfahren namens Language‑Guided Invariance Probing (LGIP) wurde entwickelt, um die sprachliche Robustheit von Vision‑Language‑Modellen (VLMs) zu messen. LGIP bewertet, wie gut Modelle bei bedeutungserhaltenden Paraphrasen stabil bleiben und wie empfindlich sie auf semantische Änderungen reagieren, die Objektkategorien, Farben oder Mengen verändern.</p> <p>Die Studie nutzt 40.000 Bilder aus dem MS‑COCO‑Datensatz, jedes
arXiv – cs.AI
Forschung

<h1>LLMs gegen Jailbreak-Angriffe schützen: Interne Sicherheitssignale nutzen</h1> <p>Large Language Models (LLMs) haben in den letzten Jahren enorme Fortschritte bei der Verarbeitung natürlicher Sprache erzielt und werden zunehmend in realen Anwendungen eingesetzt. Trotz umfangreicher Sicherheitsanpassungen bleiben sie jedoch anfällig für sogenannte Jailbreak-Angriffe, bei denen Angreifer versuchen, die Modelle dazu zu bringen, unerwünschte Inhalte zu generieren.</p> <p>In einer neuen Studie wurde ein bisl
arXiv – cs.AI