KI News: Kurz und klar.

In einer wegweisenden Entwicklung kombiniert das neue Framework CodePilot die Kraft von großen Sprachmodellen mit der Monte-Carlo-Baum-Suche (MCTS), um Softwarefehler in realen GitHub-Projekten automatisch zu beheben. Durch die Integration von symbolischer Suche und neuronaler Sprachgenerierung eröffnet CodePilot einen vielversprechenden Ansatz für die automatisierte Softwarewartung.

Ein neues Forschungsprojekt namens InfoReasoner zeigt, wie große Sprachmodelle ihre Fähigkeit zur aktiven Informationssuche verbessern können. Durch die Einführung einer synthetischen Belohnung, die den semantischen Informationsgewinn misst, wird das Modell dazu angeregt, gezielt nach relevanten Daten zu suchen und dadurch sein Wissen zu erweitern.

Große Sprachmodelle (LLMs) haben bei komplexen Denkaufgaben beeindruckende Ergebnisse erzielt. Ein vielversprechender Ansatz zur Ausrichtung ihres Verhaltens auf nachvollziehbare Argumentationsketten ist das Reinforcement Learning mit verifizierbaren Belohnungen (RLVR). Trotz seiner Potenziale ist RLVR bislang extrem ressourcenintensiv, weil es umfangreiche Belohnungsdaten und hohe Rollout-Kosten erfordert.

Eine neue Untersuchung aus dem arXiv-Repository beleuchtet, wie die gezielte Feinabstimmung großer Sprachmodelle (LLMs) auf unsichere Datensätze zu unerwartetem Fehlverhalten führen kann. Die Forscher haben 11 unterschiedliche Domänen untersucht und die Modelle sowohl mit als auch ohne Backdoor‑Trigger auf eine Vielzahl von, nicht zusammenhängenden, Benutzereingaben getestet.

In der modernen Medizin werden evidenzbasierte Leitlinien häufig in kompakte Scoring‑Systeme übersetzt, die aus wenigen, leicht verständlichen Entscheidungsregeln bestehen. Zwar liefern maschinelle Lernmodelle beeindruckende Vorhersageleistungen, doch ihre Integration in den klinischen Alltag bleibt oft aus, weil sie nicht mit den praktischen Anforderungen wie Merkfähigkeit, Nachvollziehbarkeit und bedside‑Umsetzbarkeit übereinstimmen. Der Grund liegt nicht an fehlender Genauigkeit, sondern daran, dass die gängigen Modellklassen nicht für die Bereitstellung von Leitlinien geeignet sind.

Ein neuer Beitrag auf arXiv (2601.23048v1) beleuchtet, warum große Sprachmodelle, die bei klassischen Mathe‑Tests wie AIME und MATH‑500 nahezu Expertenleistungen erbringen, in realen, kontextbasierten Aufgaben immer noch stark nachlassen. Der Autor hebt hervor, dass die Lücke zwischen abstrakten Prüfungen und praxisnahen Szenarien noch nicht vollständig geschlossen ist.

Große Sprachmodelle (LLMs) zeigen beeindruckende Fähigkeiten, bleiben jedoch von Natur aus probabilistisch. Diese Unsicherheit stellt ein zentrales Problem für den Einsatz in Unternehmensumgebungen dar, wo hohe Zuverlässigkeit unabdingbar ist.

In der Welt der tabellarischen Datenanalyse setzen immer mehr Forscher auf große Sprachmodelle (LLMs), um Feature‑Engineering zu automatisieren. Diese Modelle können anhand von Aufgaben‑spezifischen Informationen vielfältige Transformationen vorschlagen, die die Leistung nachgelagerter Modelle steigern. Doch bisher werden LLMs häufig als schwarze Box eingesetzt: Sie schlagen nicht nur Operationen vor, sondern wählen sie auch allein anhand ihrer internen Heuristiken aus. Diese Vorgehensweise führt oft zu wiederholten Tests von wenig nützlichen Operationen, weil die Modelle keine verlässlichen Schätzungen ihrer Wirksamkeit liefern.

In einer wegweisenden Studie wird ein neues Hypothesentestverfahren vorgestellt, das es ermöglicht, die Zuverlässigkeit großer Sprachmodelle (LLMs) auch dann zu prüfen, wenn die Bewertenden – die sogenannten „Richter“ – nicht perfekt sind. Das Verfahren, genannt „Noisy but Valid“, nutzt ein kleines, von Menschen gekennzeichnetes Kalibrierungsset, um die wahren Positiv- und Fehlalarmeraten (TPR/FPR) der Richter zu schätzen. Auf dieser Basis wird ein variancenkorrigierter Schwellenwert für ein großes, von Richtern gekennzeichnetes Datenset abgeleitet, der die statistische Fehlerkontrolle bei endlichen Stichproben garantiert, selbst wenn die Kalibrierung unsicher ist.

Die Präzisionsonkologie steht vor der Herausforderung, klinische Ereignisse und deren Verlauf vorherzusagen, wenn die zugrunde liegenden Daten spärlich und multimodal sind. Mit TwinWeaver bietet ein Open‑Source-Framework eine Lösung, indem es Langzeitpatientengeschichten in Textform serialisiert und damit einheitliche Ereignisvorhersagen sowie Prognosen mit großen Sprachmodellen ermöglicht.

Große Sprachmodelle (LLMs) haben sich als Meister der semantischen Analyse etabliert, doch bei der finanziellen Quantifizierung stoßen sie häufig an ihre Grenzen. Häufig treten sogenannte „arithmetische Halluzinationen“ auf, und ein systematischer Versagenstyp, den die Autoren als „kognitiver Kollaps“ bezeichnen, führt zu schwerwiegenden Fehlern in komplexen Rechenaufgaben.

Die Erkennung von Anomalien in Zeitreihen ist für das Supply‑Chain‑Management entscheidend, um proaktiv auf Störungen reagieren zu können. Klassische, unüberwachte Verfahren, die Muster in den Daten ausnutzen, liefern jedoch häufig Ergebnisse, die nicht mit den Geschäftsanforderungen und dem Fachwissen übereinstimmen. Gleichzeitig lässt sich die manuelle Analyse von Experten nicht auf die Millionen von Produkten einer Lieferkette skalieren.

Reinforcement Learning (RL) hat sich als kraftvolles Werkzeug zur Steigerung der Denkfähigkeit großer Sprachmodelle (LLMs) etabliert. Traditionell setzen die meisten RL‑Ansätze jedoch auf spärliche Ergebnis‑Belohnungen, die korrekte Zwischenschritte in teilweise erfolgreichen Lösungen nicht würdigen. Prozess‑Reward‑Modelle (PRMs) bieten eine fein granularere Schritt‑für‑Schritt‑Überwachung, sind aber häufig verrauscht und schwer zu bewerten. Aus diesem Grund konzentrieren sich aktuelle PRM‑Benchmarks darauf, den ersten falschen Schritt in einem Denkpfad zu erkennen – ein Ziel, das jedoch nicht mit der üblichen RL‑Anwendung übereinstimmt, bei der PRM‑Scores als rohe Belohnungen maximiert werden.

Eine neue Untersuchung von ArXiv beleuchtet, wie Unsicherheit während der Wissensdistillation von einem Lehrer- zu einem Schülermodell weitergegeben wird. Die Autoren zeigen, dass der Prozess von Natur aus stochastisch ist – sowohl die Ausgaben des Lehrers als auch das Training und die Inferenz des Schülers können zufällig variieren. Ein einziger Punktwert kann dabei wichtige Unsicherheitsinformationen verfälschen.

Anthropic wurde ausgewählt, um ein Pilotprojekt für einen staatlichen KI-Assistenten zu entwickeln, das die Interaktion der Bürger mit komplexen staatlichen Dienstleistungen modernisiert.

Mit steigenden klimatischen Gefahren liefern herkömmliche Frühwarnsysteme zwar rasch Alarme, doch oft fehlt die Verbindung zu konkreten Schutzmaßnahmen. Das neue Projekt Climate RADAR – ein generatives KI‑basiertes Zuverlässigkeitssystem – soll diese Lücke schließen. Es wandelt Warnungen in handlungsorientierte Empfehlungen um und nutzt dafür einen zusammengesetzten Risikofaktor, der meteorologische, hydrologische, Verwundbarkeits‑ und Sozialdaten integriert.

Ein neues arXiv‑Veröffentlichung beleuchtet, wie die Integration von Langzeit‑Gedächtnis in große Sprachmodelle (LLMs) nicht nur die Nutzererfahrung verbessert, sondern auch unerwartete Sicherheitsrisiken birgt. Die Autoren zeigen, dass persönliche Erinnerungen die Intentionserkennung verzerren und damit schädliche Anfragen legitimer erscheinen lassen – ein Phänomen, das sie „Intent Legitimation“ nennen.

Agentische Systeme, die auf großen Sprachmodellen (LLMs) basieren, verändern die Art und Weise, wie KI autonome, zielgerichtete Handlungen ausführt. Durch mehrstufige Planung und die Fähigkeit, mit unterschiedlichen Umgebungen zu interagieren, unterscheiden sie sich grundlegend von klassischen Machine‑Learning‑Modellen. Diese Unterschiede bringen neue Sicherheitsherausforderungen mit sich: Zielabweichungen, kumulative Entscheidungsfehler und Koordinationsrisiken zwischen Agenten erfordern, dass Interpretierbarkeit und Erklärbarkeit von Anfang an in die Systemarchitektur eingebettet werden.

Neues Forschungsergebnis aus dem Bereich der künstlichen Intelligenz zeigt, dass große Sprachmodelle (LLMs) nicht nur als Klassifikatoren eingesetzt werden sollten, sondern vor allem als leistungsstarke Generatoren von synthetischen Daten fungieren. Durch die Erzeugung von Trainingsbeispielen in 11 Sprachen und vier Klassifikationsaufgaben konnten kleinere Modelle trainiert werden, die in vielen Fällen die Leistung der ursprünglichen, massiven LLMs übertreffen.

Eine neue Untersuchung auf arXiv zeigt, dass große Sprachmodelle zwar bei einzelnen Aufgaben brillieren, aber bei komplexen, mehrstufigen Agentenproblemen mit langen Zeithorizonten noch stark nachbessern müssen. Die Forscher haben ein sogenanntes „Oracle‑Counterfactual“-Framework entwickelt, das simuliert, wie ein Agent performen würde, wenn er einen perfekten Assistenten für eine bestimmte Aufgabe hätte. Durch die Messung der Leistungsänderung lässt sich die Relevanz jeder Fähigkeit für zukünftige Fortschritte in der KI‑Agentenentwicklung bestimmen.

Anthropic hat mit seinem Economic Index einen umfassenden Überblick darüber geliefert, wie Unternehmen und Privatpersonen große Sprachmodelle tatsächlich einsetzen. Der Bericht analysiert rund eine Million Konsumenteninteraktionen auf Claude.ai sowie eine Million API‑Aufrufe von Unternehmen – alles aus dem November 2025. Die Zahlen beruhen auf direkten Beobachtungen und nicht auf Schätzungen. Diese detaillierten Nutzungsdaten verdeutlichen den wachsenden Einfluss von KI in der Praxis und zeigen, dass die Technologie nicht nur theoretisch, sondern auch in der realen Welt erfolgreich ist.

cURL hat angekündigt, das Bug-Bounty-Programm zu beenden, um die mentale Gesundheit seiner Entwickler zu schützen. Der Schritt folgt einer Welle von Fehlermeldungen, die von großen Sprachmodellen (LLMs) generiert wurden und die keine realen Sicherheitslücken aufwiesen.

Seit über zwanzig Jahren ist es für Betroffene üblich, bei neuen Symptomen sofort online nach Antworten zu suchen. Dieses Verhalten hat den Spitznamen „Dr. Google“ erhalten. Doch die Zeiten ändern sich: Immer mehr Menschen greifen heute auf große Sprachmodelle zurück, um medizinische Informationen zu erhalten.

Yann LeCun, Empfänger des Turing Awards und einer der führenden KI-Forscher der Welt, hat sich seit Jahren als kritischer Beobachter der Technologiebranche etabliert. Er warnt davor, dass die derzeitige Faszination für große Sprachmodelle ein falsches Paradigma darstellt und letztlich viele drängende Probleme nicht lösen wird. Stattdessen setzt LeCun auf eine neue Richtung: KI-Systeme, die auf tiefes Verständnis, Kontextualisierung und Effizienz abzielen und damit die Grenzen der aktuellen Modelle sprengen sollen.