KI News: Kurz und klar.

In einer neuen Studie wird gezeigt, wie die Kombination mehrerer erklärbarer KI‑Techniken die Transparenz von Deep‑Learning‑Modellen für die Erkennung von Gehirntumoren deutlich verbessert. Das Team entwickelte ein maßgeschneidertes Convolutional Neural Network, das auf dem BraTS 2021‑Datensatz trainiert wurde und eine beeindruckende Genauigkeit von 91,24 % erreichte.

Erklärbare KI hat in den letzten Jahren enorme Fortschritte gemacht, doch ihre Einbindung in Edge‑ und IoT‑Systeme bleibt meist ad‑hoc und ineffizient. Traditionelle Ansätze erzeugen Erklärungen gleichzeitig mit den Modellvorhersagen, was zu redundanter Rechenlast, hoher Latenz und schlechter Skalierbarkeit führt – besonders bei heterogenen Edge‑Geräten.

Mit der rasanten Verbreitung von IoT‑Geräten wächst die Angriffsfläche für Cyberbedrohungen enorm. Ein robustes Intrusion‑Detection‑System (IDS), das gleichzeitig erklärbar und ressourcenschonend ist, wird daher immer wichtiger – besonders in Umgebungen mit begrenzten Rechenkapazitäten.

In ressourcenkritischen Bildübertragungs- und Verarbeitungsanwendungen stellen adversarial Perturbationen eine erhebliche Bedrohung für die Objektklassifizierung dar. Traditionelle Robustheitstests erfordern jedoch eine aufwendige, frameweise Verarbeitung und vollständige Bildveränderungen, was bei großen Bildströmen unverhältnismäßig viel Rechenleistung beansprucht.

In der aktuellen Forschung wird erklärbare KI (XAI) häufig als rein technisches Problem betrachtet, bei dem es darum geht, die inneren Abläufe eines Modells sichtbar zu machen. Diese Sichtweise beruht jedoch auf unreflektierten ontologisch‑epistemologischen Annahmen: Bedeutung sei im Modell selbst verankert, der Erklärer stehe außerhalb des Systems und eine kausale Struktur sei durch Rechenmethoden wiederherstellbar.

In Bangladesch, wo Ressourcen knapp sind, hat ein neues Forschungsprojekt gezeigt, dass ein hybrides erklärbares KI-Modell die Akzeptanz von Risikobewertungen in der Muttergesundheit deutlich erhöhen kann. Durch die Kombination von vorab definierten Fuzzy-Logikregeln mit nachträglichen SHAP-Erklärungen gelingt es, die Vorhersagen transparent und nachvollziehbar zu machen.

In den letzten Wochen haben mehrere Medienberichte die Grenzen von generativen KI-Modellen aufgezeigt. Während die Technologie weiterhin beeindruckende Texte, Bilder und Musik erzeugen kann, stoßen sie zunehmend auf praktische und ethische Hürden.

Die „What’s Next“-Reihe des MIT Technology Review untersucht Branchen, Trends und Technologien, um einen ersten Blick in die Zukunft zu geben. In der schnelllebigen Welt der künstlichen Intelligenz ist es leicht, Vorhersagen als riskant zu betrachten – doch die Autoren stützen ihre Einschätzungen auf umfangreiche Analysen und Experteninterviews.

In einer neuen Studie aus dem Bereich der Fernerkundung von Wäldern wird gezeigt, wie moderne Tiefenlernen-Modelle in Kombination mit erklärbaren KI-Methoden die Klassifikation von Baumarten deutlich verbessern können. Durch den Einsatz von Terrestrischer Laserscanning (TLS) werden hochauflösende Punktwolken erzeugt, die als Grundlage für die Analyse dienen.

Gesundheitssysteme weltweit kämpfen mit ineffizienten Diagnosen, steigenden Kosten und eingeschränktem Zugang zu Fachärzten. Diese Probleme führen häufig zu Verzögerungen in der Behandlung und zu schlechteren Gesundheitsergebnissen.

Marketplace Tech hat heute ein aufschlussreiches Interview mit einem führenden KI-Forscher geführt, der die nächste Generation von Modellen vorstellt, die nicht nur Muster erkennen, sondern die Welt verstehen.

In der Welt der erklärbaren künstlichen Intelligenz (XAI) stehen Attributionsmethoden im Mittelpunkt, wenn es darum geht, die Entscheidungen von Modellen nachvollziehbar zu machen. Typischerweise werden diese Methoden anhand von Fidelity‑Messgrößen wie Insertion und Deletion bewertet, die beide auf einer sogenannten Baseline‑Funktion beruhen. Diese Baseline verändert die Pixel eines Eingangsbildes, die laut Attributionskarte als besonders wichtig gelten.

MedXAI, ein neues, erklärbares KI-Framework für die medizinische Bildanalyse, kombiniert tiefes Lernen mit klinischem Fachwissen. Durch die Integration von Expertenwissen aus der Praxis verbessert das System die Generalisierung, reduziert Verzerrungen bei seltenen Erkrankungen und liefert verständliche Erklärungen, indem es diagnostisch relevante Bildregionen lokalisiert.

Die Interpolation – sowohl Craig- als auch Uniform-Interpolation – spielt eine zentrale Rolle in der Wissensrepräsentation. Sie ermöglicht es, komplexe Modelle zu erklären, Wissen gezielt zu vergessen, modulare Strukturen zu schaffen und sogar Lernprozesse zu unterstützen.

Ein neues Machine‑Learning‑Modell nutzt BioBERT, ein hochmodernes Sprachmodell, um unstrukturierte klinische Texte zu analysieren. Das System identifiziert Verhaltensbeschreibungen, ordnet sie den diagnostischen Kriterien des Autismus-Spektrums zu und entscheidet anschließend, ob ein Patient ASD hat oder nicht.

Die größte Konferenz im Bereich künstliche Intelligenz hat die langjährige Kritik an generativer KI bestätigt. In den Vorträgen und Workshops wurde deutlich, dass das alleinige Skalieren von Modellen nicht mehr ausreicht, um die gewünschten Fortschritte zu erzielen. Stattdessen stehen neue Ansätze im Fokus, die auf effizientere Lernmethoden, bessere Datenqualitäten und gezieltere Architekturen setzen.

In diesem Beitrag zeigen wir, wie man einen intelligenten Underwriter-Agenten für die Versicherungsbranche entwickelt, der drei zentrale Herausforderungen gleichzeitig löst: die Zusammenführung von isolierten Daten aus CRM-Systemen und Datenbanken, die Bereitstellung erklärbarer und prüfbarer KI-Entscheidungen zur Einhaltung regulatorischer Vorgaben sowie die automatisierte Betrugserkennung bei einheitlichen Underwriting-Regeln.

In den letzten Monaten hat die Forschung zu großen Sprachmodellen (LLM) einen bemerkenswerten Fortschritt erzielt: Hinweise darauf, dass diese Modelle in der Lage sind, sich ihrer eigenen internen Zustände bewusst zu werden, tauchen immer häufiger auf. Dieser Trend, der als „introspektive Bewusstheit“ bezeichnet wird, zeigt, dass LLMs nicht nur auf Eingaben reagieren, sondern auch über ihre eigenen Entscheidungsprozesse nachdenken können.

Shapley‑Werte gelten als Goldstandard für Feature‑Attributionen in erklärbarer KI, stoßen jedoch häufig an zwei Grenzen: Erstens wird in der klassischen Theorie die Additivität des Wert‑Funktionsmodells vorausgesetzt, während reale Daten oft durch nicht‑gaussianische Verteilungen, schwere Ränder, Feature‑Abhängigkeiten oder domänenspezifische Verlustskalen diese Annahme verletzen. Zweitens ist die Berechnung dichten Shapley‑Werte in hochdimensionalen Räumen mit anschließendem ad‑hoc‑Thresholding kostenintensiv und kann zu inkonsistenten Erklärungen führen.

Die neuesten Erkenntnisse aus der arXiv-Vorveröffentlichung „Jenseits der Black Box: Eine kognitive Architektur für erklärbare und ausgerichtete KI“ zeigen, dass herkömmliche KI‑Modelle in Bezug auf Nachvollziehbarkeit und Werteausrichtung stark eingeschränkt sind. Das vorgestellte Konzept, genannt „Gewicht‑Berechnungskonzept“, bietet einen radikalen Ansatz, um diese Schwächen zu überwinden.

NeurIPS hat die Liste der besten Forschungsarbeiten des Jahres 2025 veröffentlicht und damit mehr als nur beeindruckende Titel präsentiert. Die Auswahl liefert einen klaren Fahrplan für die Themen, die die KI‑Community aktuell an der Tagesordnung hat.

Die Idee des digitalen Zwillings stammt aus den NASA-Simulationsstudien der 1960er Jahre und hat sich seitdem von der Raumfahrt über die Industrie bis hin zur Medizin entwickelt. Ein digitaler Zwilling ist ein dynamisches, datengetriebenes virtuelles Modell eines physischen Systems, das kontinuierlich durch Echtzeitdaten aktualisiert wird und bidirektionale Interaktion ermöglicht.

In sicherheitskritischen Anwendungen, in denen Multi-Agenten-Lernsysteme eingesetzt werden, ist es entscheidend, zu verstehen, warum einzelne Agenten Entscheidungen treffen und wie sich daraus kollektives Verhalten ergibt. Trotz der wachsenden Bedeutung von erklärbarer KI (XAI) stoßen bestehende Methoden in Multi-Agenten-Umgebungen an ihre Grenzen: Sie können kollektive Ergebnisse nicht eindeutig einzelnen Agenten zuordnen, emergente Phänomene nicht quantifizieren und komplexe Interaktionen nicht adäquat erfassen.

Graph Neural Networks (GNNs) werden häufig zur Vervollständigung von Wissensgraphen eingesetzt. Ihre Black‑Box‑Natur hat die Entwicklung von erklärenden, logischen Regeln vorangetrieben, doch bislang fehlen systematische Ergebnisse für GNNs, die die Mittelwertaggregation nutzen. In der neuen Studie werden GNNs mit Mittelwertaggregation und nicht‑negativen Gewichten – MAGNNs – untersucht. Der Autor beweist, welche monotonen Regeln für diese Modelle wahrheitsgemäß sind, und stellt einen eingeschränkten Teil der ersten‑Ordnung‑Logik vor, mit dem jede MAGNN‑Vorhersage erklärt werden kann.