AEGIS: Neue Governance-Plattform für medizinische KI nach US- und EU-Regeln

Die Einführung von maschinellen Lernsystemen in medizinischen Geräten erfordert robuste Governance-Modelle, die Sicherheit garantieren und gleichzeitig kontinuierliche Verbesserungen ermöglichen. Regulierungsbehörden wie die FDA in den USA und die Europäische Union haben dafür Mechanismen wie den Vorgesehenen Änderungssteuerungsplan (PCCP) bzw. die Post-Market Surveillance (PMS) eingeführt, um iterative Modellupdates ohne wiederholte Zulassungsanträge zu steuern.

In diesem Zusammenhang präsentiert die Studie die KI/ML Bewertung und Governance Infrastruktur für Sicherheit (AEGIS), ein universelles Governance-Framework für alle Gesundheits-KI-Systeme. AEGIS besteht aus drei Kernmodulen: Datensatzintegration und Retraining, Modellüberwachung sowie bedingte Entscheidungsfindung. Diese Module setzen die Vorgaben des FDA PCCP und des EU KI-Gesetzes Art. 43(4) praktisch um.

Ein zentrales Merkmal von AEGIS ist die vierkategoriale Bereitstellungstaxonomie – ZULASSUNG, BEDINGTE ZULASSUNG, KLINISCHE ÜBERPRÜFUNG und ABLEHNUNG – kombiniert mit einem unabhängigen PMS-Alarmsignal. Dieses Signal erkennt kritische Zustände, in denen kein deploybares Modell existiert, während das veröffentlichte Modell gleichzeitig gefährdet sein kann.

Die Anwendbarkeit von AEGIS wird anhand zweier exemplarischer Szenarien demonstriert: die Sepsisvorhersage aus elektronischen Gesundheitsakten und die Segmentierung von Hirntumoren in medizinischen Bildgebungen. Beide Fälle nutzen dieselbe Governance-Architektur, unterscheiden sich jedoch lediglich in der Konfiguration. In 11 simulierten Iterationen des Sepsis-Beispiels führte AEGIS zu 8 ZULASSUNG-, 1 BEDINGTE ZULASSUNG-, 1 KLINISCHE ÜBERPRÜFUNG- und 1 ABLEHNUNG-Entscheidungen, wodurch alle vier Kategorien aktiv genutzt wurden. Alarmsignale wurden in den Iterationen 8 und 10 ausgelöst, einschließlich des kritischen Zustands, in dem das aktuelle Modell nicht mehr sicher eingesetzt werden kann.