MedForge: Erklärbare Deepfake‑Erkennung in medizinischen Bildern

MedForge ist die erste umfassende Lösung, die Deepfake‑Manipulationen in medizinischen Bildgebungen zuverlässig erkennt und gleichzeitig nachvollziehbare, fachlich fundierte Erklärungen liefert. Durch die Kombination aus einem großen, realitätsnahen Datensatz und einem innovativen, vorhersageorientierten Modell setzt MedForge neue Maßstäbe in der Bildsicherheit.

Text‑gesteuerte Bildeditoren können mittlerweile echte medizinische Scans mit hoher Präzision verändern – von der Implantation bis zur Entfernung von Läsionen. Diese Fähigkeit stellt die klinische Vertrauenswürdigkeit und Patientensicherheit in Frage, während herkömmliche Verteidigungsmechanismen in der Gesundheitsbranche oft unzureichend sind. Viele aktuelle Deepfake‑Detektoren arbeiten als Black‑Box‑Modelle, und erklärende Modelle, die auf multimodalen Sprach‑ und Bildmodellen basieren, liefern häufig nachträgliche, nicht medizinisch fundierte Interpretationen, die sogar Halluzinationen erzeugen können.

MedForge bietet eine daten- und methodenbasierte Antwort: Der MedForge‑90K‑Benchmark umfasst über 90.000 realistische Läsionsmanipulationen in 19 Pathologien, unterstützt durch Experten‑Feedback und goldene Edit‑Standorte. Diese umfangreiche Sammlung ermöglicht es, Modelle mit einer echten, klinisch relevanten Basis zu trainieren und zu evaluieren.

Das Kernmodell, MedForge‑Reasoner, nutzt einen „lokalisieren‑dann‑analysieren“-Ansatz, um potenziell manipulierte Regionen vorherzusagen, bevor eine endgültige Entscheidung getroffen wird. Durch die Integration des Forgery‑aware GSPO-Mechanismus wird die Modellgrundlage gestärkt und die Gefahr von Halluzinationen reduziert. In umfangreichen Tests erzielt MedForge eine führende Erkennungsgenauigkeit und liefert gleichzeitig vertrauenswürdige, von Experten abgestimmte Erklärungen, die für die klinische Praxis von entscheidender Bedeutung sind.