Wasserstein-Analyse deckt Schwachstellen von Black-Box-ML auf

Die zunehmende Verbreitung von Machine‑Learning‑Modellen in der Industrie bringt nicht nur enorme Vorteile, sondern auch erhebliche Risiken mit sich. Besonders problematisch sind die weit verbreiteten Black‑Box‑Algorithmen, deren Entscheidungen schwer nachvollziehbar sind und die anfällig für unerwartete Schwachstellen sein können.

In einer neuen Studie auf arXiv (2603.15867v1) wird ein innovativer Ansatz vorgestellt, der die Theorie des Optimalen Transports nutzt, um die Reaktionsweise von ML‑Modellen auf Veränderungen in der Verteilung der Eingangsvariablen zu untersuchen. Durch die Berechnung der in Wasserstein‑Abstand nächstgelegenen Verteilung, die einen vorgegebenen Beschränkung erfüllt, lässt sich gezielt analysieren, wie sich diese Verteilung auf das Modellverhalten auswirkt.

Die Autoren liefern zudem Konvergenzresultate für die projizierte Verteilung und demonstrieren ihre Methode anhand von Beispielen sowie realen Datensätzen in Regressions‑ und Klassifikationsaufgaben. Damit bietet die Arbeit einen robusten Rahmen, um die Sicherheit und Transparenz von Black‑Box‑ML‑Systemen systematisch zu bewerten.