Erklärbare KI für die Seefahrt: Nutzerzentrierte Transparenz im Fokus

Mit dem rasanten Aufkommen autonomer Technologien wird im maritimen Bereich nicht mehr nur die Genauigkeit von Entscheidungen gefragt – die Nachvollziehbarkeit der Entscheidungen ist ebenso entscheidend. In den komplexen und dynamischen Umgebungen der Schifffahrt hängt das Vertrauen der Seeleute in KI-Systeme stark von deren Transparenz und Interpretierbarkeit ab.

Eine neue Studie betont, dass erklärbare KI (XAI) die Basis für effektive Mensch-Maschine-Teams im maritimen Umfeld bildet. Nur wenn die Nutzer die Gründe hinter einer KI-Entscheidung verstehen, können sie fundierte Überwachungs- und Kooperationsentscheidungen treffen.

Um XAI nutzerzentriert in die Praxis zu bringen, wurde ein fachspezifischer Fragebogen entwickelt, der die Wahrnehmung von Vertrauen, Benutzerfreundlichkeit und Erklärbarkeit bei maritimen Fachkräften erfasst. Ziel ist es, das Bewusstsein zu schärfen und die Entwicklung von XAI-Systemen zu steuern, die exakt auf die Bedürfnisse von Seeleuten und maritimen Teams zugeschnitten sind.