Konzeptfrustration: Menschliche Konzepte mit maschinellen Modellen bringen

In der aktuellen Forschung zur erklärbaren KI steht die Frage im Mittelpunkt, wie menschlich verständliche Konzepte mit den internen Repräsentationen moderner Lernsysteme in Einklang gebracht werden können. Ein neues Papier aus dem arXiv präsentiert dazu einen geometrischen Rahmen, der es ermöglicht, überwachungsbasierte menschliche Konzepte mit unüberwachten Zwischenrepräsentationen von Foundation‑Modellen zu vergleichen.

Der Schlüsselbegriff „Konzeptfrustration“ beschreibt dabei eine widersprüchliche Situation: Ein bislang nicht beobachtetes Konzept zwingt bekannte Konzepte zu Beziehungen, die innerhalb der bestehenden Ontologie nicht konsistent sind. Diese Art von Konflikt ist für die Entwicklung von Modellen, die sowohl leistungsfähig als auch nachvollziehbar sein sollen, von zentraler Bedeutung.

Um Konzeptfrustration zu erkennen, wurden task‑angestimmte Ähnlichkeitsmaße entwickelt, die die Übereinstimmung zwischen konzeptbasierten Modellen und den aus Foundation‑Modellen extrahierten Repräsentationen messen. Die Autoren zeigen, dass diese Frustration in der task‑angestimmten Geometrie sichtbar wird, während klassische euklidische Vergleiche das Phänomen vernachlässigen.

Unter der Annahme eines linearen Gauss‑generativen Modells gelang es den Forschern, eine geschlossene Formel für die Bayes‑optimale Genauigkeit eines konzeptbasierten Klassifikators abzuleiten. Diese Formel zerlegt das Vorhersagesignal in bekannte‑bekannte, bekannte‑unbekannte und unbekannte‑unbekannte Beiträge und identifiziert analytisch, wo Konzeptfrustration die Leistung beeinträchtigt.

Experimentelle Ergebnisse – sowohl auf synthetischen Datensätzen als auch bei realen Sprach‑ und Bildaufgaben – bestätigen, dass Konzeptfrustration in den Repräsentationen von Foundation‑Modellen erkennbar ist. Darüber hinaus zeigt sich, dass die Einbeziehung eines frustrierenden Konzepts die Geometrie der gelernten Konzepte neu organisiert und so die Übereinstimmung zwischen menschlichem und maschinellem Denken verbessert.

Diese Erkenntnisse legen nahe, dass die gezielte Behandlung von Konzeptfrustration nicht nur die Interpretierbarkeit von KI-Systemen steigert, sondern auch deren Leistungsfähigkeit in praxisnahen Anwendungen erhöhen kann.