Wie verändert ein System sich selbst? Neue Theorie zur Selbstmodifikation

Ein kürzlich veröffentlichtes arXiv‑Paper (2603.27611v1) untersucht, was genau ein kognitives System verändert, wenn es seine eigene Funktionsweise anpasst. Die Autoren verbinden präzise Beschreibungen aus der kognitiven Wissenschaft – Executive Control, Metakognition und hierarchisches Lernen – mit aktuellen Entwicklungen in der künstlichen Intelligenz, die ebenfalls selbstmodifizierende Mechanismen einsetzen.

Das zentrale Ergebnis ist ein minimalistisches Modell, das aus drei Elementen besteht: einer Regelhierarchie, einem unveränderlichen Kern und einer klaren Unterscheidung zwischen effektiven Regeln, repräsentierten Regeln und kausal zugänglichen Regeln. Auf dieser Basis identifizieren die Forscher vier Selbstmodifikationsregime: (1) bloßes Handeln ohne Veränderung, (2) Modifikation auf niedriger Ebene, (3) strukturelle Veränderung und (4) teleologische Revision. Jedes Regime korrespondiert mit einem bekannten kognitiven Phänomen und einem entsprechenden KI‑System.

Wenn das Modell auf den Menschen angewendet wird, entsteht ein faszinierendes Bild der „Kreuzung der Opazitäten“. Menschen besitzen eine starke Selbstrepräsentation und kausale Kontrolle auf höheren Hierarchieebenen, während die operativen Ebenen weitgehend undurchsichtig bleiben. Bei reflexiven KI‑Systemen ist die Situation umgekehrt: Sie verfügen über umfangreiche Repräsentationen und kausalen Zugriff auf operativen Ebenen, jedoch fehlt ihnen die höchste Bewertungsstufe. Diese asymmetrische Struktur liefert einen klaren, strukturellen Fingerabdruck für den Vergleich von Mensch und Maschine.

Darüber hinaus eröffnet die Theorie neue Perspektiven für die Debatte um künstliches Bewusstsein. Sie umfasst bereits etablierte Ansätze wie höhere‑Ordnungstheorien und die Attention‑Schema‑Theorie als spezielle Fälle und bietet damit einen einheitlichen Rahmen, um die Grenzen zwischen biologischer und künstlicher Selbstmodifikation zu erforschen.