AI-Alignment neu gedacht: Von Verhalten zu Institutionen

Ein neues Papier auf arXiv präsentiert einen radikalen Ansatz, um die Sicherheit von KI-Systemen zu verbessern. Statt ausschließlich auf externe Beobachter und Rückmeldungen zu setzen, schlägt die Arbeit vor, die gesamte Architektur als ein institutionelles System zu gestalten, in dem die einzelnen Module selbstständig handeln und gleichzeitig aufeinander abgestimmt sind.

Der Autor kritisiert die bisher dominante Methode der „Verhaltenskorrektur“ – etwa durch Reinforcement Learning mit menschlicher Feedback (RLHF) – als vergleichbar mit einer Wirtschaft ohne Eigentumsrechte. In einem solchen System muss ständig überwacht und reguliert werden, was weder skalierbar noch nachhaltig ist.

Stattdessen wird ein „institutionelles Design“ vorgeschlagen, bei dem die Entwickler die inneren Transaktionsstrukturen festlegen: klare Modulgrenzen, Wettbewerbsszenarien und Kosten‑Feedback‑Schleifen. Dadurch wird das ausgerichtete Verhalten zur kostengünstigsten Strategie für jedes Teilsystem, sodass Fehlverhalten automatisch teuer, erkennbar und korrigierbar wird.

Die Arbeit identifiziert drei unvermeidbare Ebenen menschlicher Intervention – strukturell, parametrisch und überwacht – und wandelt das Problem der KI‑Ausrichtung von einer rein kontrolltechnischen Aufgabe in ein politisch‑ökonomisches Designproblem. Es wird betont, dass keine Institution Selbstinteresse vollständig ausschließen kann, aber ein gut gestaltetes System die Kosten für Fehlanpassungen maximiert.

Das Ziel sei nicht die perfekte Ausrichtung, sondern eine robuste, dynamische und selbstkorrigierende Institution, die unter menschlicher Aufsicht arbeitet. Diese theoretische Grundlage soll die in Begleitpapieren vorgestellten Wuxing‑Ressourcen‑Wettbewerbsmechanismen unterstützen.