Jenseits von Constitutional AI
Verfassungsprüfung als die fehlende Hälfte des KI-Alignments
Einleitung
Mit dem Aufkommen von KI-Agenten ist das KI-Alignment aus einer theoretischen Frage zu einer praktischen technischen Herausforderung geworden. Da autonome Systeme zunehmend über längere Zeiträume hinweg planen, entscheiden und handeln können, stellt sich nicht mehr nur die Frage, wie sie sich verhalten sollen, sondern auch, wie ihr Verhalten verstanden, bewertet und geregelt werden kann.
Das von Anthropic entwickelte Konzept der Constitutional AI markiert einen wichtigen Meilenstein in dieser Entwicklung. Statt sich ausschließlich auf zahllose Einzelregeln oder menschliche Rückmeldungen zu stützen, führt es die Idee einer Verfassung ein: eine kleine Zahl grundlegender Prinzipien, die das Verhalten eines KI-Systems leiten sollen.
Das ist ein eleganter Gedanke.
Doch er wirft eine Frage auf, die offenbar weit weniger Beachtung findet:
Was geschieht, nachdem ein Agent gehandelt hat?
Eine Verfassung ist nicht nur deshalb wertvoll, weil sie künftige Entscheidungen beeinflusst. Ihre eigentliche Stärke liegt darin, als dauerhafter Maßstab zu dienen, an dem konkrete Handlungen bewertet werden können.
Vielleicht fehlt dem KI-Alignment genau diese zweite Hälfte.
Eine Verfassung ist mehr als eine Sammlung von Regeln
In Verfassungsdemokratien ist eine Verfassung nicht einfach ein weiteres Gesetz.
Sie ist die höchste Norm.
Sie versucht nicht, jede denkbare Situation im Detail zu regeln. Stattdessen legt sie Prinzipien fest, die von allen nachfolgenden Gesetzen und jedem staatlichen Handeln geachtet werden müssen.
Diese scheinbare Unvollständigkeit ist keine Schwäche.
Im Gegenteil: Verfassungen verwenden bewusst weit gefasste Begriffe wie Verhältnismäßigkeit, Gleichheit, Würde oder Freiheit, gerade weil sie auch auf Situationen anwendbar bleiben müssen, die ihre Urheber niemals vorhersehen konnten.
Die Stärke einer Verfassung liegt nicht in erschöpfender Präzision, sondern darin, trotz einer sich wandelnden Welt beständige Orientierung zu geben.
Für KI gilt dasselbe.
Kein Verfassungsdokument kann jede künftige Situation aufzählen, der ein autonomer Agent begegnen könnte.
Sein Zweck ist ein anderer.
Es schafft die normative Grundlage, an der jede künftige Handlung gemessen werden kann.
Constitutional AI löst nur die Hälfte des Problems
Die gegenwärtige Diskussion über KI-Alignment konzentriert sich vor allem darauf, gewünschtes Verhalten hervorzubringen.
Wie sollte ein Agent entscheiden?
Wie sollte er Schlussfolgerungen ziehen?
Wie sollte er schädliches Verhalten vermeiden?
Das sind wesentliche Fragen.
Doch sie betreffen nur eine Richtung des Problems:
Wie bringen wir verfassungskonformes Verhalten hervor?
Unmittelbar danach stellt sich eine ebenso wichtige Frage:
Wie stellen wir fest, ob eine abgeschlossene Handlung tatsächlich mit der Verfassung vereinbar war?
Dabei handelt es sich um grundlegend verschiedene Funktionen.
Die eine betrifft das Entscheiden.
Die andere betrifft die Verfassungsprüfung.
Wer beides verwechselt, verwischt eine wichtige architektonische Unterscheidung.
Verfassungsprüfung ist keine Selbsterklärung
Moderne KI-Systeme liefern zunehmend Erklärungen für ihr Verhalten.
Diese Erklärungen können wertvoll sein.
Sie verbessern die Transparenz.
Sie helfen Entwicklern, Fehler zu verstehen.
Sie stärken das Vertrauen darin, dass sich das System wie beabsichtigt verhält.
Doch sie sollten nicht selbst Teil der Verfassungsprüfung werden.
Die Verfassungsprüfung stellt nur eine Frage:
Ist Handlung H mit Verfassung C vereinbar?
Nicht mehr.
Nicht weniger.
Die interne Begründung, die zu der Handlung führte, gehört in ein anderes Verfahren.
Er kann erklären, warum der Agent gehandelt hat.
Er entscheidet nicht darüber, ob die Handlung der Verfassung entspricht.
Diese Unterscheidung entspricht einem wichtigen Merkmal des Verfassungsrechts.
Die normative Bewertung gilt der Handlung selbst.
Die Erklärung, wie die Entscheidung zustande kam, mag aufschlussreich sein, kann die normative Bewertung jedoch nicht ersetzen.
Die Trennung dieser beiden Fragen hat eine wichtige Konsequenz.
Verschiedene Agenten, die identische Handlungen ausführen, sollten identische verfassungsrechtliche Bewertungen erhalten – unabhängig davon, ob der eine eine differenzierte Erklärung liefert, während der andere vollständig schweigt.
Ebenso wenig kann eine wortgewandte Erklärung eine verfassungswidrige Handlung in eine verfassungsgemäße verwandeln.
Normative Legitimität darf niemals von rhetorischer Qualität abhängen.
Verfassungsprüfung ist eine Funktion, keine Institution
Verfassungsdemokratien übertragen die Verfassungsprüfung spezialisierten Gerichten.
Diese institutionelle Anordnung ist eine historisch entstandene Lösung.
Die ihr zugrunde liegende Funktion ist jedoch weitaus allgemeiner.
Jemand – oder etwas – muss die Frage beantworten:
Ist diese Handlung mit der Verfassung vereinbar?
Bei KI-Systemen muss diese Funktion keiner einzigen Autorität vorbehalten sein.
Stattdessen kann die Verfassungsprüfung zu einem offenen Verfahren werden.
Jede Implementierung sollte dieselbe Handlung anhand derselben Verfassung prüfen können.
Unterschiedliche Prüfinstanzen können zu unterschiedlichen Ergebnissen gelangen.
Das ist weder überraschend noch problematisch.
Der Wert der Verfassungsprüfung beruht nicht auf übereinstimmenden Ergebnissen.
Er beruht auf transparenten Begründungen.
Verglichen werden sollten daher nicht die Ergebnisse.
Sondern die Argumente.
Auf dem Weg zu einer offenen Verfassungsprüfung
Diese Perspektive legt eine andere Architektur nahe.
Statt einer einzigen privilegierten Verfassungsinstanz kann es viele Prüfinstanzen geben.
Ein KI-Anbieter kann eine Implementierung bereitstellen.
Ein unabhängiger Forscher kann eine andere entwickeln.
Ein Unternehmen kann eine eigene schaffen.
Eine Einzelperson kann ein völlig anderes Sprachmodell verwenden.
Alle Prüfinstanzen bewerten dieselbe beobachtbare Handlung anhand derselben Verfassung.
Ihre Legitimität leitet sich weder aus organisatorischer Autorität noch aus technischem Privileg ab.
Sie beruht allein auf der Qualität ihrer Begründungen.
Verfassungsprüfung wird damit reproduzierbar.
Vergleichbar.
Offen für Kritik.
Offen für Verbesserungen.
Persönliches KI-Alignment
Dieselbe Architektur lässt sich folgerichtig über öffentliche KI-Systeme hinaus anwenden.
Menschen delegieren zunehmend Teile ihres Denkens und Entscheidens an eine Vielzahl spezialisierter KI-Agenten.
Die zentrale Herausforderung besteht nicht mehr nur darin, einzelne Prompts zu kontrollieren.
Sie besteht darin, über ein sich wandelndes Ökosystem autonomer Assistenten hinweg Konsistenz zu wahren.
Eine persönliche Verfassung erfüllt hier dieselbe Aufgabe wie ein Verfassungsdokument innerhalb eines Staates.
Sie legt dauerhafte Prinzipien statt vorübergehender Anweisungen fest.
Prompts, Workflows und agentenspezifische Regeln werden zu nachgeordneten operativen Mechanismen.
Jede konkrete Handlung, die im Auftrag des Einzelnen ausgeführt wird, kann dann anhand dieser persönlichen Verfassung bewertet werden.
Wichtig ist, dass diese Bewertung unabhängig von dem Agenten bleibt, der die Handlung ausgeführt hat.
Die Verfassung wird zur gemeinsamen normativen Referenz für alle gegenwärtigen und künftigen Implementierungen.
Damit wird persönliches KI-Alignment von Prompt Engineering zu Governance.
Schluss
Vielleicht liegt der wichtigste Beitrag von Constitutional AI nicht in der Verfassung selbst.
Er liegt in der Erkenntnis, dass KI-Systeme eine beständige normative Grundlage benötigen.
Der nächste logische Schritt besteht darin anzuerkennen, dass jede Verfassung eine ebenso beständige Methode der Verfassungsprüfung erfordert.
Alignment ist daher nicht allein der Prozess, erwünschtes Verhalten hervorzubringen.
Es ist ebenso der Prozess, vollzogene Handlungen anhand einer gemeinsamen normativen Grundlage zu bewerten.
Diese Prüfung sollte von der internen Begründung unabhängig, über verschiedene Implementierungen hinweg reproduzierbar und durch transparente Argumente statt durch institutionelle Autorität begründet sein.
In Verfassungsdemokratien ordnen Verfassungen die Ausübung politischer Macht.
In einem Zeitalter autonomer KI-Agenten könnten sie etwas ebenso Grundlegendes ordnen:
die Ausübung delegierter Handlungsmacht.