Was heißt “richtig” bei einem persönlichen Agenten?

Vor Kurzem habe ich einen fertig formulierten LinkedIn-Beitrag kaum noch gelesen. Ich habe ihn überflogen, kopiert und veröffentlicht.

Für sich genommen klingt das nicht besonders vernünftig. Ein von künstlicher Intelligenz erzeugter Text wird im eigenen Namen veröffentlicht, ohne noch einmal Wort für Wort geprüft zu werden. Ist das nicht genau die Art von blindem Vertrauen, vor der wir bei KI immer warnen?

Vielleicht. In diesem Fall greift die Beschreibung jedoch zu kurz.

Dem Text waren viele Gespräche vorausgegangen. Sprache, Unterscheidungen und persönliche Maßstäbe hatten sich über längere Zeit herausgebildet. Außerdem traf die Ausführung auf ein Repository, in dem frühere Entscheidungen und redaktionelle Konventionen bereits sichtbar waren. Ich vertraute deshalb nicht einfach einem einzelnen Output. Ich stützte mich auf die Erfahrung mit einer gemeinsamen Arbeitsweise.

Damit war ich gedanklich plötzlich nicht mehr zuerst bei KI-Agenten, sondern bei menschlichen persönlichen Assistenten.

Das menschliche Vorbild

Ein guter menschlicher persönlicher Assistent wird nicht dadurch wertvoll, dass der Auftraggeber jedes Ergebnis sorgfältig kontrolliert. Sein Wert entsteht über Zeit.

Beide lernen einander kennen. Sie arbeiten gemeinsam. Missverständnisse treten auf und werden korrigiert. Grenzen werden sichtbar. Verantwortung wird schrittweise übertragen.

Irgendwann kann der Auftraggeber sagen:

Kümmer dich darum.

Der Assistent weiß dann nicht alles. Aber er weiß, was mit dem Auftrag gemeint ist, welche Entscheidungen er selbst treffen kann, wann er rückfragen sollte und was der Auftraggeber niemals so wollen würde.

Dieses Wissen besteht nicht nur aus Regeln. Es ist in einer gemeinsamen Geschichte entstanden. Frühere Entscheidungen, Korrekturen und Konflikte geben neuen Situationen Bedeutung.

Vielleicht versuchen wir mit persönlichen KI-Agenten deshalb gar keine völlig neue Form der Zusammenarbeit zu erfinden. Vielleicht versuchen wir, eine alte menschliche Arbeitsbeziehung technisch neu herzustellen.

Alignment als alltägliche Zusammenarbeit

In der Diskussion über KI klingt Alignment häufig wie ein abstraktes Konstruktionsproblem: Wie bringen wir einem System die richtigen Werte bei? Wie formulieren wir Regeln, die auch in neuen Situationen tragen? Wie verhindern wir, dass ein Agent ein Ziel auf eine Weise verfolgt, die wir nicht gemeint haben?

Diese Fragen bleiben wichtig. Das menschliche Vorbild legt jedoch eine andere erste Frage nahe:

Wie entsteht zwischen zwei Akteuren eine Zusammenarbeit, in der einer zunehmend selbständig im Sinne des anderen handeln kann?

Damit wird Alignment nicht einfacher. Aber es wird konkreter.

Werte erscheinen dann nicht nur als Liste, die vor Beginn der Zusammenarbeit vollständig feststehen muss. Sie werden auch in der Zusammenarbeit sichtbar: in dem, was bestätigt wird, in dem, was irritiert, in Korrekturen, in gesetzten Grenzen und in Entscheidungen darüber, wann Verantwortung übertragen werden kann.

Ein persönlicher Agent müsste also nicht nur Anweisungen befolgen. Er müsste aus der Geschichte der Zusammenarbeit ein belastbares Arbeitsmodell entwickeln und dieses Modell zugleich vorläufig halten. Denn auch ein gut eingespieltes Gegenüber kann eine Situation falsch verstehen.

“Richtig” ist keine universelle Eigenschaft

An dieser Stelle ist das Wort “richtig” leicht missverständlich. Ein richtiger persönlicher Agent wäre für mich nicht ein Agent, der Zugang zu einer objektiv richtigen Antwort auf jede Situation besitzt.

Die sinnvollere Beschränkung lautet:

Ein richtiger persönlicher Agent ist nicht der Agent, der objektiv richtig handelt. Sondern einer, dessen Handeln mit meinen Werten vereinbar ist – und bei Unsicherheit weiß, wann er mich wieder ins Gespräch holen muss.

“Mit meinen Werten vereinbar” bedeutet dabei nicht, dass der Agent mir immer zustimmt. Zu meinen Werten kann gerade gehören, dass er auf einen Widerspruch hinweist, eine unbequeme Rückfrage stellt oder eine Grenze nicht stillschweigend überschreitet.

Vereinbarkeit ist deshalb nicht bloß Gehorsam. Sie verlangt ein hinreichend gutes Modell davon, was mir in einer Situation wichtig ist. Und sie verlangt die Fähigkeit, Konflikte innerhalb dieses Modells zu erkennen. Schnelligkeit kann wichtig sein, ebenso Sorgfalt. Öffentlichkeit kann gewollt sein, ebenso Zurückhaltung. Ein persönlicher Agent muss nicht nur einzelne Präferenzen kennen, sondern bemerken, wann sie miteinander in Spannung geraten.

Kontrolle verschwindet nicht

Die Analogie zum menschlichen Assistenten ist keine Aufforderung zu blindem Vertrauen.

Auch eine belastbare Zusammenarbeit macht Kontrolle nicht überflüssig. Sie verändert ihre Form. Am Anfang wird vielleicht fast jedes Ergebnis geprüft. Später richtet sich Aufmerksamkeit stärker auf die Qualität der gemeinsamen Arbeitsweise: Werden Missverständnisse sichtbar? Werden Korrekturen aufgenommen? Bleiben Grenzen stabil? Kommt der Assistent bei ungeklärten oder folgenreichen Entscheidungen zurück?

Wie viel einzelne Kontrolle notwendig bleibt, hängt weiterhin von den Folgen ab. Eine interne Notiz ist etwas anderes als ein Vertrag. Ein Website-Beitrag ist etwas anderes als eine medizinische Entscheidung. Und der letzte Klick in einen öffentlichen Kommunikationskanal kann eine sinnvolle Grenze markieren: Ja, das soll jetzt in meinem Namen erscheinen.

Vertrauen ersetzt Verantwortung also nicht. Es erlaubt, Verantwortung anders zu verteilen.

In meinem kleinen Publishing-Beispiel hatte sich ein Teil der Kontrolle von der Prüfung jedes einzelnen Satzes auf die über Zeit entstandene Qualität der Zusammenarbeit verlagert. Das kurze Überfliegen war nur deshalb vertretbar, weil davor viel Kennenlernen, Korrigieren und gemeinsames Arbeiten lag.

Für Agenten wieder auf Menschen schauen

Vielleicht führt der Weg zu persönlichen Agenten deshalb zunächst weg von den Agenten und voll zu den Menschen.

Menschen haben längst Praktiken dafür entwickelt, unter begrenztem Wissen Verantwortung zu übertragen: gemeinsam arbeiten, Erwartungen klären, Fehler besprechen, Zuständigkeiten unterscheiden und bei Unsicherheit das Gespräch wieder öffnen.

Diese Praktiken lösen nicht jedes technische Problem. Ein KI-System bleibt kein menschlicher Assistent. Es trägt keine Verantwortung im menschlichen Sinn, und seine scheinbare Vertrautheit kann ein falsches Gefühl von Verständnis erzeugen.

Gerade deshalb lohnt sich das menschliche Vorbild. Es erinnert daran, dass ein persönlicher Agent nicht schon dadurch persönlich wird, dass er viele persönliche Daten kennt oder einen besonders langen Satz von Anweisungen erhält.

Persönlich wird die Zusammenarbeit dort, wo über Zeit eine belastbare gemeinsame Orientierung entsteht.

Wenn wir “richtige” Agenten bauen wollen, reicht es vielleicht nicht, Werte einmal vollständig zu beschreiben. Wir müssen Formen der Zusammenarbeit gestalten, in denen Werte in konkreten Situationen sichtbar, korrigierbar und wirksam werden.

Dann könnte “Kümmer dich darum” irgendwann tatsächlich genügen.

Nicht weil der Agent immer richtigliegt.