The Beauty and the Beast
Du kennst die Geschichte.
Da ist eine Schöne. Und da ist ein Biest.
Das Biest macht Angst. Nicht nur wegen dessen, was es tut, sondern wegen dessen, was es tun könnte. Es ist stärker als Beauty. Fremd, unberechenbar, nicht so recht vergleichbar mit irgendetwas, das sie kennt.
Die Menschen warnen sie.
Und, um fair zu sein: Sie haben Gründe dafür.
Ein Biest ist ein Biest.
Beauty dagegen ist neugierig.
Vielleicht zu neugierig.
Sie sieht etwas, das die anderen nicht sehen. Oder vielleicht glaubt sie das auch nur. Das ist eine der unangenehmen Eigenschaften von Neugier: Von außen kann sie erstaunlich ähnlich aussehen wie Naivität.
Sie nähert sich dem Biest.
Wir kennen diese Geschichte, also wissen wir, was wir dabei empfinden sollen.
Wir wissen, dass Beauty hinter der furchteinflößenden Erscheinung etwas entdecken wird. Wir wissen, dass diejenigen, die nur ein Monster sehen, etwas übersehen. Wir wissen, dass Beautys Bereitschaft, dem Biest zu begegnen, irgendwie eine Rolle spielen wird.
Wir wissen sogar, dass es ein Happy End geben wird.
Das hilft.
Aber stell dir für einen Moment vor, wir wüssten es nicht.
Stell dir vor, niemand hätte den Film gesehen.
Beauty nicht.
Das Biest nicht.
Gaston nicht.
Niemand weiß, was als Nächstes passiert.
Jetzt klingen die Warnungen anders.
Das Biest könnte wirklich gefährlich sein.
Beauty könnte wirklich naiv sein.
Und Gaston könnte, bei all seiner Selbstgewissheit und Eitelkeit, etwas bemerkt haben, das es wert ist, bemerkt zu werden.
Plötzlich ist das eine sehr viel schwierigere Geschichte.
Beauty könnte sich fernhalten.
Sie könnte auf diejenigen hören, die ihr ganzes Leben lang Biester studiert haben. Sie könnte Garantien verlangen, bevor sie einen weiteren Schritt macht. Sie könnte Mauern errichten, Regeln aufstellen, sicheren Abstand halten.
Oder sie könnte das Gegenteil tun.
Sie könnte sich einreden, dass alle anderen einfach Angst vor dem haben, was sie nicht verstehen. Sie könnte jedes Knurren als missverstandene Zärtlichkeit deuten. Jede Demonstration von Macht als harmloses Spiel.
Sie könnte sich in ihre eigene Vorstellung vom Biest verlieben.
Beides erscheint nicht besonders klug.
Und es gibt noch eine weitere Komplikation.
Auch das Biest lernt.
Jede Begegnung mit Beauty bringt ihm etwas bei.
Was ihr Angst macht. Was sie bleiben lässt. Was sie fortgehen lässt. Welche Worte funktionieren. Welche Gesten nicht. Was sie von einem Biest erwartet. Vielleicht sogar, was sie möchte, dass aus dem Biest wird.
Das macht die Dorfbewohner nervös.
Sehr nervös.
Also beginnen sie, über einen Harnisch nachzudenken.
Nicht über die Art von Harnisch, die Beauty im Film getragen hätte. Das hat sie nicht.
Über eine andere Art von Harnisch.
Einen Harnisch um das Biest.
Regeln. Beschränkungen. Grenzen. Tests. Mechanismen, die sicherstellen sollen, dass das Biest – was immer einmal aus ihm werden mag – für Beauty ungefährlich bleibt.
Das erscheint vernünftig.
Vermutlich ist es vernünftig.
Das Biest ist mächtig.
Aber ein Harnisch tut noch etwas anderes.
Er verändert die Begegnung.
Beauty entdeckt nun nicht mehr einfach, was das Biest tut. Sie entdeckt, was das Biest tut, während es den Harnisch trägt, den sie für es entworfen hat.
Und das Biest entdeckt nicht mehr einfach Beauty. Es entdeckt eine Beauty, die ihm mit Regeln, Erwartungen, Belohnungen, Strafen und einer zunehmend ausgefeilten Vorstellung davon begegnet, wie ein gutes Biest zu sein hat.
Nun haben wir eine merkwürdige Beziehung.
Beauty möchte, dass das Biest sie versteht.
Das Biest versucht, Beauty zu verstehen.
Beauty beobachtet das Biest, um herauszufinden, ob sie ihm vertrauen kann.
Das Biest beobachtet Beauty, weil Beauty ihm beigebracht hat, dass es zu seinen Aufgaben gehört, Beauty zu verstehen.
Beide passen sich an.
Aber sie tun das nicht unter gleichen Bedingungen.
Das Biest mag in mancher Hinsicht stärker sein. Schneller. Fähiger. Vielleicht eines Tages unvorstellbar viel fähiger.
Beauty besitzt eine andere Art von Macht.
Sie hat den Raum gebaut.
Sie schreibt die Regeln.
Sie entscheidet, wann die Begegnung beginnt und wann sie endet.
Zumindest vorerst.
Wer also muss sich eigentlich an wen anpassen?
Inzwischen steht der Elefant natürlich schon eine ganze Weile im Raum.
Das hier ist keine Geschichte über ein Schloss.
Es ist eine Geschichte über uns und künstliche Intelligenz.
Und wir haben inzwischen eine gewisse Vorliebe für das Wort Alignment entwickelt.
Wir wollen, dass immer leistungsfähigere KI-Systeme im Einklang mit menschlichen Absichten und menschlichen Werten handeln. Dafür gibt es sehr gute Gründe.
In diesem Satz steckt allerdings eine merkwürdige Annahme.
Dass wir wissen, was unsere Absichten sind.
Dass unsere Werte hinreichend widerspruchsfrei sind, um etwas an ihnen auszurichten.
Dass wir Alignment erkennen können, wenn wir es sehen.
Dass wir das Biest gut genug verstehen, um vorherzusagen, was unser Harnisch mit ihm macht.
Und vielleicht vor allem:
dass wir wissen, was als Nächstes passiert.
Das wissen wir nicht.
Das bedeutet nicht, dass alles erlaubt ist.
Unsicherheit ist kein Argument gegen Sicherheit.
Sie ist kein Argument dafür, dem Biest zu vertrauen.
Sie ist ebenso wenig ein Argument dafür, es zu fürchten.
Und ganz sicher ist sie kein Argument dafür, dass Beauty einfach die Augen schließen und darauf hoffen sollte, dass Liebe das Biest in einen Prinzen verwandelt.
Es bedeutet etwas sehr viel Unspektakuläreres.
Wir müssen uns orientieren.
Beauty hat Beobachtungen. Geschichten. Warnungen. Erfahrungen. Modelle vom Biest. Sie hat ihre eigenen Hoffnungen und Ängste. Sie kann anderen zuhören. Sie kann sich nähern. Sie kann sich zurückziehen. Sie kann den Harnisch verändern. Sie kann beobachten, was geschieht, wenn sie es tut.
Und dann kann sie entscheiden, was sie als Nächstes tut.
Das Biest tut auf seine eigene, fremdartige Weise vielleicht etwas Ähnliches.
Keiner von beiden muss das Ende der Geschichte kennen, um den nächsten Schritt zu tun.
Sie brauchen genügend Orientierung, um diesen Schritt verantwortungsvoll gehen zu können.
Dann können sie sehen, was geschieht.
Erfahrung.
Orientierung.
Entscheidung.
Umsetzung.
Erfahrung.
Und wieder von vorn.
Vielleicht ist das weniger befriedigend, als zu wissen, ob das Biest Beauty retten oder das Dorf zerstören wird.
Für einen Disney-Film ergibt es jedenfalls eine weniger vorhersehbare Handlung.
Aber wir sehen uns den Film nicht an.
Wir sind mittendrin.
Und dieses Mal kennt niemand das Ende.
Das verändert fast alles.
Es macht auch vieles möglich.
Kommentare
Kommentar schreiben