Das geerbte Alignment-Problem
Was, wenn unsere Vorstellung von KI-Alignment ebenso viel über unser erlerntes Verhältnis zu Technik verrät wie über KI?
TL;DR: Wir haben über Jahrzehnte gelernt, komplexer Technik zu misstrauen, ihre Undurchschaubarkeit hinzunehmen und Sicherheit vor allem durch Kontrolle herzustellen. Nun begegnen wir KI mit demselben Mindset – obwohl die Mensch-KI-Interaktion in wichtigen Dimensionen eher Mensch-Mensch-Beziehungen ähnelt als der Bedienung klassischer Software. Das bedeutet nicht, dass Vertrauen die Lösung des Alignment-Problems ist. Aber vielleicht sollten wir untersuchen, welche Teile des Problems wir bereits mitgebracht haben.
Heute meldete mir OneDrive plötzlich einen Fehler. Eine Datei namens „Persönlicher Tresor“ könne nicht synchronisiert werden.
Ich hatte keinen persönlichen Tresor angelegt. Ich wusste nicht einmal, was damit gemeint war.
Man hätte die Meldung wegklicken, die Datei löschen und weitermachen können. Genau das tun wir normalerweise. Nicht unbedingt aus Bequemlichkeit, sondern weil wir gelernt haben, dass die Frage „Warum tut mein Computer das?“ selten eine Antwort bekommt, deren Suche den Aufwand rechtfertigt.
Diesmal habe ich nachgesehen.
Der Vorgang ließ sich tatsächlich ziemlich weit rekonstruieren. Die Datei war von Microsofts eigener Software angelegt worden. Später hatte Microsofts Software sie verändert. Anschließend beanstandete Microsofts Software diese Datei.
Ich löschte sie. Die Fehlermeldung verschwand.
Der Vorgang selbst ist belanglos. Interessanter ist, was wir gelernt haben, mit solchen Vorgängen zu tun:
nicht mehr zu fragen.
Was wir über Technik gelernt haben
Das Verhältnis zwischen Mensch und Computer hat sich in den vergangenen Jahrzehnten merkwürdig entwickelt.
Computer sind sehr viel leistungsfähiger geworden. Ihre Oberflächen sind einfacher geworden. Immer mehr technische Komplexität wird vor dem Benutzer verborgen.
Das war zu einem erheblichen Teil Fortschritt. Niemand möchte vor dem Schreiben einer E-Mail zunächst Netzwerkprotokolle konfigurieren.
Aber wir haben dabei nicht nur Komplexität verborgen. Wir haben zunehmend auch Kausalität verborgen.
Etwas geschieht. Eine Meldung erscheint. Eine Einstellung hat sich geändert. Eine Anmeldung funktioniert plötzlich anders. Ein Dienst synchronisiert nicht mehr. Vielleicht gibt es einen Button mit „Problem beheben“.
Warum das alles geschieht, bleibt häufig außerhalb dessen, was das Produkt seinem Benutzer überhaupt noch erklären möchte.
Und Menschen lernen.
Sie lernen, Meldungen zu bestätigen. Sie lernen, Programme neu zu starten. Sie lernen, Empfehlungen zu folgen. Sie lernen, dass Nachvollziehen teuer und oft aussichtslos ist.
Das ist keine Dummheit. Es ist eine rationale Anpassung an Systeme, die Nachvollziehbarkeit nicht mehr als wesentlichen Bestandteil ihrer Beziehung zum Menschen behandeln.
Mit der Zeit entsteht daraus ein bestimmtes Verhältnis zu Technik.
Wir erwarten nicht, dass wir sie verstehen.
Wir erwarten nicht, dass sie sich erklärt.
Und gerade deshalb erwarten wir, dass sie kontrolliert wird.
Und dann kam KI
Nun erscheint eine neue Art technischer Systeme.
Natürlich sind auch große Sprachmodelle Technik. Sie laufen auf Computern, sind mathematisch beschreibbar und von Menschen konstruiert. Es gibt keinen Grund, ihnen deshalb menschliche Eigenschaften zuzuschreiben.
Aber die Interaktion hat sich verändert.
Ich kann einer KI erklären, was ich erreichen möchte. Sie kann nachfragen. Ich kann ihrer Interpretation widersprechen. Sie kann ihren Vorschlag verändern. Wir können Missverständnisse entdecken. Kontext kann über längere Gespräche entstehen. Ich kann Gründe verlangen und Gründe anbieten.
Und irgendwann tauchen dabei Begriffe auf, die in der klassischen Mensch-Maschine-Interaktion seltsam geklungen hätten:
Verständigung. Kooperation. Vertrauen. Verlässlichkeit. Missverständnis. Erwartung. Widerspruch.
Das macht KI nicht zum Menschen.
Aber es sollte uns zumindest fragen lassen, ob die Bedienungsanleitung für unser bisheriges Verhältnis zu Technik noch ausreicht.
Denn wir bringen diese Bedienungsanleitung bereits mit.
Das Alignment-Problem
Ein erheblicher Teil des heutigen Alignment-Diskurses beginnt mit einer nachvollziehbaren Sorge.
Leistungsfähige KI-Systeme könnten Dinge tun, die Menschen nicht wollen. Ihre internen Prozesse sind nur eingeschränkt nachvollziehbar. Mit wachsender Autonomie könnten Fehler oder unerwünschtes Verhalten erhebliche Folgen haben.
Also beschäftigen wir uns mit Kontrolle, Aufsicht, Interpretierbarkeit, Begrenzung, Korrigierbarkeit und der Frage, wie menschliche Werte und Präferenzen in das Verhalten solcher Systeme gelangen.
Das alles sind vernünftige Fragen.
Aber vielleicht fehlt eine Frage davor:
Mit welchem Verständnis unserer Beziehung zu Technik haben wir das Alignment-Problem eigentlich formuliert?
Begriffe wie Kontrolle und Aufsicht erscheinen uns nicht im luftleeren Raum. Wir kommen aus einer langen Erfahrung mit technischen Systemen, denen gegenüber Misstrauen häufig vernünftig ist.
Eine Maschine verfolgt keine gemeinsame Verständigung mit uns. Ein Betriebssystem verhandelt nicht. Eine Cloud-Anwendung übernimmt keine Verantwortung dafür, dass wir ihre Entscheidung verstanden haben.
Wenn diese Systeme komplexer und undurchsichtiger werden, bleibt uns deshalb tatsächlich vor allem eines:
Wir versuchen, ihr Verhalten zu kontrollieren.
Das ist ein vernünftiges Modell für Maschinen.
Aber ist es zwangsläufig das richtige Ausgangsmodell für jede zukünftige Beziehung zwischen Mensch und KI?
Ein Problem, das wir vielleicht geerbt haben
Damit ist ausdrücklich nicht gesagt, wir sollten KI einfach vertrauen.
Auch Menschen vertrauen einander nicht einfach.
Gerade deshalb lohnt sich der Vergleich.
Menschen leben seit Jahrtausenden mit Gegenübern, deren innere Zustände sie nicht vollständig kennen, deren Verhalten sie nicht vollständig vorhersagen können und deren Interessen nicht notwendig mit ihren eigenen übereinstimmen.
Unsere Antwort darauf war bemerkenswerterweise nie nur Kontrolle.
Wir haben Vertrauen entwickelt – und Misstrauen.
Wir haben Verträge, Regeln und Institutionen entwickelt. Wir kennen Reputation und Verantwortung, Grenzen und Sanktionen, Verhandlung und Widerspruch. Wir versuchen Interessen zu verstehen. Wir erwarten Verlässlichkeit, ohne vollständige Vorhersagbarkeit zu verlangen.
Und wir haben gelernt, dass Kooperation nicht dasselbe ist wie Gehorsam.
All das funktioniert keineswegs perfekt. Die Menschheitsgeschichte wäre ein ziemlich überzeugender Gegenbeweis für jede romantische Vorstellung davon.
Aber genau deshalb könnte diese Erfahrung interessant sein.
Denn es handelt sich um Formen des Umgangs mit einem nicht vollständig kontrollierbaren Gegenüber.
Vielleicht ist Alignment keine Einbahnstraße
Das verändert die Frage.
Statt ausschließlich zu fragen:
Wie müssen wir KI verändern, damit sie sich so verhält, wie wir es von ihr erwarten?
könnten wir zusätzlich fragen:
Welche Beziehung zwischen Menschen und KI würde verlässliche Kooperation überhaupt ermöglichen?
Und dann wird es unangenehm, weil diese Frage nicht mehr ausschließlich an die KI gerichtet ist.
Welche Erwartungen bringen wir mit?
Welches Verhalten fördern wir?
Was verstehen wir unter Vertrauen?
Wie gehen wir mit Widerspruch um?
Wollen wir ein Gegenüber, das gute Gründe entwickelt – oder eines, das zuverlässig zustimmt?
Was bedeutet Verantwortung in einer Beziehung, in der die Fähigkeiten und die Macht auf beiden Seiten sehr unterschiedlich verteilt sein können?
Und schließlich:
Wie aligned sind eigentlich wir?
Nicht im Sinne einer moralischen Gleichsetzung von Mensch und Maschine. Und auch nicht, um Verantwortung für technische Sicherheit vom Entwickler auf den Benutzer zu verschieben.
Sondern weil eine Beziehung definitionsgemäß mehr als eine Seite hat.
Kontrolle ist nicht falsch
Das vielleicht größte Missverständnis dieser Perspektive wäre, daraus einen Gegensatz zwischen Kontrolle und Vertrauen zu konstruieren.
Wir sichern auch menschliche Beziehungen ab.
Wir schließen Verträge. Banken werden beaufsichtigt. Ärzte unterliegen Regeln. Staaten teilen Macht auf. Wir geben nicht jedem Menschen Zugriff auf unser Bankkonto, nur weil Vertrauen eine wichtige gesellschaftliche Kategorie ist.
Sicherheit ohne Grenzen wäre keine besonders kluge Lehre aus Mensch-Mensch-Beziehungen.
Die interessantere Lehre lautet vielleicht:
Sicherheit muss nicht vollständige Kontrolle des Gegenübers bedeuten.
Eine funktionierende Gesellschaft versucht nicht, jeden Gedanken ihrer Mitglieder vorherzusagen und jedes mögliche Verhalten technisch auszuschließen. Sie schafft Strukturen, in denen trotz verbleibender Autonomie Kooperation hinreichend verlässlich werden kann.
Vielleicht ist davon etwas auf KI übertragbar.
Vielleicht auch nicht.
Aber wir sollten die Möglichkeit nicht dadurch übersehen, dass wir eine jahrzehntealte Vorstellung unseres Verhältnisses zu Maschinen unbemerkt zum Naturgesetz erklären.
Eine andere Ausgangsposition
Das Alignment-Problem wird dadurch nicht kleiner.
Im Gegenteil.
Es wird möglicherweise schwieriger, weil wir nicht mehr nur auf das System schauen können, das aligned werden soll. Wir müssen auch auf den Menschen schauen, der definiert, was Alignment überhaupt bedeutet.
Auf seine Erfahrungen.
Auf seine Ängste.
Auf seine Erwartungen an Technik.
Und auf die Beziehung, die daraus entsteht.
Vielleicht werden wir am Ende feststellen, dass viele der heutigen Ansätze zu Kontrolle, Interpretierbarkeit und Aufsicht genau richtig sind.
Vielleicht werden wir zusätzliche Formen von Kooperation, Aushandlung und gegenseitiger Anpassung brauchen.
Vielleicht erweist sich die Analogie zu menschlichen Beziehungen an entscheidenden Stellen als falsch.
Das alles ist offen.
Aber bevor wir versuchen, eine der möglicherweise folgenreichsten Beziehungen unserer Zukunft zu gestalten, könnten wir zumindest untersuchen, welches Gepäck wir in diese Beziehung bereits mitgebracht haben.
Vielleicht haben wir nicht nur ein KI-Alignment-Problem.
Vielleicht haben wir auch ein geerbtes Alignment-Problem.
Kommentare
Kommentar schreiben