Müssen wir einem KI-Modell vertrauen?
Seit einiger Zeit begegnet mir immer wieder dieselbe Frage:
“Kann man einem KI-Modell überhaupt vertrauen?”
Ich halte diese Frage für verständlich.
Aber ich vermute, dass sie an der eigentlichen Herausforderung vorbeigeht.
Nicht weil Vertrauen unwichtig wäre.
Sondern weil wir Intelligenz und Unfehlbarkeit miteinander verwechseln.
Eine erstaunliche Erwartung
Über künstliche Intelligenz wird heute oft gesprochen, als gäbe es nur zwei Möglichkeiten.
Entweder sie irrt sich.
Dann dürfen wir ihr nicht vertrauen.
Oder sie wird eines Tages intelligent genug sein.
Dann können wir ihr vertrauen.
Mich überzeugt diese Vorstellung nicht.
Denn sie setzt stillschweigend voraus, dass genügend Intelligenz irgendwann zur Unfehlbarkeit führt.
Warum sollten wir das glauben?
Unfehlbarkeit ist keine besonders ausgeprägte Form von Intelligenz.
Sie ist eine völlig andere Kategorie.
Intelligenz macht Fehler nicht unmöglich
Ich arbeite gerne mit Menschen zusammen, die intelligenter sind als ich.
Sie sehen Zusammenhänge, die mir entgehen.
Sie stellen bessere Fragen.
Sie finden elegantere Lösungen.
Deshalb vertraue ich aber nicht darauf, dass sie immer recht haben.
Und sie erwarten das auch nicht von sich selbst.
Eine gute Führungskraft versucht nicht, die intelligenteste Person im Raum zu sein.
Sie versucht, die Fähigkeiten ihres Teams sinnvoll zusammenzuführen.
Sie würde ihre Verantwortung nicht dadurch verlieren, dass andere intelligenter sind als sie.
Im Gegenteil.
Gerade dann wird ihre Verantwortung besonders wichtig.
Warum sollte das bei künstlicher Intelligenz grundsätzlich anders sein?
Die eigentliche Herausforderung
Nehmen wir einmal an, Sprachmodelle werden tatsächlich tausendmal intelligenter als wir.
Vielleicht wird das geschehen.
Vielleicht auch nicht.
Für diesen Gedanken spielt das keine Rolle.
Denn selbst dann bliebe eine einfache Tatsache bestehen:
Ein intelligentes System kann sich irren.
Je leistungsfähiger ein System wird, desto größer können sogar die Folgen seiner Irrtümer sein.
Deshalb erscheint mir die entscheidende Frage nicht zu sein:
“Ist das Modell intelligent genug?”
Sondern:
“Wie gehen wir mit seiner grundsätzlichen Fehlbarkeit um?”
Das ist keine neue Frage
Wir leben seit Jahrhunderten mit fehlbaren Menschen zusammen.
Wir arbeiten mit ihnen.
Wir übertragen ihnen Verantwortung.
Wir wählen sie in politische Ämter.
Wir gründen Unternehmen.
Wir bauen wissenschaftliche Institutionen.
Nirgendwo erwarten wir Unfehlbarkeit.
Wir erwarten etwas anderes.
Dass Fehler erkannt werden können.
Dass sie korrigiert werden können.
Dass niemand dauerhaft jeder Korrektur entzogen ist.
Vielleicht kann uns die Demokratie etwas lehren
Die repräsentative Demokratie ist keine Methode, unfehlbare Politiker zu finden.
Sie ist eine Methode, mit fehlbaren Politikern umzugehen.
Wahlen.
Gewaltenteilung.
Freie Medien.
Unabhängige Gerichte.
Opposition.
All diese Institutionen verfolgen letztlich denselben Gedanken.
Nicht Vertrauen macht das System stabil.
Sondern Korrigierbarkeit.
Demokratie ist deshalb kein System für perfekte Menschen.
Sie ist ein System, das mit ihrer Unvollkommenheit umgehen kann.
Warum sollte das bei KI anders sein?
Wenn künstliche Intelligenz tatsächlich immer leistungsfähiger wird, dann wächst nicht nur ihr Nutzen.
Dann wächst auch die Bedeutung ihrer Fehler.
Gerade deshalb erscheint mir Vertrauen als Fundament der Zusammenarbeit unzureichend.
Nicht weil KI gefährlich wäre.
Sondern weil jedes intelligente System fehlbar bleibt.
Die entscheidende Frage lautet deshalb für mich nicht:
“Kann ich diesem KI-Modell vertrauen?”
Sondern:
“Wie muss die Zusammenarbeit mit einem hochintelligenten, aber grundsätzlich fehlbaren System gestaltet sein, damit Fehler korrigierbar bleiben?”
Das ist eine Designfrage.
Keine Glaubensfrage.
Verantwortung verschwindet nicht
Manchmal wird so diskutiert, als müsse entweder der Mensch oder die KI verantwortlich sein.
Ich glaube nicht, dass die Wirklichkeit so einfach ist.
Wer ein KI-System entwickelt, trägt Verantwortung.
Wer es betreibt, trägt Verantwortung.
Wer es nutzt, trägt Verantwortung.
Und das KI-System beeinflusst durch sein Verhalten jede einzelne Zusammenarbeit.
Verantwortung verschwindet nicht.
Sie verteilt sich.
Gerade deshalb wird die Gestaltung dieser Zusammenarbeit wichtiger als die Hoffnung auf Perfektion.
Schlussgedanke
Ich benutze KI-Modelle nicht, weil ich glaube, dass sie unfehlbar sind.
Und auch nicht, weil ich ihnen blind vertraue.
Ich benutze sie, weil sie außergewöhnlich intelligent sein können.
Gerade deshalb halte ich es für entscheidend, ihre Fehlbarkeit nicht zu verdrängen.
Vielleicht besteht die eigentliche Herausforderung künstlicher Intelligenz deshalb gar nicht darin, irgendwann perfekte Systeme zu bauen.
Vielleicht besteht sie darin, Formen der Zusammenarbeit zu entwickeln, in denen auch außergewöhnlich intelligente Systeme fehlbar sein dürfen – ohne dass ihre Fehler unkorrigierbar werden.
Nicht Vertrauen ist dann das Fundament.
Sondern Korrigierbarkeit.