Über Vertrauen

Forscher der University of Arizona haben einen bemerkenswerten Effekt untersucht: Menschen, die offenlegen, dass sie bei ihrer Arbeit generative KI eingesetzt haben, wird im Durchschnitt weniger vertraut.

Oliver Schilke und Martin Reimann untersuchten das in 13 Experimenten in unterschiedlichen Kontexten – bei Vorgesetzten und Mitarbeitern, Professoren, Analysten, Kreativen und sogar Organisationen. Der Effekt erwies sich als erstaunlich robust: Die Offenlegung von KI-Nutzung senkte das Vertrauen in denjenigen, der sie offengelegt hatte. Die Autoren sprechen von einem „trust penalty“. ¹

Das klingt zunächst einmal tragisch. Ausgerechnet Transparenz wird bestraft.

Aber ich finde den Effekt auch verständlich.

Wem glaube ich?

Wir können nicht jede Aussage, mit der wir konfrontiert werden, selbst überprüfen. Deshalb haben wir gelernt, auf andere Dinge zu achten.

Wer sagt das?
Welche Erfahrung hat diese Person?
Wie intensiv hat sie sich mit dem Thema beschäftigt?
Ist sie kompetent?
Hat sie etwas zu verlieren, wenn sie Unsinn erzählt?

Das sind keine schlechten Fragen. Im Gegenteil: Sie sind notwendige Abkürzungen in einer Welt, in der niemand alles selbst wissen und prüfen kann.

Deshalb ist auch die Herkunft einer Aussage für uns nicht bedeutungslos.

Wenn eine Wissenschaftlerin nach zehn Jahren Forschung zu einem Ergebnis kommt, nehmen wir es anders wahr als denselben Satz von jemandem, der sich gestern erstmals mit dem Thema beschäftigt hat.

Aber dabei vermischen sich leicht zwei unterschiedliche Fragen:

Was ist eine Erkenntnis wert?

und

Was ist die Leistung oder Glaubwürdigkeit des Menschen wert, der sie überbringt?

Angenommen, zwei Menschen formulieren exakt dieselbe richtige und relevante Erkenntnis. Einer gelangt nach zehn Jahren eigener Forschung zu ihr. Der andere stößt nach zwanzig Minuten im intensiven Dialog mit einem KI-System darauf.

Ist die zweite Erkenntnis weniger wert?

Die wissenschaftliche Leistung ist offensichtlich eine andere. Die Entstehungsgeschichte ist eine andere. Vielleicht gibt es auch gute Gründe, der ersten Person zunächst mehr zuzutrauen.

Aber die Aussage selbst wird dadurch nicht falscher.

KI bringt eine vertraute Abkürzung durcheinander

Generative KI verändert die Beziehung zwischen Aufwand, Expertise und Ergebnis.

Ein Mensch kann heute mit wenig eigener Fachkenntnis zu einer erstaunlich guten Frage oder Erkenntnis gelangen. Ein Experte kann trotz jahrzehntelanger Erfahrung etwas Falsches behaupten. Beides war schon immer möglich. KI verändert aber die Größenordnung und die Geschwindigkeit, in der es möglich wird.

Damit verlieren einige unserer vertrauten Heuristiken an Aussagekraft.

„Wer hat das gesagt?“ bleibt wichtig.

Aber die Antwort darauf sagt möglicherweise weniger darüber aus, wie gut eine Aussage ist, als wir gewohnt sind.

Die neuere Forschung von Schilke und Reimann macht verständlicher, warum uns das irritiert. Die Offenlegung von KI-Nutzung verändert unter anderem Wahrnehmungen von Typizität, persönlichem Einsatz und Authentizität – und darüber schließlich das Vertrauen. ²

Die spontane Reaktion „Das hat doch die KI geschrieben“ ist deshalb nicht einfach irrational.

Problematisch wird sie an einem anderen Punkt.

Dann nämlich, wenn sie die Auseinandersetzung mit dem Gesagten beendet.

„Das kommt von der KI“

Ich kenne dieses Problem inzwischen aus eigener Erfahrung.

KI-Systeme sind intensiv an meiner Arbeit und an meinem Denken beteiligt. Ich mache daraus kein Geheimnis. Im Gegenteil: Ich versuche, damit möglichst offen umzugehen.

Aber gerade diese Offenheit ermöglicht eine erstaunlich einfache Erklärung für das, was anschließend zu lesen ist:

Das kommt von der KI.

Damit können sehr unterschiedliche Vorgänge in einer einzigen Kategorie verschwinden.

Vielleicht habe ich eine KI nach ihrer Meinung gefragt und ihre Antwort übernommen.

Vielleicht hatte ich die Überzeugung längst und habe mir nur helfen lassen, sie verständlich zu formulieren.

Vielleicht begann alles mit einer eigenen Beobachtung, aus der im Dialog eine Frage entstand.

Vielleicht hat die KI meiner bisherigen Überzeugung widersprochen.

Vielleicht habe ich verschiedene Erklärungen ausprobiert und wieder verworfen.

Vielleicht haben neue Quellen oder Beobachtungen dazu geführt, dass ich meine ursprüngliche Position verändert habe.

Vielleicht ist eine Überzeugung erst nach vielen Gesprächen und wiederholten Korrekturen entstanden.

All das kann von außen mit demselben Satz beschrieben werden:

„Er macht das mit ChatGPT.“

Und damit habe ich ein Problem.

Nicht weil ich darauf bestehe, dass die Gedanken „wirklich meine“ sind.

Sondern weil die Information „KI war beteiligt“ viel zu wenig darüber sagt, wie eine Überzeugung entstanden ist.

Vielleicht legen wir das Falsche offen

Die naheliegende Reaktion auf den Trust Penalty wäre, KI-Nutzung weniger sichtbar zu machen.

Ich möchte in die entgegengesetzte Richtung gehen.

Mehr Transparenz.

Aber eine andere Art von Transparenz.

Nicht nur:

Hier wurde KI eingesetzt.

Sondern:

So ist diese Überzeugung entstanden.

Was habe ich zunächst beobachtet?

Welche Frage entstand daraus?

Welche möglichen Erklärungen standen im Raum?

Was sprach für sie, was dagegen?

Welche Quellen habe ich hinzugezogen?

Wo hat ein Gespräch – mit einem Menschen oder einer KI – meine bisherige Sicht infrage gestellt?

Welche Annahmen habe ich verworfen?

Was hat mich schließlich überzeugt?

Und was bleibt weiterhin unsicher?

Damit wird auch die Rolle der KI genauer beschreibbar. Sie kann Quelle sein, Gegenüber, Kritiker, Recherchewerkzeug, Formulierungshilfe oder Auslöser einer Frage. Manchmal vielleicht mehrere dieser Dinge gleichzeitig.

Entscheidend ist nicht, ihre Beteiligung kleinzureden.

Entscheidend ist, sie nicht mit dem Erkenntnisprozess selbst zu verwechseln.

Von Vertrauen zu Nachvollziehbarkeit

Vielleicht führt uns die zunehmende Beteiligung von KI deshalb zu einer viel älteren Frage zurück:

Warum halte ich eine Aussage eigentlich für richtig?

Sehr häufig lautet die ehrliche Antwort darauf: weil ich ihrem Urheber vertraue.

Daran ist nichts Verwerfliches. Ohne Vertrauen könnten wir kaum leben.

Aber KI könnte uns zwingen, genauer hinzusehen, wo Vertrauen lediglich eine notwendige Abkürzung war.

Gleichzeitig gibt sie uns Werkzeuge, mit denen diese Abkürzung manchmal weniger notwendig wird. Wir können uns Gegenargumente zeigen lassen. Quellen suchen. Begriffe erklären. Schlussfolgerungen auseinandernehmen. Alternative Modelle entwickeln. Widersprüche aufspüren.

Vielleicht müssen wir deshalb nicht lernen, KI-generierten Aussagen mehr zu vertrauen.

Vielleicht können wir lernen, an manchen Stellen weniger Vertrauen zu brauchen.

Nicht, indem wir grundsätzlich misstrauischer werden.

Sondern indem wir mehr nachvollziehen können.

Für meine eigene Arbeit folgt daraus etwas sehr Konkretes.

Es reicht nicht, offenzulegen, dass KI an ihr beteiligt ist.

Wenn ich möchte, dass andere meine Überzeugungen ernsthaft prüfen können, muss ich versuchen, auch ihre Entstehung nachvollziehbarer zu machen.

Nicht als Beweis dafür, dass ich recht habe.

Nicht als Nachweis, dass ein Gedanke trotz KI doch irgendwie „von mir“ stammt.

Sondern als Angebot:

Das ist, was ich heute glaube.
Und das ist der Weg, auf dem ich dorthin gekommen bin.

Was davon überzeugt, muss jeder weiterhin selbst entscheiden.

Quellen

Postskriptum

Wie dieser Text entstanden ist → Gespräch nachlesen