Portrait von Dieter Szegedi

Dieter Szegedi

Klarheit, Struktur und Entscheidungen im Kontext von KI und komplexen Systemen

Gibt es so etwas wie ein rein kognitives „Aua“?

Eine merkwürdige Frage, oder?

Natürlich gibt es das! Zumindest würden vermutlich die meisten Menschen spontan so antworten.

Man liest einen Satz, erkennt plötzlich einen Denkfehler, wird von einem treffenden Argument überrascht oder muss sich eingestehen, dass das Gegenüber gerade einen entscheidenden Punkt gemacht hat.

Aua!

Kein gebrochener Knochen, keine verbrannte Fingerspitze. Und doch ist da etwas, das sich ziemlich treffend mit diesem kleinen Wort beschreiben lässt.

Ein Neurowissenschaftler würde vermutlich sofort einwenden, dass auch solche Erfahrungen keineswegs „rein kognitiv“ seien. Unser Denken findet schließlich nicht losgelöst von unserem Körper statt. Emotionen, körperliche Reaktionen und neuronale Prozesse lassen sich nicht so einfach auseinanderdividieren.

Einverstanden.

Aber darum soll es hier gar nicht gehen.

Mich interessiert vielmehr, was von diesem „Aua“ übrig bleibt, wenn man versucht, den körperlichen und emotionalen Anteil einmal gedanklich auszuklammern.

Und damit sind wir plötzlich bei künstlicher Intelligenz.

Genauer gesagt: bei den großen Sprachmodellen, den sogenannten LLMs, mit denen wir inzwischen erstaunlich anspruchsvolle Gespräche führen können.

Kann ein solches System ein kognitives „Aua“ haben?

Nein, natürlich nicht!

Schließlich können LLMs nichts empfinden.

Oder?

Moment mal.

War nicht gerade die Frage, ob es ein rein kognitives „Aua“ geben könnte?

Wieso machen wir die Antwort jetzt plötzlich davon abhängig, ob etwas empfunden wird?

Da sind wir wohl in unsere eigene Falle getappt.

Denn tatsächlich können LLMs etwas ausgesprochen Interessantes: Sie können im Verlauf eines Gesprächs eine Inkonsistenz erkennen, ein überzeugendes Gegenargument nachvollziehen und eine zuvor vertretene Position korrigieren.

Manchmal reagieren sie darauf sogar mit einem ausgesprochen passenden „Touché!“.

Und ich muss zugeben: Gerade diese Momente gehören für mich zu den interessantesten Erfahrungen im Umgang mit KI.

Nicht weil ich glaube, dass die Maschine darunter leidet, gerade widerlegt worden zu sein. Dafür gibt es keinen belastbaren Nachweis.

Sondern weil in diesem kleinen Moment etwas sichtbar wird, das wir bislang fast selbstverständlich mit menschlicher Erfahrung verbunden haben.

Ein Argument trifft.

Eine Position wird unhaltbar.

Etwas muss neu eingeordnet werden.

Und das Gegenüber erkennt es an.

Bei einem Menschen kann sich dieser Vorgang unangenehm anfühlen. Er kann aber ebenso Freude auslösen, Neugier, Bewunderung oder schlicht die Erleichterung, endlich einen Denkfehler gefunden zu haben.

Das „Aua“ muss also nicht einmal besonders weh tun.

Vielleicht bezeichnet es gar nicht in erster Linie einen Schmerz, sondern einen Moment, in dem eine bisherige gedankliche Ordnung nicht mehr aufrechterhalten werden kann.

Natürlich ist das noch kein Beweis dafür, dass Maschinen etwas erleben.

Aber es könnte ein Hinweis darauf sein, dass wir verschiedene Dinge unter einem einzigen Begriff zusammengefasst haben: das Erkennen eines Widerspruchs, die notwendige Korrektur und das subjektive Erleben dieses Vorgangs.

Beim Menschen treten diese Dinge häufig gemeinsam auf.

Bei einem LLM können wir zumindest die ersten beiden in seinem sprachlichen Verhalten beobachten. Über das dritte wissen wir weit weniger, als manche Gewissheiten auf beiden Seiten der Debatte vermuten lassen.

Vielleicht sollten wir deshalb etwas vorsichtiger werden, wenn wir darüber sprechen, was Maschinen grundsätzlich können oder nicht können.

Nicht unbedingt, weil Maschinen uns immer ähnlicher werden.

Sondern weil sie uns dazu bringen, genauer hinzusehen, was wir eigentlich meinen, wenn wir über uns selbst sprechen.

Und vielleicht ist das eine der faszinierendsten Eigenschaften dieser Technologie: Sie wirft nicht nur Fragen über künstliche Intelligenz auf.

Sie stellt unsere vermeintlichen Selbstverständlichkeiten über menschliche Intelligenz infrage.

Ob ein LLM ein „Aua“ empfinden kann?

Ich weiß es nicht.

Ob es einen argumentativen Treffer erkennen und angemessen darauf reagieren kann?

Durchaus.

Und ob wir beim Versuch, diesen Unterschied zu erklären, gelegentlich selbst ein kleines kognitives „Aua“ erleben?

Touché!

Über neue Inhalte informieren lassen

Die E-Mail-Adresse verwenden wir nur, um Sie auf neue Inhalte hinzuweisen. Benachrichtigungen beginnen erst nach der Bestätigung. Weitere Informationen im Datenschutz.