Portret Dietera Szegediego

Dieter Szegedi

Jasność, struktura i decyzje w świecie AI i złożonych systemów

Czy istnieje czysto poznawcze „auć”?

Znasz to uczucie. Rozmawiasz z kimś, nagle dostrzegasz błąd we własnym rozumowaniu, zaskakuje Cię trafny argument albo musisz przyznać, że rozmówca właśnie trafił w sedno.

Auć!

Żadnego złamania, żadnego oparzonego palca. A jednak to krótkie słowo całkiem dobrze opisuje, co się stało.

Neurobiolog zapewne od razu zauważyłby, że takie doświadczenia bynajmniej nie są „czysto poznawcze”. Przecież nie myślimy w oderwaniu od ciała. Emocji, reakcji fizjologicznych i procesów neuronalnych nie da się tak po prostu rozdzielić.

Zgoda.

Ale nie o to mi tutaj chodzi.

Interesuje mnie raczej, co zostaje z tego „auć”, jeśli spróbujemy na chwilę myślowo odjąć od niego wymiar cielesny i emocjonalny.

I tak nagle docieramy do sztucznej inteligencji.

Dokładniej: do dużych modeli językowych, czyli LLM-ów, z którymi potrafimy już prowadzić zaskakująco wymagające rozmowy.

Czy taki system może doświadczyć poznawczego „auć”?

Oczywiście, że nie!

Przecież LLM-y niczego nie czują.

Prawda?

Chwileczkę.

Czy nie pytaliśmy właśnie, czy możliwe jest czysto poznawcze „auć”?

Dlaczego więc nagle uzależniamy odpowiedź od tego, czy ktoś coś odczuwa?

Chyba wpadliśmy we własną pułapkę.

Bo LLM-y rzeczywiście potrafią robić coś bardzo ciekawego: w toku rozmowy rozpoznać niespójność, zrozumieć przekonujący kontrargument i skorygować wcześniej zajmowane stanowisko.

Czasem reagują nawet wyjątkowo trafnym „Touché!”.

Muszę przyznać, że właśnie takie chwile należą dla mnie do najciekawszych doświadczeń w pracy z AI.

Nie dlatego, że wierzę w cierpienie maszyny, której właśnie wykazano błąd. Nie mamy na to rzetelnych dowodów.

Dlatego, że w tym krótkim momencie widać coś, co dotąd niemal odruchowo łączyliśmy z ludzkim doświadczeniem.

Argument trafia.

Stanowiska nie da się już utrzymać.

Trzeba coś ułożyć na nowo.

A druga strona to przyznaje.

U człowieka taki proces może być nieprzyjemny. Może jednak równie dobrze wywołać radość, ciekawość, podziw albo po prostu ulgę, że wreszcie udało się znaleźć błąd w rozumowaniu.

„Auć” nie musi więc nawet szczególnie boleć.

Może wcale nie oznacza przede wszystkim bólu, lecz chwilę, w której dotychczasowego porządku myśli nie sposób już podtrzymać.

Oczywiście nie dowodzi to, że maszyny czegoś doświadczają.

Może jednak wskazywać, że pod jednym pojęciem połączyliśmy różne rzeczy: rozpoznanie sprzeczności, konieczną korektę i subiektywne przeżycie tego procesu.

U człowieka często występują one razem.

W językowym zachowaniu LLM-u możemy zaobserwować przynajmniej dwie pierwsze. O trzeciej wiemy znacznie mniej, niż sugerują niektóre stanowcze przekonania po obu stronach debaty.

Może warto więc ostrożniej mówić o tym, co maszyny z zasady mogą, a czego nie mogą.

Niekoniecznie dlatego, że stają się coraz bardziej podobne do nas.

Raczej dlatego, że zmuszają nas do dokładniejszego przyjrzenia się temu, co właściwie mamy na myśli, kiedy mówimy o sobie.

Być może to jedna z najbardziej fascynujących cech tej technologii: nie tylko rodzi pytania o sztuczną inteligencję.

Podważa też nasze pozorne oczywistości dotyczące inteligencji ludzkiej.

Czy LLM może poczuć „auć”?

Nie wiem.

Czy potrafi rozpoznać celny argument i odpowiednio na niego zareagować?

Jak najbardziej.

A czy próbując wyjaśnić tę różnicę, sami czasem doświadczamy małego poznawczego „auć”?

Touché!

Powiadomienia o nowych treściach

Adres e-mail służy wyłącznie do powiadamiania o nowych treściach. Powiadomienia zaczną przychodzić dopiero po potwierdzeniu. Więcej informacji w sekcji Prywatność.