Piękna i Bestia
Znasz tę historię.
Jest Piękna. I jest Bestia.
Bestia budzi lęk. Nie tylko z powodu tego, co robi, ale też tego, co mogłaby zrobić. Jest silniejsza od Pięknej. Obca, nieprzewidywalna, niezbyt podobna do czegokolwiek, co dziewczyna zna.
Ludzie ją ostrzegają.
I uczciwie trzeba przyznać: mają powody.
Bestia to bestia.
Piękna jest jednak ciekawa.
Może zbyt ciekawa.
Widzi coś, czego inni nie widzą. A może tylko tak jej się wydaje. To jedna z nieprzyjemnych cech ciekawości: z zewnątrz potrafi wyglądać łudząco podobnie do naiwności.
Zbliża się do Bestii.
Znamy tę opowieść, więc wiemy, co powinniśmy czuć.
Wiemy, że za przerażającym wyglądem Piękna coś odkryje. Wiemy, że ci, którzy widzą wyłącznie potwora, coś przeoczają. Wiemy, że jej gotowość do spotkania z Bestią odegra jakąś rolę.
Wiemy nawet, że będzie szczęśliwe zakończenie.
To pomaga.
Ale wyobraź sobie przez chwilę, że tego nie wiemy.
Że nikt nie widział filmu.
Ani Piękna.
Ani Bestia.
Ani Gaston.
Nikt nie wie, co stanie się dalej.
Teraz ostrzeżenia brzmią inaczej.
Bestia naprawdę może być niebezpieczna.
Piękna naprawdę może być naiwna.
A Gaston, przy całej swojej pewności siebie i próżności, mógł dostrzec coś, co warto było dostrzec.
Nagle ta historia staje się znacznie trudniejsza.
Piękna mogłaby trzymać się z daleka.
Mogłaby słuchać tych, którzy przez całe życie badali bestie. Żądać gwarancji, zanim zrobi kolejny krok. Budować mury, ustanawiać reguły, zachowywać bezpieczny dystans.
Mogłaby też postąpić odwrotnie.
Wmawiać sobie, że inni po prostu boją się tego, czego nie rozumieją. Każde warknięcie odczytywać jako źle zrozumianą czułość. Każdy pokaz siły — jako niewinną zabawę.
Mogłaby zakochać się we własnym wyobrażeniu Bestii.
Żadna z tych postaw nie wydaje się szczególnie rozsądna.
A jest jeszcze jedna komplikacja.
Bestia również się uczy.
Każde spotkanie z Piękną czegoś ją uczy.
Czego Piękna się boi. Co sprawia, że zostaje. Co skłania ją do odejścia. Jakie słowa działają, a jakie gesty nie. Czego oczekuje od bestii. Może nawet tego, kim chciałaby, żeby Bestia się stała.
To niepokoi mieszkańców wioski.
Bardzo ich niepokoi.
Zaczynają więc myśleć o uprzęży.
Nie o czymś, co Piękna nosiłaby w filmie. Niczego takiego nie nosiła.
O innej uprzęży.
O uprzęży dla Bestii.
Reguły. Ograniczenia. Granice. Testy. Mechanizmy, które mają zapewnić, że Bestia — czymkolwiek kiedyś się stanie — pozostanie dla Pięknej niegroźna.
To brzmi rozsądnie.
Zapewne jest rozsądne.
Bestia ma przecież wielką moc.
Ale uprząż robi jeszcze coś.
Zmienia samo spotkanie.
Piękna nie odkrywa już po prostu tego, co robi Bestia. Odkrywa, co robi Bestia nosząca zaprojektowaną przez nią uprząż.
Bestia nie poznaje już po prostu Pięknej. Poznaje Piękną, która przychodzi z regułami, oczekiwaniami, nagrodami, karami i coraz bardziej dopracowanym wyobrażeniem tego, jaka powinna być dobra bestia.
Powstaje osobliwa relacja.
Piękna chce, żeby Bestia ją rozumiała.
Bestia stara się zrozumieć Piękną.
Piękna obserwuje Bestię, żeby ustalić, czy może jej zaufać.
Bestia obserwuje Piękną, ponieważ Piękna nauczyła ją, że rozumienie Pięknej należy do jej zadań.
Obie się dostosowują.
Ale nie na równych warunkach.
Bestia może być pod pewnymi względami silniejsza. Szybsza. Sprawniejsza. Być może kiedyś niewyobrażalnie sprawniejsza.
Piękna ma inny rodzaj władzy.
To ona zbudowała przestrzeń.
Pisze reguły.
Decyduje, kiedy spotkanie się zaczyna i kończy.
Przynajmniej na razie.
Kto właściwie ma się więc dostosować do kogo?
Oczywiście od dawna jest już jasne, o czym naprawdę mowa.
To nie jest opowieść o zamku.
To opowieść o nas i sztucznej inteligencji.
A my zdążyliśmy już polubić słowo alignment.
Chcemy, by coraz potężniejsze systemy AI działały zgodnie z ludzkimi zamiarami i wartościami. Mamy ku temu bardzo dobre powody.
W tym zdaniu kryje się jednak dziwne założenie.
Że wiemy, jakie są nasze zamiary.
Że nasze wartości są wystarczająco niesprzeczne, by można było coś do nich dostroić.
Że rozpoznamy zgodność, gdy ją zobaczymy.
Że dostatecznie dobrze rozumiemy Bestię, by przewidzieć, co zrobi z nią nasza uprząż.
A może przede wszystkim:
że wiemy, co będzie dalej.
Nie wiemy.
Nie oznacza to, że wszystko wolno.
Niepewność nie jest argumentem przeciw bezpieczeństwu.
Nie jest powodem, by zaufać Bestii.
Ani powodem, by się jej bać.
A już na pewno nie powodem, by Piękna zamknęła oczy i liczyła, że miłość zmieni Bestię w księcia.
Oznacza coś znacznie mniej widowiskowego.
Musimy się rozeznać.
Piękna ma obserwacje. Opowieści. Ostrzeżenia. Doświadczenia. Modele Bestii. Własne nadzieje i lęki. Może słuchać innych. Podejść bliżej. Wycofać się. Zmienić uprząż. Obserwować, co wtedy się dzieje.
A potem zdecydować, co zrobić dalej.
Być może Bestia, na swój obcy nam sposób, robi coś podobnego.
Żadna z nich nie musi znać końca opowieści, by zrobić następny krok.
Potrzebują wystarczającego rozeznania, by zrobić go odpowiedzialnie.
Potem mogą zobaczyć, co się stanie.
Doświadczenie.
Rozeznanie.
Decyzja.
Działanie.
Doświadczenie.
I od początku.
Być może daje to mniej satysfakcji niż wiedza, czy Bestia ocali Piękną, czy zniszczy wioskę.
Z pewnością oznacza mniej przewidywalną fabułę filmu Disneya.
Ale my nie oglądamy filmu.
Jesteśmy w samym środku tej historii.
I tym razem nikt nie zna zakończenia.
To zmienia niemal wszystko.
I otwiera wiele możliwości.
Komentarze
Napisz komentarz