Odziedziczony problem alignmentu
A jeśli nasze wyobrażenie o alignmencie AI mówi równie wiele o wyuczonym stosunku do techniki, co o samej AI?
W skrócie: Przez dziesięciolecia uczyliśmy się nie ufać złożonej technice, godzić się z jej nieprzejrzystością i zapewniać bezpieczeństwo przede wszystkim przez kontrolę. Teraz z tym samym nastawieniem podchodzimy do AI — choć pod istotnymi względami interakcja człowieka z AI bardziej przypomina relacje między ludźmi niż obsługę klasycznego oprogramowania. Nie oznacza to, że zaufanie rozwiązuje problem alignmentu. Może jednak warto zbadać, które części tego problemu przynieśliśmy ze sobą.
Dziś OneDrive nagle zgłosił błąd. Nie można zsynchronizować pliku o nazwie „Magazyn osobisty”.
Nie zakładałem żadnego magazynu osobistego. Nie wiedziałem nawet, co to znaczy.
Można było zamknąć komunikat, usunąć plik i robić swoje. Zwykle tak właśnie postępujemy. Niekoniecznie z wygody. Nauczyliśmy się, że pytanie „Dlaczego mój komputer to robi?” rzadko przynosi odpowiedź wartą wysiłku włożonego w jej znalezienie.
Tym razem sprawdziłem.
Przebieg zdarzeń rzeczywiście dało się całkiem dobrze odtworzyć. Plik utworzyło oprogramowanie Microsoftu. Później oprogramowanie Microsoftu go zmieniło. Następnie oprogramowanie Microsoftu zgłosiło zastrzeżenia do tego pliku.
Usunąłem go. Komunikat zniknął.
Samo zdarzenie jest błahe. Ciekawsze jest to, jak nauczyliśmy się reagować na takie sytuacje:
przestaliśmy pytać.
Czego nauczyliśmy się o technice
Relacja człowieka z komputerem rozwinęła się przez ostatnie dziesięciolecia w osobliwy sposób.
Komputery stały się znacznie wydajniejsze. Interfejsy — prostsze. Coraz więcej technicznej złożoności ukrywa się przed użytkownikiem.
W dużej mierze był to postęp. Nikt nie chce konfigurować protokołów sieciowych przed napisaniem e-maila.
Ale ukryliśmy nie tylko złożoność. Coraz częściej ukrywaliśmy również przyczynowość.
Coś się dzieje. Pojawia się komunikat. Zmieniło się ustawienie. Logowanie nagle działa inaczej. Usługa przestała synchronizować. Być może jest przycisk „Rozwiąż problem”.
Dlaczego to wszystko się dzieje, często wykracza już poza to, co produkt w ogóle zamierza wyjaśnić użytkownikowi.
A ludzie się uczą.
Uczą się potwierdzać komunikaty. Restartować programy. Stosować się do zaleceń. Uczą się, że dochodzenie przyczyn jest kosztowne i często beznadziejne.
To nie głupota. To racjonalne dostosowanie do systemów, które nie traktują już możliwości zrozumienia ich działania jako istotnego elementu relacji z człowiekiem.
Z czasem kształtuje się z tego określony stosunek do techniki.
Nie oczekujemy, że ją zrozumiemy.
Nie oczekujemy, że wyjaśni nam swoje działanie.
I właśnie dlatego oczekujemy, że będzie kontrolowana.
A potem przyszła AI
Pojawia się nowy rodzaj systemów technicznych.
Oczywiście duże modele językowe także są wytworami techniki. Działają na komputerach, można je opisać matematycznie i skonstruowali je ludzie. Nie ma powodu, by z tego tytułu przypisywać im ludzkie cechy.
Zmieniła się jednak interakcja.
Mogę wyjaśnić AI, co chcę osiągnąć. Może dopytać. Mogę zakwestionować jej interpretację. Może zmienić propozycję. Możemy odkryć nieporozumienia. W dłuższych rozmowach może powstawać kontekst. Mogę domagać się uzasadnień i przedstawiać własne.
Z czasem pojawiają się słowa, które w klasycznej interakcji człowiek–maszyna brzmiałyby dziwnie:
Porozumienie. Współpraca. Zaufanie. Rzetelność. Nieporozumienie. Oczekiwanie. Sprzeciw.
Nie czyni to AI człowiekiem.
Powinno jednak przynajmniej skłonić nas do pytania, czy instrukcja obsługi naszej dotychczasowej relacji z techniką nadal wystarcza.
Bo tę instrukcję już ze sobą przynosimy.
Problem alignmentu
Znaczna część dzisiejszej debaty o alignmencie zaczyna się od zrozumiałej obawy.
Potężne systemy AI mogą robić rzeczy, których ludzie nie chcą. Ich wewnętrzne procesy dają się wyjaśnić tylko w ograniczonym stopniu. Wraz ze wzrostem autonomii błędy lub niepożądane zachowania mogą mieć poważne skutki.
Zajmujemy się więc kontrolą, nadzorem, interpretowalnością, ograniczeniami, korygowalnością i pytaniem, jak sprawić, by zachowanie tych systemów uwzględniało ludzkie wartości i preferencje.
To wszystko rozsądne pytania.
Być może brakuje jednak pytania wcześniejszego:
Z jakim rozumieniem naszej relacji z techniką sformułowaliśmy właściwie problem alignmentu?
Pojęcia kontroli i nadzoru nie biorą się znikąd. Mamy za sobą długie doświadczenie z systemami technicznymi, wobec których nieufność często jest rozsądna.
Maszyna nie dąży do wspólnego porozumienia. System operacyjny nie negocjuje. Aplikacja w chmurze nie odpowiada za to, czy zrozumieliśmy jej decyzję.
Kiedy takie systemy stają się bardziej złożone i mniej przejrzyste, rzeczywiście pozostaje nam przede wszystkim jedno:
próbujemy kontrolować ich zachowanie.
To rozsądny model dla maszyn.
Ale czy koniecznie właściwy punkt wyjścia dla każdej przyszłej relacji człowieka z AI?
Problem, który być może odziedziczyliśmy
Nie oznacza to bynajmniej, że powinniśmy po prostu zaufać AI.
Ludzie też nie ufają sobie ot tak.
Właśnie dlatego warto dokonać porównania.
Od tysięcy lat żyjemy z innymi, których stanów wewnętrznych nie znamy w pełni, zachowania nie potrafimy całkowicie przewidzieć, a interesy niekoniecznie pokrywają się z naszymi.
Co ciekawe, naszą odpowiedzią nigdy nie była wyłącznie kontrola.
Rozwinęliśmy zaufanie — i nieufność.
Stworzyliśmy umowy, reguły i instytucje. Znamy reputację i odpowiedzialność, granice i sankcje, negocjacje i sprzeciw. Próbujemy rozumieć cudze interesy. Oczekujemy rzetelności, nie żądając pełnej przewidywalności.
Nauczyliśmy się też, że współpraca nie jest tym samym co posłuszeństwo.
Nic z tego nie działa doskonale. Historia ludzkości dość przekonująco obalałaby romantyczne wyobrażenia na ten temat.
Właśnie dlatego to doświadczenie może być interesujące.
Są to bowiem sposoby postępowania wobec drugiej strony, której nie można w pełni kontrolować.
Może alignment nie jest drogą jednokierunkową
To zmienia pytanie.
Zamiast pytać wyłącznie:
Jak zmienić AI, żeby zachowywała się tak, jak od niej oczekujemy?
moglibyśmy zapytać również:
Jaka relacja między ludźmi a AI w ogóle umożliwiłaby niezawodną współpracę?
I tu robi się niewygodnie, bo to pytanie nie jest już skierowane tylko do AI.
Jakie oczekiwania przynosimy?
Jakie zachowania wspieramy?
Co rozumiemy przez zaufanie?
Jak reagujemy na sprzeciw?
Chcemy partnera, który przedstawia dobre racje — czy takiego, który niezawodnie się zgadza?
Co oznacza odpowiedzialność w relacji, w której zdolności i władza mogą być rozłożone bardzo nierówno?
I wreszcie:
Na ile my sami jesteśmy właściwie „aligned”?
Nie chodzi o moralne zrównanie człowieka z maszyną. Ani o przenoszenie odpowiedzialności za techniczne bezpieczeństwo z twórcy na użytkownika.
Chodzi o to, że relacja z definicji ma więcej niż jedną stronę.
Kontrola nie jest błędem
Największym nieporozumieniem byłoby zapewne wyciągnięcie z tej perspektywy wniosku, że kontrola i zaufanie się wykluczają.
Relacje między ludźmi również zabezpieczamy.
Zawieramy umowy. Banki podlegają nadzorowi. Lekarze — regułom. Państwa rozdzielają władzę. Nie dajemy każdemu dostępu do swojego konta bankowego tylko dlatego, że zaufanie jest ważną kategorią społeczną.
Bezpieczeństwo bez granic nie byłoby szczególnie mądrą lekcją z relacji międzyludzkich.
Ciekawsza lekcja brzmi być może tak:
Bezpieczeństwo nie musi oznaczać pełnej kontroli nad drugą stroną.
Sprawne społeczeństwo nie próbuje przewidzieć każdej myśli swoich członków i technicznie wykluczyć każdego możliwego zachowania. Tworzy struktury, w których mimo zachowanej autonomii współpraca może stać się dostatecznie niezawodna.
Może coś z tego da się przenieść na AI.
A może nie.
Nie powinniśmy jednak przeoczyć tej możliwości tylko dlatego, że niepostrzeżenie uznamy wieloletnie wyobrażenie o relacji z maszynami za prawo natury.
Inny punkt wyjścia
Problem alignmentu wcale się przez to nie zmniejsza.
Przeciwnie.
Może stać się trudniejszy, bo nie wystarczy już patrzeć na system, który chcemy dostroić. Trzeba spojrzeć również na człowieka określającego, co alignment w ogóle znaczy.
Na jego doświadczenia.
Na obawy.
Na oczekiwania wobec techniki.
I na relację, która z nich powstaje.
Być może ostatecznie uznamy, że wiele dzisiejszych podejść do kontroli, interpretowalności i nadzoru jest dokładnie właściwych.
Być może będziemy potrzebować dodatkowych form współpracy, negocjacji i wzajemnego dostosowania.
Być może analogia do relacji między ludźmi okaże się błędna w kluczowych miejscach.
To wszystko pozostaje otwarte.
Zanim jednak zaczniemy kształtować jedną z potencjalnie najważniejszych relacji naszej przyszłości, moglibyśmy przynajmniej sprawdzić, jaki bagaż już do niej wnieśliśmy.
Być może mamy nie tylko problem alignmentu AI.
Być może mamy też odziedziczony problem alignmentu.
Komentarze
Napisz komentarz