Portret Dietera Szegediego

Dieter Szegedi

Jasność, struktura i decyzje w świecie AI i złożonych systemów

Co znaczy „właściwy” w przypadku osobistego agenta?

Niedawno opublikowałem gotowy wpis na LinkedIn, niemal go nie czytając. Przebiegłem go wzrokiem, skopiowałem i opublikowałem.

Samo w sobie nie brzmi to szczególnie rozsądnie. Tekst wygenerowany przez sztuczną inteligencję trafia do publikacji pod moim nazwiskiem, bez ponownego sprawdzenia słowo po słowie. Czy to nie dokładnie ten rodzaj ślepego zaufania, przed którym ostrzegamy przy AI?

Być może. W tym przypadku taki opis nie oddaje jednak całej sytuacji.

Tekst poprzedzało wiele rozmów. Język, rozróżnienia i osobiste kryteria kształtowały się przez dłuższy czas. Ponadto wykonanie zadania opierało się na repozytorium, w którym były już widoczne wcześniejsze decyzje i konwencje redakcyjne. Nie ufałem więc po prostu pojedynczemu wynikowi. Opierałem się na doświadczeniu wspólnego sposobu pracy.

Nagle zacząłem myśleć nie tyle o agentach AI, ile o ludzkich osobistych asystentach.

Ludzki punkt odniesienia

Dobry osobisty asystent nie staje się wartościowy dzięki temu, że zleceniodawca dokładnie kontroluje każdy rezultat. Jego wartość powstaje z czasem.

Obie strony się poznają. Wspólnie pracują. Pojawiają się nieporozumienia, które następnie korygują. Ujawniają się granice. Odpowiedzialność jest przekazywana stopniowo.

W pewnym momencie zleceniodawca może powiedzieć:

Zajmij się tym.

Asystent nie wie wtedy wszystkiego. Wie jednak, co oznacza polecenie, jakie decyzje może podjąć sam, kiedy powinien dopytać i czego zleceniodawca nigdy nie chciałby w takiej formie.

Ta wiedza nie składa się wyłącznie z reguł. Powstała we wspólnej historii. Wcześniejsze decyzje, korekty i konflikty nadają znaczenie nowym sytuacjom.

Może więc tworząc osobistych agentów AI, wcale nie próbujemy wymyślić zupełnie nowej współpracy. Może odtwarzamy technicznie od dawna znaną relację zawodową między ludźmi.

Alignment jako codzienna współpraca

W dyskusjach o AI alignment często brzmi jak abstrakcyjny problem konstrukcyjny: jak nauczyć system właściwych wartości? Jak sformułować reguły działające także w nowych sytuacjach? Jak zapobiec temu, by agent dążył do celu w sposób, którego nie zamierzaliśmy?

Te pytania pozostają ważne. Ludzki przykład podsuwa jednak inne pytanie na początek:

Jak powstaje współpraca, w której jeden uczestnik potrafi coraz samodzielniej działać zgodnie z intencją drugiego?

Alignment nie staje się przez to prostszy. Staje się konkretniejszy.

Wartości nie są wtedy jedynie listą, która musi być gotowa przed rozpoczęciem współpracy. Ujawniają się również w jej toku: w tym, co potwierdzamy, co nas niepokoi, w korektach, wyznaczanych granicach i decyzjach o tym, kiedy można przekazać odpowiedzialność.

Osobisty agent musiałby więc nie tylko wykonywać polecenia. Musiałby na podstawie historii współpracy tworzyć wiarygodny model roboczy i jednocześnie traktować go jako tymczasowy. Bo nawet dobrze zgrany partner może źle zrozumieć sytuację.

„Właściwy” nie jest pojęciem uniwersalnym

Słowo „właściwy” łatwo tu źle zrozumieć. Właściwy osobisty agent nie oznacza dla mnie agenta znającego obiektywnie poprawną odpowiedź na każdą sytuację.

Sensowniej zawęzić to tak:

Właściwy osobisty agent to nie taki, który działa obiektywnie poprawnie. To taki, którego działanie jest zgodne z moimi wartościami — i który w razie niepewności wie, kiedy znów włączyć mnie do rozmowy.

„Zgodne z moimi wartościami” nie znaczy, że zawsze mi przytakuje. Właśnie do moich wartości może należeć wskazywanie sprzeczności, zadawanie niewygodnych pytań czy nieprzekraczanie granic bez uprzedzenia.

Zgodność nie jest więc samym posłuszeństwem. Wymaga dostatecznie dobrego modelu tego, co jest dla mnie ważne w danej sytuacji. Wymaga też dostrzegania konfliktów wewnątrz tego modelu. Ważna może być szybkość, ale i staranność. Pożądana może być jawność, ale też powściągliwość. Agent musi znać nie tylko pojedyncze preferencje, lecz także zauważać, kiedy pojawia się między nimi napięcie.

Kontrola nie znika

Analogia do ludzkiego asystenta nie jest zachętą do ślepego zaufania.

Nawet solidna współpraca nie czyni kontroli zbędną. Zmienia jej formę. Na początku sprawdza się może niemal każdy wynik. Później uwaga przesuwa się ku jakości wspólnego sposobu pracy: czy nieporozumienia wychodzą na jaw? Czy korekty są uwzględniane? Czy granice pozostają stabilne? Czy asystent wraca z nierozstrzygniętymi lub brzemiennymi w skutki decyzjami?

To, ile indywidualnej kontroli nadal potrzeba, zależy od konsekwencji. Wewnętrzna notatka to coś innego niż umowa. Wpis na stronie to coś innego niż decyzja medyczna. Ostatnie kliknięcie w publicznym kanale komunikacji może wyznaczać sensowną granicę: tak, chcę, żeby to teraz ukazało się w moim imieniu.

Zaufanie nie zastępuje więc odpowiedzialności. Pozwala inaczej ją rozłożyć.

W moim drobnym przykładzie publikacyjnym część kontroli przeniosła się ze sprawdzania każdego zdania na wypracowaną z czasem jakość współpracy. Krótkie przejrzenie tekstu było do przyjęcia tylko dlatego, że poprzedziło je wiele poznawania się, korekt i wspólnej pracy.

Chcąc zrozumieć agentów, spójrzmy znów na ludzi

Być może droga do osobistych agentów prowadzi więc najpierw od agentów ku ludziom.

Ludzie dawno wypracowali praktyki przekazywania odpowiedzialności przy ograniczonej wiedzy: wspólną pracę, wyjaśnianie oczekiwań, omawianie błędów, rozróżnianie kompetencji i ponowne otwieranie rozmowy w razie niepewności.

Te praktyki nie rozwiązują każdego problemu technicznego. System AI nie staje się ludzkim asystentem. Nie ponosi odpowiedzialności w ludzkim sensie, a pozorna zażyłość może dawać fałszywe poczucie zrozumienia.

Właśnie dlatego warto wrócić do ludzkiego przykładu. Przypomina on, że agent nie staje się osobisty tylko dlatego, że zna wiele danych osobowych lub otrzymał wyjątkowo długą listę instrukcji.

Współpraca staje się osobista tam, gdzie z czasem powstaje ugruntowane wspólne rozeznanie.

Jeśli chcemy budować „właściwych” agentów, jednorazowy pełny opis wartości może nie wystarczyć. Musimy projektować współpracę, w której wartości stają się widoczne, korygowalne i skuteczne w konkretnych sytuacjach.

Wtedy „Zajmij się tym” może kiedyś naprawdę wystarczyć.

Nie dlatego, że agent zawsze ma rację.

Dlatego, że nauczył się działać zgodnie z moją intencją — i rozpoznawać, kiedy nie jest tego dostatecznie pewien.

Powiadomienia o nowych treściach

Adres e-mail służy wyłącznie do powiadamiania o nowych treściach. Powiadomienia zaczną przychodzić dopiero po potwierdzeniu. Więcej informacji w sekcji Prywatność.