Portret Dietera Szegediego

Dieter Szegedi

Jasność, struktura i decyzje w świecie AI i złożonych systemów

Czy musimy ufać modelowi AI?

Od pewnego czasu wraca do mnie to samo pytanie:

„Czy modelowi AI w ogóle można ufać?”

Rozumiem to pytanie.

Podejrzewam jednak, że rozmija się z właściwym wyzwaniem.

Nie dlatego, że zaufanie jest nieważne.

Dlatego, że mylimy inteligencję z nieomylnością.

Zaskakujące oczekiwanie

O sztucznej inteligencji często mówi się tak, jakby były tylko dwie możliwości.

Albo się myli.

Wtedy nie wolno jej ufać.

Albo pewnego dnia będzie dostatecznie inteligentna.

Wtedy będzie można jej zaufać.

Nie przekonuje mnie ten obraz.

Milcząco zakłada bowiem, że odpowiednio duża inteligencja w końcu prowadzi do nieomylności.

Dlaczego mielibyśmy w to wierzyć?

Nieomylność nie jest szczególnie rozwiniętą postacią inteligencji.

To zupełnie inna kategoria.

Inteligencja nie wyklucza błędów

Lubię pracować z ludźmi inteligentniejszymi ode mnie.

Widzą zależności, które mi umykają.

Zadają lepsze pytania.

Znajdują bardziej eleganckie rozwiązania.

Nie zakładam jednak z tego powodu, że zawsze mają rację.

Oni sami też tego od siebie nie oczekują.

Dobry lider nie próbuje być najinteligentniejszą osobą w pokoju.

Próbuje sensownie połączyć możliwości zespołu.

Nie przestaje odpowiadać za swoją pracę tylko dlatego, że inni są od niego inteligentniejsi.

Przeciwnie.

Właśnie wtedy jego odpowiedzialność staje się szczególnie ważna.

Dlaczego w przypadku sztucznej inteligencji miałoby być zasadniczo inaczej?

Właściwe wyzwanie

Załóżmy, że modele językowe rzeczywiście staną się tysiąc razy inteligentniejsze od nas.

Może tak będzie.

A może nie.

W tym rozumowaniu nie ma to znaczenia.

Bo nawet wtedy pozostanie prosty fakt:

inteligentny system może się pomylić.

Im potężniejszy się staje, tym większe mogą być nawet skutki jego pomyłek.

Decydujące pytanie nie brzmi więc chyba:

„Czy model jest dostatecznie inteligentny?”

Tylko:

„Jak radzimy sobie z tym, że z natury pozostaje omylny?”

To nie jest nowe pytanie

Od stuleci żyjemy z omylnymi ludźmi.

Pracujemy z nimi.

Powierzamy im odpowiedzialność.

Wybieramy ich na urzędy polityczne.

Zakładamy firmy.

Budujemy instytucje naukowe.

Nigdzie nie oczekujemy nieomylności.

Oczekujemy czegoś innego.

Że błędy będzie można dostrzec.

Że będzie można je naprawić.

Że nikt nie będzie trwale chroniony przed zakwestionowaniem i skorygowaniem swoich działań.

Czego mogłaby nas nauczyć demokracja?

Demokracja przedstawicielska nie jest metodą znajdowania nieomylnych polityków.

Jest metodą radzenia sobie z politykami omylnymi.

Wybory.

Podział władz.

Wolne media.

Niezależne sądy.

Opozycja.

Za wszystkimi tymi instytucjami stoi ostatecznie ta sama myśl.

Stabilność systemu nie wynika z zaufania.

Wynika z możliwości korygowania.

Demokracja nie jest więc systemem dla doskonałych ludzi.

Jest systemem potrafiącym radzić sobie z ich niedoskonałością.

Dlaczego z AI miałoby być inaczej?

Jeśli sztuczna inteligencja będzie coraz potężniejsza, wzrośnie nie tylko jej użyteczność.

Wzrośnie też znaczenie jej błędów.

Właśnie dlatego zaufanie wydaje mi się niewystarczającą podstawą współpracy.

Nie dlatego, że AI jest niebezpieczna.

Dlatego, że każdy inteligentny system pozostaje omylny.

Najważniejsze pytanie nie brzmi więc dla mnie:

„Czy mogę zaufać temu modelowi AI?”

Tylko:

„Jak zaprojektować współpracę z bardzo inteligentnym, ale zasadniczo omylnym systemem, żeby jego błędy nadal dawały się korygować?”

To kwestia projektowania.

Nie wiary.

Odpowiedzialność nie znika

Czasem dyskusja wygląda tak, jakby odpowiadać musiał albo człowiek, albo AI.

Nie sądzę, żeby rzeczywistość była aż tak prosta.

Odpowiada ten, kto tworzy system AI.

Odpowiada ten, kto go eksploatuje.

Odpowiada ten, kto go używa.

A system AI swoim zachowaniem wpływa na każdą konkretną współpracę.

Odpowiedzialność nie znika.

Rozkłada się między uczestników.

Właśnie dlatego kształtowanie współpracy staje się ważniejsze od nadziei na doskonałość.

Myśl na koniec

Nie używam modeli AI dlatego, że uważam je za nieomylne.

Ani dlatego, że ślepo im ufam.

Używam ich, bo potrafią być wyjątkowo inteligentne.

Właśnie dlatego uważam, że nie wolno wypierać ich omylności.

Być może prawdziwe wyzwanie sztucznej inteligencji wcale nie polega więc na zbudowaniu kiedyś doskonałych systemów.

Może polega na stworzeniu takich form współpracy, w których nawet wyjątkowo inteligentne systemy mogą się mylić — bez doprowadzania do błędów, których nie da się już naprawić.

Podstawą nie będzie wtedy zaufanie.

Będzie nią możliwość korekty.

Powiadomienia o nowych treściach

Adres e-mail służy wyłącznie do powiadamiania o nowych treściach. Powiadomienia zaczną przychodzić dopiero po potwierdzeniu. Więcej informacji w sekcji Prywatność.