Ce se întâmplă acum în dezbaterea despre IA: încercarea mea de a înțelege
Inteligența artificială a revenit în prim-planul știrilor. Iar tonul s-a schimbat.
Oameni precum Sam Altman de la OpenAI și Dario Amodei de la Anthropic vorbesc despre dezvoltarea viitoare a IA cu o urgență care atrage atenția. Este vorba despre riscuri, control, aliniere și, tot mai mult, despre întrebarea dacă dezvoltarea la vârful domeniului ar trebui poate încetinită.
Poate fi neliniștitor.
Tocmai cei ale căror companii au făcut sistemele tot mai performante avertizează acum că dezvoltarea lor ar putea deveni periculoasă. Povestea la îndemână se spune repede: mai întâi au construit, iar acum se tem ei înșiși de ceea ce au creat.
Poate că așa este.
Mie mi se pare cel puțin la fel de plauzibilă o altă explicație, mai puțin dramatică. Dar ea nu înseamnă că pericolul a trecut.
Nu fac parte nici dintr-un mare laborator de IA, nici din cercetarea alinierii. Nu am informații speciale despre ce se întâmplă acolo în interior. Ceea ce încerc aici este, așadar, doar o punere în perspectivă: cum înțeleg, în septembrie 2026, ceea ce devine vizibil public?
Mă ajută un principiu care îmi însoțește munca de mult timp:
Mai întâi faci. Imediat după, înțelegi și, dacă este cazul, schimbi imediat.
„Mai întâi faci” este important.
Unele lucruri pot fi înțelese abia după ce le-ai făcut
Mai ales în Europa privim adesea industria tehnologică americană cu scepticism. „Move fast”, „fail fast” și, cu atât mai mult, celebrul „move fast and break things” al lui Mark Zuckerberg sună ușor ca o cultură care acționează mai întâi și abia apoi se gândește la consecințe.
Critica surprinde ceva real. Dar mi se pare prea simplă.
În cazul lucrurilor cu adevărat noi, nu poți înțelege totul dinainte.
Poți dezvolta modele ani întregi, analiza riscuri și discuta consecințe posibile. La un moment dat, cineva trebuie să construiască, să încerce și să observe. Unele lucruri pot fi înțelese doar în contact cu ceva care există efectiv.
Este valabil pentru software. Pentru organizații. Și, într-un mod aparte, pentru sistemele actuale de IA.
Pentru mine, problema nu este, așadar, să faci înainte de a înțelege pe deplin.
Contează cele două precizări discrete din vechiul meu principiu:
să înțelegi imediat și să schimbi imediat.
Cât de mare poate deveni distanța?
A face, a înțelege, a corecta formează o buclă.
Fac ceva. Astfel învăț ceva ce nu puteam ști înainte. Noua înțelegere îmi poate schimba modelul. Iar dacă modelul nu se mai potrivește cu ceea ce am făcut, modific ceea ce am făcut.
Cât timp bucla rămâne strânsă, „mai întâi faci” poate fi o formă foarte rezonabilă de învățare.
Problemele apar când pașii se îndepărtează unul de altul.
Continui să faci, în timp ce înțelegerea rămâne în urmă.
Ajungi să înțelegi că o presupunere anterioară era greșită, dar între timp depind de ea atât de multe alte decizii, încât schimbarea a devenit costisitoare.
Sau recunoști problema abia când corectarea mai este cu greu posibilă.
În software-ul obișnuit cunoaștem bine situația. O mică decizie de proiectare nu este pusă la îndoială, alte componente se bazează pe ea, utilizatorii se obișnuiesc, se acumulează date. După ani, constați că presupunerea inițială nu era prea bună.
Atunci vorbim despre datorie tehnică.
De obicei este neplăcut. Rareori este o catastrofă.
În inteligența artificială, aceeași întrebare se pune acum la altă scară.
Poate că tocmai această întrebare o auzim acum
Nu știu ce cunosc Sam Altman sau Dario Amodei din interior. Și nici nu vreau să interpretez psihologic declarațiile lor publice.
Dar nu trebuie neapărat să înțeleg urgența lor actuală astfel:
„Am pierdut controlul asupra sistemelor noastre.”
O pot citi și altfel:
„Trebuie să avem grijă ca ceea ce facem să nu o ia prea mult înaintea înțelegerii noastre.”
Este o afirmație mult mai puțin spectaculoasă.
Pentru mine ar rămâne totuși extrem de serioasă.
Dezvoltarea IA performante a devenit foarte rapidă în ultimii ani. În același timp, capacitățile noi trebuie testate, consecințele înțelese, mecanismele de siguranță dezvoltate și regulile sociale găsite.
Poate că ceea ce se întâmplă nu este, deci, descoperirea bruscă a unui pericol necunoscut până acum.
Poate se schimbă mai degrabă evaluarea privind cât de mare mai poate fi distanța acceptabilă dintre dezvoltare și înțelegere.
Asta ar explica și de ce se vorbește tot mai mult despre ritm.
Nu neapărat fiindcă „mai lent” ar însemna în sine „mai sigur”.
Ci pentru că înțelegerea cere timp.
Particularitatea IA nu este că nu înțelegem totul
Nu înțelegem complet foarte multe lucruri.
Facem să funcționeze economii, deși nimeni nu le poate anticipa fiabil evoluția. Dezvoltăm medicamente ale căror efecte devin pe deplin vizibile abia în studii. Construim sisteme software complexe al căror comportament real nu mai este cunoscut în fiecare detaliu de nimeni.
Înțelegerea completă nu a fost niciodată o condiție prealabilă a acțiunii umane.
Dar în cazul IA apare o întrebare incomodă în plus:
Cât de siguri suntem că vom mai putea corecta ulterior?
Pentru mine, tocmai această întrebare reprezintă o mare parte a problemei alinierii.
Dacă o versiune nouă de software este proastă, poate fi retrasă.
Dacă o decizie de arhitectură a fost greșită, migrarea poate fi scumpă. Dar, de obicei, se poate migra.
În cazul sistemelor de IA tot mai performante se discută dacă ar putea apărea capacități și forme de utilizare pentru care să nu ne mai putem baza pe această reversibilitate considerată de la sine înțeleasă.
Nu pot aprecia cât de realiste sunt cele mai dramatice scenarii.
Dar nici nu trebuie să le considerăm certe pentru a găsi rezonabilă întrebarea de bază.
Dacă urmările unei posibile greșeli devin mai mari, trebuie să mă gândesc mai devreme dacă metoda mea de până acum, învățarea prin corectare, mai funcționează.
Nu este panică față de IA.
Este o întrebare destul de obișnuită a acțiunii raționale.
Poate ar trebui să temperăm și dezbaterea culturală
Europa și Silicon Valley sunt adesea prezentate ca opuse.
Aici, precauție, reglementare și scepticism.
Acolo, viteză, experiment și inovație.
Există adevăr și în această imagine. Dar poate că opoziția nu ne ajută prea mult acum în privința IA.
Ideea europeană că ar trebui să înțelegem o tehnologie fundamental nouă înainte de a o dezvolta întâlnește o limită a cunoașterii: o parte a înțelegerii poate fi obținută doar prin dezvoltare.
Ideea americană că putem dezvolta rapid și corecta apoi problemele întâlnește o altă limită: funcționează fiabil numai cât timp corectarea chiar mai este posibilă ulterior.
Poate că asistăm la momentul în care ambele limite devin vizibile simultan.
Ar fi mai puțin dramatic decât povestea dezvoltatorilor de IA speriați dintr-odată de propria creație.
Dar nicidecum lipsit de importanță.
Ce vreau să consemnez în septembrie 2026
Poate că peste câțiva ani vom privi avertismentele actuale și le vom considera exagerate.
Poate ne vom întreba de ce nu le-am luat mai în serios.
Nu știu.
Și tocmai de aceea nu vreau să mă prefac că pot spune deja astăzi povestea corectă a acestei perioade.
Pot consemna înțelegerea mea actuală.
Nu văd că oameni precum Altman și Amodei ar fi descoperit brusc că inteligența artificială poate fi periculoasă. Discuția există de ani de zile.
Văd însă indicii că se schimbă ponderea acordată întrebărilor.
Întrebarea nu mai este doar:
Ce putem face în continuare?
Alături de ea se aude mai puternic o a doua:
Înțelegem suficient de repede ceea ce facem acum?
Iar în spatele ei se află o a treia, poate decisivă:
Dacă înțelegerea noastră se schimbă, mai putem schimba la timp ceea ce facem?
Poate că aceasta este o traducere utilă a ceea ce apare acum în știri pe un ton oarecum alarmant.
Îi ia dezbaterii puțin din dramatism.
Nu îi ia din importanță.
Comentarii
Scrie un comentariu