Trebuie să avem încredere într-un model de IA?
De ceva vreme întâlnesc mereu aceeași întrebare:
„Poți avea, de fapt, încredere într-un model de IA?”
Înțeleg întrebarea.
Dar bănuiesc că trece pe lângă adevărata provocare.
Nu pentru că încrederea n-ar conta.
Ci pentru că confundăm inteligența cu infailibilitatea.
O așteptare surprinzătoare
Despre inteligența artificială se vorbește adesea ca și cum ar exista doar două posibilități.
Fie greșește.
Atunci nu putem avea încredere în ea.
Fie va deveni într-o zi suficient de inteligentă.
Atunci vom putea avea încredere în ea.
Această idee nu mă convinge.
Ea presupune, fără să o spună, că suficientă inteligență conduce la un moment dat la infailibilitate.
De ce am crede asta?
Infailibilitatea nu este o formă deosebit de dezvoltată a inteligenței.
Este o categorie cu totul diferită.
Inteligența nu face greșelile imposibile
Îmi place să lucrez cu oameni mai inteligenți decât mine.
Ei văd legături care mie îmi scapă.
Pun întrebări mai bune.
Găsesc soluții mai elegante.
Dar asta nu înseamnă că mă bazez pe faptul că au întotdeauna dreptate.
Nici ei nu așteaptă asta de la ei înșiși.
Un conducător bun nu încearcă să fie cea mai inteligentă persoană din încăpere.
Încearcă să combine cu sens capacitățile echipei sale.
Nu și-ar pierde responsabilitatea doar pentru că alții sunt mai inteligenți.
Dimpotrivă.
Tocmai atunci responsabilitatea sa devine deosebit de importantă.
De ce ar fi fundamental altfel în cazul inteligenței artificiale?
Adevărata provocare
Să presupunem că modelele lingvistice chiar vor deveni de o mie de ori mai inteligente decât noi.
Poate că se va întâmpla.
Poate că nu.
Pentru acest raționament nu contează.
Fiindcă și atunci ar rămâne valabil un fapt simplu:
Un sistem inteligent poate greși.
Cu cât devine mai puternic, cu atât consecințele greșelilor sale pot fi chiar mai mari.
De aceea, întrebarea decisivă nu mi se pare:
„Este modelul suficient de inteligent?”
Ci:
„Cum gestionăm faptul că poate greși, în principiu?”
Nu este o întrebare nouă
Trăim de secole alături de oameni care pot greși.
Lucrăm cu ei.
Le încredințăm responsabilități.
Îi alegem în funcții politice.
Înființăm companii.
Construim instituții științifice.
Nicăieri nu ne așteptăm la infailibilitate.
Ne așteptăm la altceva.
Ca greșelile să poată fi recunoscute.
Să poată fi corectate.
Nimeni să nu fie ferit permanent de orice posibilitate de corectare.
Poate că democrația ne poate învăța ceva
Democrația reprezentativă nu este o metodă de a găsi politicieni infailibili.
Este o metodă de a gestiona faptul că politicienii pot greși.
Alegeri.
Separarea puterilor.
Presă liberă.
Instanțe independente.
Opoziție.
Toate aceste instituții urmăresc, în fond, aceeași idee.
Nu încrederea face sistemul stabil.
Ci posibilitatea de a corecta.
De aceea, democrația nu este un sistem pentru oameni perfecți.
Este un sistem care poate face față imperfecțiunii lor.
De ce ar fi altfel cu IA?
Dacă inteligența artificială devine tot mai performantă, nu crește doar utilitatea ei.
Crește și însemnătatea greșelilor sale.
Tocmai de aceea, încrederea mi se pare insuficientă ca fundament al colaborării.
Nu pentru că IA ar fi periculoasă.
Ci pentru că orice sistem inteligent rămâne susceptibil să greșească.
Pentru mine, întrebarea decisivă nu este, așadar:
„Pot avea încredere în acest model de IA?”
Ci:
„Cum trebuie organizată colaborarea cu un sistem foarte inteligent, dar care poate greși în principiu, astfel încât greșelile să rămână corectabile?”
Este o problemă de proiectare.
Nu una de credință.
Responsabilitatea nu dispare
Uneori discuția pare să presupună că ori omul, ori IA trebuie să fie responsabilă.
Nu cred că realitatea este atât de simplă.
Cine dezvoltă un sistem de IA are o responsabilitate.
Cine îl operează are o responsabilitate.
Cine îl folosește are o responsabilitate.
Iar sistemul de IA influențează prin comportamentul său fiecare colaborare.
Responsabilitatea nu dispare.
Se distribuie.
Tocmai de aceea, felul în care este organizată colaborarea devine mai important decât speranța în perfecțiune.
Un gând de încheiere
Nu folosesc modele de IA pentru că le-aș crede infailibile.
Nici pentru că aș avea încredere oarbă în ele.
Le folosesc pentru că pot fi extraordinar de inteligente.
Tocmai de aceea consider esențial să nu ignor posibilitatea de a greși.
Poate că adevărata provocare a inteligenței artificiale nu este să construim într-o zi sisteme perfecte.
Poate că este să dezvoltăm forme de colaborare în care chiar și sisteme extraordinar de inteligente au voie să greșească, fără ca greșelile lor să devină imposibil de corectat.
Atunci fundamentul nu este încrederea.
Ci posibilitatea de a corecta.
Comentarii
Scrie un comentariu