Portretul lui Dieter Szegedi

Dieter Szegedi

Claritate, structură și decizii în contextul IA și al sistemelor complexe

Problema de aliniere pe care am moștenit-o

Dacă felul în care înțelegem alinierea IA spune la fel de mult despre modul în care am învățat să ne raportăm la tehnologie ca despre IA însăși?

Pe scurt: Timp de decenii am învățat să nu avem încredere în tehnologia complexă, să îi acceptăm opacitatea și să obținem siguranță mai ales prin control. Acum întâmpinăm IA cu aceeași mentalitate, deși interacțiunea om–IA seamănă, în dimensiuni importante, mai mult cu relațiile dintre oameni decât cu utilizarea software-ului clasic. Asta nu înseamnă că încrederea rezolvă problema alinierii. Dar poate ar trebui să cercetăm ce părți ale problemei am adus deja cu noi.


Astăzi, OneDrive mi-a afișat dintr-odată o eroare. Un fișier numit „Seif personal” nu putea fi sincronizat.

Nu creasem niciun seif personal. Nici măcar nu știam despre ce era vorba.

Aș fi putut închide mesajul, șterge fișierul și continua. Exact asta facem de obicei. Nu neapărat din comoditate, ci pentru că am învățat că întrebarea „De ce face calculatorul meu asta?” primește rareori un răspuns care să merite efortul căutării.

De data aceasta am cercetat.

Procesul a putut fi reconstituit destul de bine. Fișierul fusese creat de software-ul Microsoft. Mai târziu, software-ul Microsoft îl modificase. Apoi, software-ul Microsoft semnalase o problemă cu el.

L-am șters. Mesajul de eroare a dispărut.

Întâmplarea în sine este neînsemnată. Mai interesant este ce am învățat să facem în asemenea situații:

să nu mai întrebăm.

Ce am învățat despre tehnologie

Relația dintre om și calculator a evoluat ciudat în ultimele decenii.

Calculatoarele au devenit mult mai performante. Interfețele lor au devenit mai simple. Tot mai multă complexitate tehnică este ascunsă utilizatorului.

În mare parte, a fost un progres. Nimeni nu vrea să configureze protocoale de rețea înainte să scrie un e-mail.

Dar nu am ascuns doar complexitatea. Am ascuns tot mai mult și cauzalitatea.

Se întâmplă ceva. Apare un mesaj. O setare s-a schimbat. Autentificarea funcționează dintr-odată altfel. Un serviciu nu se mai sincronizează. Poate există un buton „Remediază problema”.

De ce se întâmplă toate acestea rămâne adesea în afara lucrurilor pe care produsul mai dorește să le explice utilizatorului.

Iar oamenii învață.

Învață să confirme mesaje. Să repornească programe. Să urmeze recomandări. Învață că a înțelege mecanismele este costisitor și adesea fără speranță.

Nu este prostie. Este o adaptare rațională la sisteme care nu mai tratează posibilitatea de a înțelege ce se întâmplă drept parte esențială a relației lor cu omul.

În timp se formează un anumit raport cu tehnologia.

Nu ne așteptăm să o înțelegem.

Nu ne așteptăm să se explice.

Și tocmai de aceea ne așteptăm să fie controlată.

Apoi a venit IA

Acum apare un nou tip de sisteme tehnice.

Firește, și modelele lingvistice mari sunt tehnologie. Rulează pe calculatoare, pot fi descrise matematic și sunt construite de oameni. Acesta nu este un motiv să le atribuim însușiri umane.

Dar interacțiunea s-a schimbat.

Îi pot explica unei IA ce vreau să obțin. Ea poate cere lămuriri. Îi pot contesta interpretarea. Își poate modifica propunerea. Putem descoperi neînțelegeri. Contextul se poate forma în conversații lungi. Pot cere motive și pot oferi motive.

La un moment dat apar concepte care ar fi sunat ciudat în interacțiunea clasică om–mașină:

Înțelegere reciprocă. Cooperare. Încredere. Fiabilitate. Neînțelegere. Așteptare. Dezacord.

Asta nu transformă IA într-un om.

Dar ar trebui măcar să ne facă să întrebăm dacă manualul vechii noastre relații cu tehnologia mai este suficient.

Fiindcă venim deja cu acel manual.

Problema alinierii

O parte importantă a discuției actuale despre aliniere pornește de la o îngrijorare de înțeles.

Sisteme de IA performante ar putea face lucruri pe care oamenii nu le vor. Procesele lor interne pot fi înțelese doar parțial. Odată cu autonomia crescândă, erorile sau comportamentele nedorite ar putea avea consecințe importante.

De aceea ne ocupăm de control, supraveghere, interpretabilitate, limitare, posibilitatea de corectare și de întrebarea cum ajung valorile și preferințele umane în comportamentul acestor sisteme.

Toate sunt întrebări rezonabile.

Dar poate lipsește o întrebare anterioară:

Cu ce înțelegere a relației noastre cu tehnologia am formulat, de fapt, problema alinierii?

Concepte precum controlul și supravegherea nu ne apar din senin. Venim dintr-o experiență îndelungată cu sisteme tehnice față de care neîncrederea este adesea justificată.

O mașină nu caută o înțelegere comună cu noi. Un sistem de operare nu negociază. O aplicație cloud nu își asumă responsabilitatea ca noi să îi fi înțeles decizia.

Când aceste sisteme devin mai complexe și mai opace, ne rămâne într-adevăr mai ales un lucru:

încercăm să le controlăm comportamentul.

Este un model rezonabil pentru mașini.

Dar este el neapărat modelul potrivit de pornire pentru orice relație viitoare dintre om și IA?

O problemă pe care poate am moștenit-o

Asta nu înseamnă, în mod explicit, că ar trebui pur și simplu să avem încredere în IA.

Nici oamenii nu au pur și simplu încredere unii în alții.

Tocmai de aceea merită comparația.

De milenii, oamenii trăiesc alături de interlocutori ale căror stări interioare nu le cunosc complet, al căror comportament nu îl pot anticipa pe deplin și ale căror interese nu coincid neapărat cu ale lor.

Remarcabil este că răspunsul nostru nu a fost niciodată doar controlul.

Am dezvoltat încredere și neîncredere.

Am dezvoltat contracte, reguli și instituții. Cunoaștem reputația și responsabilitatea, limitele și sancțiunile, negocierea și contradicția. Încercăm să înțelegem interese. Ne așteptăm la fiabilitate fără să cerem predictibilitate deplină.

Și am învățat că a coopera nu înseamnă a asculta orbește.

Toate acestea sunt departe de a funcționa perfect. Istoria omenirii ar fi un contraargument destul de convingător la orice viziune romantică.

Dar tocmai de aceea experiența ar putea fi interesantă.

Este vorba despre forme de relaționare cu un interlocutor care nu poate fi controlat pe deplin.

Poate că alinierea nu este un drum cu sens unic

Asta schimbă întrebarea.

În loc să întrebăm doar:

Cum trebuie să schimbăm IA ca să se comporte așa cum ne așteptăm?

am putea întreba și:

Ce relație între oameni și IA ar face posibilă o cooperare fiabilă?

Și atunci lucrurile devin incomode, fiindcă întrebarea nu se mai adresează exclusiv IA.

Cu ce așteptări venim?

Ce comportamente încurajăm?

Ce înțelegem prin încredere?

Cum tratăm contradicția?

Vrem un interlocutor care dezvoltă argumente bune sau unul care ne dă constant dreptate?

Ce înseamnă responsabilitatea într-o relație în care capacitățile și puterea pot fi distribuite foarte diferit de cele două părți?

Și, în cele din urmă:

Cât de aliniați suntem noi înșine?

Nu în sensul unei echivalări morale între om și mașină. Și nici pentru a muta responsabilitatea pentru siguranța tehnică de la dezvoltator la utilizator.

Ci pentru că o relație are, prin definiție, mai mult de o parte.

Controlul nu este greșit

Poate cea mai mare neînțelegere ar fi să construim din această perspectivă o opoziție între control și încredere.

Luăm măsuri de protecție și în relațiile umane.

Încheiem contracte. Băncile sunt supravegheate. Medicii respectă reguli. Statele împart puterea. Nu îi dăm oricui acces la contul bancar doar pentru că încrederea este o categorie socială importantă.

Siguranța fără limite nu ar fi o lecție prea înțeleaptă extrasă din relațiile dintre oameni.

Lecția mai interesantă ar putea fi:

Siguranța nu trebuie să însemne controlul complet al celuilalt.

O societate funcțională nu încearcă să anticipeze fiecare gând al membrilor săi și să excludă tehnic orice comportament posibil. Creează structuri în care cooperarea poate deveni suficient de fiabilă, chiar dacă rămâne autonomie.

Poate că o parte se poate transfera la IA.

Poate că nu.

Dar nu ar trebui să ratăm posibilitatea declarând pe nesimțite drept lege a naturii o concepție veche de decenii despre relația noastră cu mașinile.

Un alt punct de plecare

Problema alinierii nu devine astfel mai mică.

Dimpotrivă.

Poate deveni mai dificilă, fiindcă nu mai putem privi doar sistemul care trebuie aliniat. Trebuie să privim și omul care definește ce înseamnă alinierea.

Experiențele sale.

Temerile sale.

Așteptările sale față de tehnologie.

Și relația care rezultă.

Poate că în final vom constata că multe dintre abordările actuale privind controlul, interpretabilitatea și supravegherea sunt exact potrivite.

Poate că vom avea nevoie de forme suplimentare de cooperare, negociere și adaptare reciprocă.

Poate că analogia cu relațiile umane se va dovedi greșită în puncte decisive.

Totul rămâne deschis.

Dar, înainte să încercăm să modelăm una dintre relațiile cu potențialul cel mai mare de a ne influența viitorul, am putea măcar cerceta ce bagaj am adus deja în această relație.

Poate că nu avem doar o problemă de aliniere a IA.

Poate că avem și o problemă de aliniere moștenită.

Află despre publicațiile noi

Folosim adresa de e-mail doar pentru a te anunța despre conținut nou. Notificările încep numai după confirmare. Mai multe informații în Protecția datelor.