Portretul lui Dieter Szegedi

Dieter Szegedi

Claritate, structură și decizii în contextul IA și al sistemelor complexe

Ce se întâmplă când indivizii pot, dintr-odată, să gândească la nivelul instituțiilor?

Instituțiile au un avantaj structural.

La prima vedere, nu este nici surprinzător, nici condamnabil. O autoritate, un asigurător, o bancă, un spital sau o companie dispune de expertiză, limbaj profesional, dosare, proceduri, competențe definite, consiliere juridică și, mai ales, timp de muncă plătit.

De cealaltă parte se află un singur om.

Adesea tocmai când nu îi merge prea bine. Când este bolnav. Când și-a pierdut locul de muncă. Când nu ajung banii. Când o cerere a fost respinsă. Când se confruntă cu un diagnostic pe care nu îl înțelege. Când trebuie să semneze un contract ale cărui consecințe abia le poate cuprinde.

Societatea noastră cunoaște această asimetrie.

O parte importantă a dreptului nostru poate fi înțeleasă chiar ca o încercare de a o limita.

Cetățeanul poate contesta o decizie administrativă. Pacientul trebuie să își dea consimțământul în cunoștință de cauză. Consumatorul are drepturi de informare și de retragere. Oamenii pot solicita informații, consulta dosare, cere reexaminarea deciziilor și se pot adresa instanțelor.

Sună ca o relație de la egal la egal.

În practică, adesea nu a fost niciodată așa.

Idealul ciudat al individului autonom și informat

Multe dintre aceste drepturi presupun un om surprinzător de capabil.

Mai întâi ar trebui să înțeleagă scrisoarea.

Ar trebui să recunoască afirmația care contează cu adevărat.

Ar trebui să știe ce informație lipsește, să distingă faptele de evaluări, să regăsească scrisori anterioare, să observe contradicții, să respecte termene și apoi să își formuleze obiecțiile astfel încât instituția să le poată procesa.

Când vine răspunsul, ar trebui să recunoască din nou dacă întrebarea lui reală a primit un răspuns.

Și toate acestea pe lângă viața obișnuită.

Cine nu poate face asta nu își pierde dreptul. Dar poate pierde o parte importantă din capacitatea de a-l exercita efectiv.

Dreptul postulează, așadar, în multe locuri un individ autonom, informat și capabil să acționeze, care în realitate există numai în împrejurări favorabile.

Sau cu ajutor profesional.

Avocați, consultanți fiscali, medici, asociații sociale, sindicate, organizații de protecție a consumatorilor și mulți alții îndeplinesc astfel o funcție importantă: traduc între individ și instituție.

Până acum, această traducere a fost rară, scumpă sau, în orice caz, a cerut efort considerabil.

IA schimbă tocmai acest lucru.

Dintr-odată, cineva nu mai pierde firul

Poate că însușirea cea mai interesantă social a unui model lingvistic mare nu este capacitatea de a scrie texte.

Nici faptul că „știe” foarte multe.

Este ceva mult mai puțin spectaculos:

Cu ajutorul lui, un singur om poate începe să gândească la nivelul unei instituții.

Poate descompune o decizie de zece pagini.

Poate compara un raport medical cu unul anterior.

Poate întreba dacă un răspuns chiar îi răspunde la întrebare.

Poate cere explicarea unui termen de specialitate fără să devină el însuși specialist.

Poate scrie un e-mail furios și să nu îl trimită.

În schimb, poate discuta două ore cu o IA despre ce îl înfurie de fapt, ce părți ale interpretării sale sunt susținute de informațiile disponibile și care nu.

La final trimite poate trei paragrafe politicoase.

Nu pentru că IA ar fi decis în locul lui.

Ci pentru că l-a ajutat să își definească mai precis propria poziție.

Este o diferență fundamentală.

Drepturile devin dintr-odată mai ușor de pus în practică

Poate că am subestimat până acum consecințele practice.

Un drept nu are valoare pentru titular doar fiindcă apare în lege. El trebuie să îl și poată valorifica.

Asta cere cunoștințe, timp, atenție, bani și energie psihică.

IA reduce drastic unele dintre aceste costuri de tranzacție.

Și astfel se poate întâmpla ceva neobișnuit:

Drepturi care există de mult schimbă dintr-odată raporturile reale de putere.

Nu pentru că legiuitorul ar fi creat drepturi noi.

Ci pentru că mult mai mulți oameni își pot înțelege, formula și urmări consecvent drepturile existente.

„Desigur, puteți depune contestație” devine altă afirmație când destinatarul chiar depune o contestație precisă pe fond.

Iar dacă răspunsul este incomplet, urmează o întrebare la fel de precisă.

Și dacă răspunsul diferă de unul anterior, cel anterior este încă la îndemână.

Individul primește ceva ce până acum aveau în principal organizațiile:

memorie, structură și perseverență.

Dacă fac toți asta?

Aici începe problema pentru instituții.

Multe procese administrative și decizionale funcționează și pentru că majoritatea covârșitoare a oamenilor nu își folosesc pe deplin posibilitățile teoretice.

Nu este neapărat intenționat.

Este pur și simplu o realitate a capacității de procesare.

O instituție poate gestiona o sută de solicitări imprecise prin proceduri standard.

Dar ce se întâmplă când fiecare dintre cei o sută de oameni recunoaște dintr-odată întrebarea decisivă?

Când citește răspunsul?

Când observă că întrebarea sa nu a primit răspuns?

Când revine cu întrebări?

Când compară justificările?

Când nu renunță epuizat după a treia scrisoare?

Atunci, de cealaltă parte apare muncă reală.

Și tocmai aici ne aflăm într-o etapă de tranziție remarcabilă.

Instituția adesea nu are voie să facă ce individul poate deja

Firește, răspunsul aparent evident vine imediat:

atunci să folosească ambele părți IA.

Pe termen lung, probabil că așa se va întâmpla.

Dar astăzi situația este adesea alta.

Cetățeanul poate analiza acasă, cu ChatGPT, o scrisoare medicală, o decizie administrativă sau propria corespondență.

Angajatul instituției poate să nu aibă voie să introducă același dosar într-un sistem public de IA.

Din motive bune.

Protecția datelor. Secretul profesional. Secretul comercial. Securitatea informației. Conformitatea. Obligațiile de documentare. Trasabilitatea. Răspunderea juridică.

O instituție nu poate spune pur și simplu:

Hai să încercăm.

Are nevoie de guvernanță.

Astfel apare, cel puțin temporar, o inversare remarcabilă.

Decenii la rând, instituția a avut aparatul informațional superior.

Acum poate avea în față un individ care lucrează zile întregi cu o IA exclusiv la un singur caz.

Funcționara nu poate face asta.

Medicul nu poate face asta.

Angajatul asigurătorului nu poate face asta.

Nu pentru că ar fi mai puțin competenți.

Ci pentru că acel caz este, pentru ei, unul dintre multe.

Pentru individ, este viața lui.

Nu este o democratizare automată

Nu ar trebui să transformăm asta într-o poveste romantică.

IA nu îi face automat pe oameni mai înțelepți.

Poate structura erori la fel de bine ca obiecții întemeiate. Poate ajuta un om să apere o convingere falsă cu argumente tot mai bune. Poate crea o falsă siguranță. Poate inunda procesele instituționale cu absurdități perfect formulate.

Și, firește, un om care argumentează cu IA nu are dreptate doar din acest motiv.

Ar fi doar următoarea asimetrie periculoasă.

Schimbarea interesantă este în altă parte:

Dintr-odată, poate susține în timp o poziție argumentată.

Și o poate supune verificării.

O IA bună nu produce doar argumente în favoarea lui. Poate întreba:

De unde știi asta?

Ce altă explicație ar fi posibilă?

Ce scrie efectiv acolo și ce proiectezi tu în text?

Ce informație ți-ar schimba aprecierea?

Folosită astfel, nu înlocuiește autonomia.

O poate face posibilă în practică.

Următoarea treaptă de escaladare este previzibilă

Desigur, instituțiile vor recupera decalajul.

Atunci IA cetățeanului va analiza decizia, în timp ce IA autorității va analiza contestația.

O IA formulează întrebarea suplimentară.

Alta formulează răspunsul.

Din punct de vedere tehnic, acest lucru se poate extinde foarte ușor la scară mare.

Social, ar putea deveni absurd.

Fiindcă întrebarea decisivă nu ar mai fi cine poate argumenta mai repede sau mai elocvent.

Ar fi:

Se clarifică într-adevăr mai bine situația?

Sau doar automatizăm, de ambele părți, capacitatea de a apăra tot mai perfect poziții opuse?

Nu ar fi depășirea birocrației.

Ar fi industrializarea ei.

Poate că instituțiile trebuie să învețe altceva

Răspunsul pe termen lung cu greu poate fi slăbirea din nou a individului.

Nu le vom putea interzice în mod serios oamenilor să ceară ajutorul IA pentru a înțelege o scrisoare medicală, un contract sau un act administrativ.

Și probabil nici nu ar trebui să vrem asta.

În schimb, instituțiile trebuie construite pentru o lume în care interlocutorul lor poate fi efectiv atât de competent pe cât a presupus mereu ordinea noastră juridică.

Un pacient care pune întrebări.

Un cetățean care citește motivarea.

Un consumator care compară condițiile contractuale.

Un solicitant care recunoaște o contradicție.

Un om care își amintește ce i s-a comunicat în scris acum șase luni.

Asta nu ar trebui să fie un atac asupra unei instituții.

Este realizarea a ceea ce numim de decenii autonomie de judecată.

Schimbarea reală

Când vorbim despre IA, discutăm mult despre activitățile umane pe care le vor prelua mașinile.

Poate că astfel ratăm o altă schimbare.

IA nu poate doar să facă instituțiile mai performante.

Îi poate da individului capacități care aveau până acum ele însele un caracter instituțional: memorie, documentare, structurare, precizie a limbajului, traducerea cunoașterii de specialitate și perseverența de a urmări coerent un proces complex pe termen lung.

Astfel se deplasează puterea.

Nu neapărat în favoarea adevărului.

Nu automat în favoarea individului.

Și cu siguranță nu fără probleme noi.

Dar vechea asimetrie nu mai este de la sine înțeleasă.

Poate că una dintre consecințele sociale cele mai importante ale IA nu este, așadar, că mașinile vor acționa cândva autonom.

Ci că oamenii o pot face dintr-odată mai bine.

Ce se întâmplă când indivizii pot, dintr-odată, să gândească la nivelul instituțiilor?

Abia începem să aflăm.

Descarcă PDF-ul

Află despre publicațiile noi

Folosim adresa de e-mail doar pentru a te anunța despre conținut nou. Notificările încep numai după confirmare. Mai multe informații în Protecția datelor.