Ce înseamnă un agent personal „potrivit”?
Recent, abia dacă am mai citit o postare LinkedIn deja redactată. Am parcurs-o în grabă, am copiat-o și am publicat-o.
Privit separat, gestul nu pare prea înțelept. Un text generat de inteligența artificială este publicat în nume propriu, fără să fie verificat din nou cuvânt cu cuvânt. Nu este exact genul de încredere oarbă asupra căruia avertizăm mereu când vorbim despre IA?
Poate. În cazul acesta, descrierea este însă incompletă.
Textul fusese precedat de multe conversații. Limbajul, distincțiile și criteriile mele personale se conturaseră în timp. În plus, execuția se sprijinea pe un depozit în care decizii anterioare și convenții editoriale erau deja vizibile. Nu mă bazam, așadar, pur și simplu pe un rezultat izolat. Mă bazam pe experiența unui mod comun de lucru.
Dintr-odată, gândul m-a dus mai puțin la agenții IA și mai mult la asistenții personali umani.
Modelul uman
Un asistent personal uman bun nu devine valoros fiindcă persoana pentru care lucrează îi verifică atent fiecare rezultat. Valoarea lui se construiește în timp.
Cei doi ajung să se cunoască. Lucrează împreună. Apar neînțelegeri, care sunt corectate. Limitele devin vizibile. Responsabilitatea este încredințată treptat.
La un moment dat, persoana poate spune:
Ocupă-te de asta.
Asistentul nu știe atunci totul. Dar știe ce înseamnă cererea, ce decizii poate lua singur, când ar trebui să ceară lămuriri și ce nu ar vrea niciodată cealaltă persoană să fie făcut în acel fel.
Această cunoaștere nu constă doar în reguli. Ea s-a format într-o istorie comună. Deciziile, corecturile și conflictele anterioare dau sens situațiilor noi.
Poate că, prin agenții personali IA, nici nu încercăm să inventăm o formă complet nouă de colaborare. Poate că încercăm să recreăm tehnic o veche relație de lucru umană.
Alinierea ca muncă împreună, zi de zi
În discuția despre IA, alinierea sună adesea ca o problemă abstractă de proiectare: cum îi transmitem unui sistem valorile potrivite? Cum formulăm reguli care să reziste și în situații noi? Cum împiedicăm un agent să urmărească un obiectiv într-un fel pe care nu l-am intenționat?
Întrebările rămân importante. Modelul uman sugerează însă o altă întrebare de pornire:
Cum se formează între doi actori o colaborare în care unul poate acționa tot mai autonom în spiritul celuilalt?
Alinierea nu devine astfel mai simplă. Dar devine mai concretă.
Valorile nu mai apar doar ca o listă care trebuie stabilită integral înainte de colaborare. Ele devin vizibile și în timpul ei: în ceea ce este confirmat, în ceea ce neliniștește, în corecturi, în limitele stabilite și în deciziile privind momentul în care poate fi încredințată responsabilitatea.
Un agent personal nu ar trebui, așadar, doar să urmeze instrucțiuni. Ar trebui să dezvolte din istoria colaborării un model de lucru solid și, în același timp, să îl păstreze provizoriu. Fiindcă și un interlocutor cu care lucrezi foarte bine poate înțelege greșit o situație.
„Potrivit” nu este o proprietate universală
Aici, cuvântul „potrivit” poate fi ușor înțeles greșit. Pentru mine, un agent personal potrivit nu ar fi unul care are acces la răspunsul obiectiv corect pentru orice situație.
O delimitare mai utilă este aceasta:
Un agent personal potrivit nu este cel care acționează obiectiv corect. Este unul ale cărui acțiuni sunt compatibile cu valorile mele și care, în condiții de incertitudine, știe când trebuie să mă readucă în conversație.
„Compatibil cu valorile mele” nu înseamnă că agentul îmi dă mereu dreptate. Printre valorile mele se poate număra tocmai faptul că semnalează o contradicție, pune o întrebare incomodă sau nu depășește o limită fără să spună.
Compatibilitatea nu este, așadar, simplă obediență. Ea cere un model suficient de bun al lucrurilor care contează pentru mine într-o situație. Și cere capacitatea de a recunoaște conflictele din acel model. Viteza poate conta, la fel și atenția. Expunerea publică poate fi dorită, la fel și discreția. Un agent personal nu trebuie doar să cunoască preferințe separate, ci să observe când ele intră în tensiune.
Controlul nu dispare
Analogia cu asistentul uman nu este o invitație la încredere oarbă.
Nici o colaborare solidă nu face controlul inutil. Îi schimbă forma. La început poate fi verificat aproape fiecare rezultat. Mai târziu, atenția se îndreaptă mai mult spre calitatea modului comun de lucru: devin vizibile neînțelegerile? Sunt integrate corecturile? Rămân stabile limitele? Revine asistentul la persoană când deciziile sunt neclare sau au consecințe importante?
Cât control punctual rămâne necesar depinde în continuare de consecințe. O notă internă nu este un contract. Un articol de site nu este o decizie medicală. Iar ultimul clic către un canal public poate marca o limită utilă: da, vreau ca acest lucru să apară acum în numele meu.
Încrederea nu înlocuiește responsabilitatea. Permite distribuirea ei altfel.
În micul meu exemplu de publicare, o parte a controlului se mutase de la verificarea fiecărei propoziții la calitatea colaborării construite în timp. Lectura rapidă era justificabilă numai pentru că fusese precedată de multă cunoaștere reciprocă, corectare și muncă împreună.
Pentru a înțelege agenții, să privim din nou oamenii
Poate că drumul către agenții personali începe, așadar, prin îndepărtarea de agenți și întoarcerea deplină către oameni.
Oamenii au dezvoltat de mult practici prin care încredințează responsabilitate în condiții de cunoaștere limitată: lucrează împreună, clarifică așteptări, discută greșeli, disting competențe și redeschid conversația când există incertitudine.
Aceste practici nu rezolvă orice problemă tehnică. Un sistem de IA nu este un asistent uman. Nu poartă responsabilitate în sens uman, iar familiaritatea lui aparentă poate crea o falsă impresie de înțelegere.
Tocmai de aceea merită privit modelul uman. El ne amintește că un agent personal nu devine personal doar fiindcă știe multe date personale sau primește un set de instrucțiuni foarte lung.
Colaborarea devine personală acolo unde, în timp, se formează repere comune solide.
Dacă vrem să construim agenți „potriviți”, poate că nu este suficient să descriem complet valorile o singură dată. Trebuie să proiectăm forme de colaborare în care valorile să devină vizibile, corectabile și active în situații concrete.
Atunci, într-o zi, „Ocupă-te de asta” ar putea chiar să fie suficient.
Nu pentru că agentul are mereu dreptate.
Ci pentru că a învățat să acționeze în spiritul meu și să recunoască atunci când nu o poate face cu suficientă siguranță.
Comentarii
Scrie un comentariu