Portretul lui Dieter Szegedi

Dieter Szegedi

Claritate, structură și decizii în contextul IA și al sistemelor complexe

Dincolo de Constitutional AI

Controlul de constituționalitate, jumătatea lipsă a alinierii IA

Introducere

Odată cu apariția agenților IA, alinierea a trecut de la o întrebare teoretică la o provocare tehnică practică. Pe măsură ce sistemele autonome pot planifica, decide și acționa pe perioade tot mai lungi, întrebarea nu mai este doar cum ar trebui să se comporte, ci și cum poate fi înțeles, evaluat și reglementat comportamentul lor.

Conceptul de Constitutional AI, dezvoltat de Anthropic, marchează o etapă importantă. În loc să se bazeze exclusiv pe nenumărate reguli individuale sau pe feedback uman, introduce ideea unei constituții: un număr redus de principii fundamentale care să ghideze comportamentul unui sistem de IA.

Este o idee elegantă.

Dar ridică o întrebare care pare să primească mult mai puțină atenție:

Ce se întâmplă după ce un agent a acționat?

O constituție nu este valoroasă doar pentru că influențează deciziile viitoare. Adevărata ei forță stă în faptul că oferă un reper durabil pentru evaluarea unor acțiuni concrete.

Poate că tocmai această a doua jumătate lipsește alinierii IA.

O constituție este mai mult decât o colecție de reguli

În democrațiile constituționale, constituția nu este doar încă o lege.

Este norma supremă.

Nu încearcă să reglementeze în detaliu fiecare situație imaginabilă. Stabilește principii care trebuie respectate de toate legile ulterioare și de orice acțiune a statului.

Această aparentă incompletitudine nu este o slăbiciune.

Dimpotrivă: constituțiile folosesc deliberat concepte largi precum proporționalitatea, egalitatea, demnitatea sau libertatea, tocmai fiindcă trebuie să rămână aplicabile și unor situații pe care autorii lor nu le-ar fi putut anticipa.

Forța unei constituții nu stă în precizia exhaustivă, ci în capacitatea de a oferi repere stabile într-o lume în schimbare.

Același lucru este valabil pentru IA.

Niciun document constituțional nu poate enumera toate situațiile viitoare pe care le-ar putea întâlni un agent autonom.

Scopul său este altul.

Creează baza normativă în raport cu care poate fi evaluată orice acțiune viitoare.

Constitutional AI rezolvă doar jumătate din problemă

Discuția actuală despre alinierea IA se concentrează mai ales pe producerea comportamentului dorit.

Cum ar trebui să decidă un agent?

Cum ar trebui să tragă concluzii?

Cum ar trebui să evite comportamentul dăunător?

Sunt întrebări esențiale.

Dar privesc doar o direcție a problemei:

Cum producem un comportament conform constituției?

Imediat după aceea apare o întrebare la fel de importantă:

Cum stabilim dacă o acțiune încheiată a fost într-adevăr compatibilă cu constituția?

Acestea sunt funcții fundamental diferite.

Una privește luarea deciziei.

Cealaltă privește controlul de constituționalitate.

Cine le confundă estompează o distincție arhitecturală importantă.

Controlul de constituționalitate nu este o autoexplicație

Sistemele moderne de IA oferă tot mai des explicații pentru comportamentul lor.

Aceste explicații pot fi valoroase.

Îmbunătățesc transparența.

Îi ajută pe dezvoltatori să înțeleagă erorile.

Întăresc încrederea că sistemul se comportă așa cum s-a intenționat.

Dar nu ar trebui să devină ele însele parte a controlului de constituționalitate.

Acesta pune o singură întrebare:

Este acțiunea H compatibilă cu constituția C?

Nimic mai mult.

Nimic mai puțin.

Raționamentul intern care a dus la acțiune aparține altei proceduri.

El poate explica de ce a acționat agentul.

Nu decide dacă acțiunea respectă constituția.

Distincția corespunde unei trăsături importante a dreptului constituțional.

Evaluarea normativă privește acțiunea însăși.

Explicația modului în care s-a ajuns la decizie poate fi lămuritoare, dar nu poate înlocui evaluarea normativă.

Separarea celor două întrebări are o consecință importantă.

Agenți diferiți care execută acțiuni identice ar trebui să primească evaluări constituționale identice, indiferent dacă unul oferă o explicație nuanțată, iar celălalt nu spune nimic.

La fel, o explicație elocventă nu poate transforma o acțiune neconstituțională într-una constituțională.

Legitimitatea normativă nu trebuie să depindă niciodată de calitatea retorică.

Controlul de constituționalitate este o funcție, nu o instituție

Democrațiile constituționale încredințează controlul de constituționalitate unor instanțe specializate.

Această organizare instituțională este o soluție apărută istoric.

Funcția care stă la baza ei este însă mult mai generală.

Cineva sau ceva trebuie să răspundă la întrebarea:

Este această acțiune compatibilă cu constituția?

În cazul sistemelor de IA, funcția nu trebuie rezervată unei singure autorități.

Controlul poate deveni, în schimb, o procedură deschisă.

Orice implementare ar trebui să poată verifica aceeași acțiune în raport cu aceeași constituție.

Evaluatori diferiți pot ajunge la rezultate diferite.

Nu este nici surprinzător, nici problematic.

Valoarea controlului nu se bazează pe concordanța rezultatelor.

Se bazează pe justificări transparente.

De aceea, nu rezultatele ar trebui comparate.

Ci argumentele.

Către un control de constituționalitate deschis

Această perspectivă sugerează o altă arhitectură.

În locul unei singure autorități constituționale privilegiate, pot exista mai mulți evaluatori.

Un furnizor de IA poate oferi o implementare.

Un cercetător independent poate dezvolta alta.

O companie își poate crea propria variantă.

O persoană poate folosi un model lingvistic complet diferit.

Toți evaluatorii examinează aceeași acțiune observabilă în raport cu aceeași constituție.

Legitimitatea lor nu decurge nici din autoritatea organizațională, nici dintr-un privilegiu tehnic.

Se bazează exclusiv pe calitatea justificărilor.

Controlul de constituționalitate devine astfel reproductibil.

Comparabil.

Deschis criticii.

Deschis îmbunătățirii.

Alinierea personală a IA

Aceeași arhitectură se poate aplica, în mod firesc, și dincolo de sistemele publice de IA.

Oamenii deleagă tot mai mult părți din gândirea și deciziile lor unei varietăți de agenți IA specializați.

Provocarea centrală nu mai este doar controlul fiecărui prompt.

Este păstrarea coerenței într-un ecosistem schimbător de asistenți autonomi.

O constituție personală îndeplinește aici același rol ca un document constituțional într-un stat.

Stabilește principii durabile în locul unor instrucțiuni trecătoare.

Prompturile, fluxurile de lucru și regulile specifice agenților devin mecanisme operaționale subordonate.

Fiecare acțiune concretă executată în numele unei persoane poate fi evaluată apoi în raport cu această constituție personală.

Este important ca evaluarea să rămână independentă de agentul care a executat acțiunea.

Constituția devine referința normativă comună pentru toate implementările prezente și viitoare.

Astfel, alinierea personală a IA trece de la ingineria prompturilor la guvernanță.

Încheiere

Poate că cea mai importantă contribuție a Constitutional AI nu este constituția însăși.

Este recunoașterea faptului că sistemele de IA au nevoie de o bază normativă durabilă.

Următorul pas logic este să recunoaștem că orice constituție are nevoie de o metodă la fel de durabilă de verificare a respectării ei.

Alinierea nu este, așadar, doar procesul de a produce comportamentul dorit.

Este și procesul de a evalua acțiunile efectuate pe baza unui reper normativ comun.

Această verificare ar trebui să fie independentă de raționamentul intern, reproductibilă între implementări diferite și întemeiată pe argumente transparente, nu pe autoritate instituțională.

În democrațiile constituționale, constituțiile ordonează exercitarea puterii politice.

Într-o epocă a agenților IA autonomi, ele ar putea ordona ceva la fel de fundamental:

exercitarea capacității de acțiune delegate.

Află despre publicațiile noi

Folosim adresa de e-mail doar pentru a te anunța despre conținut nou. Notificările încep numai după confirmare. Mai multe informații în Protecția datelor.