Au-delà de Constitutional AI
Le contrôle de constitutionnalité, moitié manquante de l’alignement de l’IA
Introduction
Avec l’arrivée des agents IA, l’alignement est passé d’une question théorique à un défi technique concret. À mesure que les systèmes autonomes peuvent planifier, décider et agir sur de plus longues durées, il ne suffit plus de demander comment ils devraient se comporter. Il faut aussi se demander comment comprendre, évaluer et encadrer leur comportement.
Le concept de Constitutional AI, développé par Anthropic, constitue une étape importante. Plutôt que de s’appuyer uniquement sur d’innombrables règles particulières ou sur des retours humains, il introduit l’idée d’une constitution : un petit nombre de principes fondamentaux destinés à guider le comportement d’un système d’IA.
L’idée est élégante.
Mais elle soulève une question qui semble recevoir bien moins d’attention :
Que se passe-t-il après qu’un agent a agi ?
Une constitution n’est pas précieuse seulement parce qu’elle influence les décisions futures. Sa force véritable est de servir de référence durable pour évaluer des actes concrets.
C’est peut-être cette seconde moitié qui manque à l’alignement de l’IA.
Une constitution est plus qu’un recueil de règles
Dans les démocraties constitutionnelles, une constitution n’est pas une loi de plus.
Elle est la norme suprême.
Elle ne cherche pas à régler en détail chaque situation imaginable. Elle fixe plutôt les principes que toutes les lois ultérieures et toute action de l’État doivent respecter.
Cette apparente incomplétude n’est pas une faiblesse.
Au contraire : les constitutions emploient délibérément des notions larges comme la proportionnalité, l’égalité, la dignité ou la liberté, précisément parce qu’elles doivent rester applicables à des situations que leurs auteurs ne pouvaient pas prévoir.
La force d’une constitution n’est pas sa précision exhaustive, mais sa capacité à fournir des repères durables dans un monde changeant.
Il en va de même pour l’IA.
Aucun texte constitutionnel ne peut énumérer toutes les situations futures qu’un agent autonome pourrait rencontrer.
Son objectif est différent.
Il établit la base normative à laquelle toute action future pourra être confrontée.
Constitutional AI ne résout que la moitié du problème
La discussion actuelle sur l’alignement porte surtout sur la production du comportement souhaité.
Comment un agent devrait-il décider ?
Comment devrait-il raisonner ?
Comment devrait-il éviter les comportements nuisibles ?
Ce sont des questions essentielles.
Mais elles ne concernent qu’un sens du problème :
Comment produire un comportement conforme à la constitution ?
Une question tout aussi importante se pose immédiatement après :
Comment déterminer si une action achevée était réellement compatible avec la constitution ?
Ce sont deux fonctions fondamentalement différentes.
L’une concerne la décision.
L’autre concerne le contrôle de constitutionnalité.
Les confondre efface une distinction architecturale importante.
Le contrôle de constitutionnalité n’est pas une auto-explication
Les systèmes d’IA modernes expliquent de plus en plus leur comportement.
Ces explications peuvent être précieuses.
Elles améliorent la transparence.
Elles aident les développeurs à comprendre les erreurs.
Elles renforcent la confiance dans le fait que le système se comporte comme prévu.
Mais elles ne devraient pas faire elles-mêmes partie du contrôle de constitutionnalité.
Celui-ci ne pose qu’une question :
L’action H est-elle compatible avec la constitution C ?
Ni plus.
Ni moins.
Le raisonnement interne qui a conduit à l’action relève d’une autre procédure.
Il peut expliquer pourquoi l’agent a agi.
Il ne détermine pas si l’action respecte la constitution.
Cette distinction correspond à une caractéristique importante du droit constitutionnel.
L’évaluation normative porte sur l’action elle-même.
L’explication de la manière dont la décision a été prise peut être éclairante, mais elle ne remplace pas l’évaluation normative.
Séparer ces deux questions a une conséquence importante.
Des agents différents accomplissant des actions identiques devraient recevoir des évaluations constitutionnelles identiques, que l’un fournisse une explication nuancée tandis que l’autre reste entièrement silencieux.
De même, une explication éloquente ne peut pas transformer une action contraire à la constitution en action conforme.
La légitimité normative ne doit jamais dépendre de la qualité rhétorique.
Le contrôle de constitutionnalité est une fonction, pas une institution
Les démocraties constitutionnelles confient ce contrôle à des juridictions spécialisées.
Cette organisation institutionnelle est une solution issue de l’histoire.
La fonction sous-jacente est pourtant beaucoup plus générale.
Quelqu’un, ou quelque chose, doit répondre à la question :
Cette action est-elle compatible avec la constitution ?
Pour les systèmes d’IA, cette fonction n’a pas à être réservée à une autorité unique.
Le contrôle peut au contraire devenir une procédure ouverte.
Toute implémentation devrait pouvoir examiner la même action à l’aune de la même constitution.
Différentes instances de contrôle peuvent aboutir à des résultats différents.
Cela n’est ni surprenant ni problématique.
La valeur du contrôle ne repose pas sur la concordance des résultats.
Elle repose sur la transparence des justifications.
Ce qu’il faut comparer, ce ne sont donc pas les résultats.
Ce sont les arguments.
Vers un contrôle de constitutionnalité ouvert
Cette perspective suggère une autre architecture.
Au lieu d’une seule instance constitutionnelle privilégiée, il peut exister de nombreuses instances de contrôle.
Un fournisseur d’IA peut proposer une implémentation.
Un chercheur indépendant peut en développer une autre.
Une entreprise peut créer la sienne.
Une personne peut utiliser un modèle de langage entièrement différent.
Toutes ces instances évaluent la même action observable selon la même constitution.
Leur légitimité ne découle ni d’une autorité organisationnelle ni d’un privilège technique.
Elle repose uniquement sur la qualité de leurs justifications.
Le contrôle devient ainsi reproductible.
Comparable.
Ouvert à la critique.
Ouvert à l’amélioration.
L’alignement personnel de l’IA
Cette architecture peut logiquement s’appliquer au-delà des systèmes d’IA publics.
Les personnes délèguent de plus en plus une part de leur réflexion et de leurs décisions à divers agents IA spécialisés.
L’enjeu central ne consiste plus seulement à contrôler chaque prompt.
Il consiste à maintenir une cohérence dans un écosystème évolutif d’assistants autonomes.
Une constitution personnelle remplit ici la même fonction qu’un texte constitutionnel dans un État.
Elle établit des principes durables plutôt que des instructions passagères.
Les prompts, les processus de travail et les règles propres à chaque agent deviennent des mécanismes opérationnels subordonnés.
Chaque action concrète accomplie pour le compte d’une personne peut alors être évaluée selon cette constitution personnelle.
Il importe que cette évaluation reste indépendante de l’agent qui a accompli l’action.
La constitution devient la référence normative commune à toutes les implémentations actuelles et futures.
L’alignement personnel de l’IA passe ainsi de l’ingénierie des prompts à la gouvernance.
Conclusion
La contribution la plus importante de Constitutional AI n’est peut-être pas la constitution elle-même.
Elle réside dans la reconnaissance du besoin d’une base normative durable pour les systèmes d’IA.
L’étape logique suivante est de reconnaître que toute constitution exige une méthode tout aussi durable pour en contrôler le respect.
L’alignement ne consiste donc pas seulement à produire le comportement souhaité.
Il consiste aussi à évaluer les actions accomplies à partir d’une base normative commune.
Ce contrôle devrait être indépendant du raisonnement interne, reproductible entre différentes implémentations et fondé sur des arguments transparents plutôt que sur l’autorité institutionnelle.
Dans les démocraties constitutionnelles, les constitutions encadrent l’exercice du pouvoir politique.
À l’ère des agents IA autonomes, elles pourraient encadrer quelque chose de tout aussi fondamental :
l’exercice d’une capacité d’agir déléguée.
Commentaires
Écrire un commentaire