Portrait de Dieter Szegedi

Dieter Szegedi

Clarté, structure et décisions face à l’IA et aux systèmes complexes

Qu’est-ce qu’un « bon » agent personnel ?

Récemment, j’ai à peine relu une publication LinkedIn déjà rédigée. Je l’ai parcourue, copiée et publiée.

Pris isolément, cela ne paraît pas très raisonnable. Un texte produit par une intelligence artificielle est publié sous mon nom sans avoir été revérifié mot à mot. N’est-ce pas précisément cette confiance aveugle contre laquelle nous mettons toujours en garde avec l’IA ?

Peut-être. Mais, dans ce cas, cette description est incomplète.

De nombreuses conversations avaient précédé le texte. Le langage, les distinctions et mes critères personnels s’étaient construits dans la durée. Le travail s’appuyait aussi sur un dépôt où les décisions antérieures et les conventions éditoriales étaient déjà visibles. Je ne faisais donc pas simplement confiance à un résultat isolé. Je m’appuyais sur l’expérience d’une manière de travailler ensemble.

Cela m’a soudain amené à penser moins aux agents IA qu’aux assistants personnels humains.

Le modèle humain

La valeur d’un bon assistant personnel humain ne tient pas au contrôle minutieux de chacun de ses résultats par la personne qui l’emploie. Elle se construit avec le temps.

Les deux apprennent à se connaître. Ils travaillent ensemble. Des malentendus apparaissent et sont corrigés. Les limites se précisent. Des responsabilités sont progressivement confiées.

Un jour, la personne peut dire :

Occupe-t’en.

L’assistant ne sait pas tout pour autant. Mais il sait ce que signifie cette demande, quelles décisions il peut prendre seul, quand il doit demander une précision et ce que son interlocuteur ne voudrait jamais voir fait ainsi.

Ce savoir ne consiste pas seulement en règles. Il s’est formé dans une histoire commune. Les décisions, corrections et conflits antérieurs donnent du sens aux situations nouvelles.

Avec les agents IA personnels, nous ne cherchons donc peut-être pas à inventer une forme de collaboration entièrement nouvelle. Nous essayons peut-être de recréer techniquement une relation de travail humaine ancienne.

L’alignement comme collaboration quotidienne

Dans les discussions sur l’IA, l’alignement ressemble souvent à un problème abstrait de conception : comment enseigner les bonnes valeurs à un système ? Comment formuler des règles qui tiennent aussi dans des situations nouvelles ? Comment éviter qu’un agent poursuive un objectif d’une manière que nous n’avions pas voulue ?

Ces questions restent importantes. Mais le modèle humain suggère une autre question de départ :

Comment se construit, entre deux acteurs, une collaboration dans laquelle l’un peut agir de manière de plus en plus autonome dans l’esprit de l’autre ?

L’alignement n’en devient pas plus simple. Mais il devient plus concret.

Les valeurs n’apparaissent plus seulement comme une liste qui devrait être entièrement fixée avant de commencer. Elles deviennent aussi visibles dans la collaboration : dans ce qui est confirmé, ce qui dérange, les corrections, les limites posées et les décisions sur le moment où une responsabilité peut être confiée.

Un agent personnel ne devrait donc pas seulement suivre des instructions. Il devrait construire, à partir de l’histoire de la collaboration, un modèle de travail fiable tout en le gardant provisoire. Car même un interlocuteur avec lequel on travaille très bien peut mal comprendre une situation.

« Bon » n’est pas une propriété universelle

Le mot « bon » peut ici prêter à confusion. Pour moi, un bon agent personnel ne serait pas un agent qui possède une réponse objectivement juste à chaque situation.

Il est plus pertinent de limiter ainsi la définition :

Un bon agent personnel n’est pas celui qui agit de façon objectivement juste. C’est celui dont les actes sont compatibles avec mes valeurs et qui, dans l’incertitude, sait quand il doit me ramener dans la conversation.

« Compatible avec mes valeurs » ne signifie pas qu’il m’approuve toujours. Mes valeurs peuvent précisément inclure qu’il signale une contradiction, pose une question inconfortable ou ne franchisse pas une limite en silence.

Cette compatibilité n’est donc pas une simple obéissance. Elle exige un modèle suffisamment juste de ce qui compte pour moi dans une situation. Elle demande aussi de reconnaître les conflits au sein de ce modèle. La rapidité peut compter, tout comme le soin. La visibilité publique peut être souhaitée, tout comme la retenue. Un agent personnel ne doit pas seulement connaître mes préférences une à une : il doit percevoir quand elles entrent en tension.

Le contrôle ne disparaît pas

L’analogie avec l’assistant humain n’invite pas à la confiance aveugle.

Même une collaboration solide ne rend pas le contrôle superflu. Elle en change la forme. Au début, presque chaque résultat est peut-être vérifié. Plus tard, l’attention porte davantage sur la qualité du travail commun : les malentendus deviennent-ils visibles ? Les corrections sont-elles prises en compte ? Les limites restent-elles stables ? L’assistant revient-il vers la personne pour les décisions non clarifiées ou lourdes de conséquences ?

Le niveau de contrôle nécessaire dépend toujours des conséquences. Une note interne n’est pas un contrat. Une publication sur un site n’est pas une décision médicale. Et le dernier clic vers un canal public peut constituer une limite pertinente : oui, je veux que cela paraisse maintenant sous mon nom.

La confiance ne remplace donc pas la responsabilité. Elle permet de la répartir autrement.

Dans mon petit exemple de publication, une partie du contrôle s’était déplacée de la vérification de chaque phrase vers la qualité de la collaboration construite avec le temps. Une lecture rapide n’était défendable que parce qu’elle avait été précédée de beaucoup d’apprentissage mutuel, de corrections et de travail partagé.

Regarder à nouveau les humains pour penser les agents

Le chemin vers les agents personnels commence donc peut-être par un détour loin des agents, pour revenir pleinement aux humains.

Les humains ont depuis longtemps développé des pratiques pour confier des responsabilités malgré un savoir limité : travailler ensemble, clarifier les attentes, discuter des erreurs, distinguer les attributions et rouvrir la conversation en cas d’incertitude.

Ces pratiques ne résolvent pas tous les problèmes techniques. Un système d’IA n’est pas un assistant humain. Il ne porte pas de responsabilité au sens humain, et sa familiarité apparente peut donner une fausse impression de compréhension.

C’est précisément pourquoi le modèle humain mérite notre attention. Il rappelle qu’un agent ne devient pas personnel simplement parce qu’il connaît beaucoup de données personnelles ou reçoit une très longue liste d’instructions.

La collaboration devient personnelle là où des repères communs solides se construisent au fil du temps.

Pour construire de « bons » agents, il ne suffit peut-être pas de décrire une fois pour toutes l’ensemble de nos valeurs. Il nous faut concevoir des formes de collaboration où ces valeurs deviennent visibles, corrigeables et effectives dans les situations concrètes.

Alors, un jour, « Occupe-t’en » pourrait vraiment suffire.

Non parce que l’agent aurait toujours raison.

Mais parce qu’il aurait appris à agir dans mon esprit et à reconnaître quand il ne peut pas le faire avec assez d’assurance.

Être informé des nouvelles publications

Nous utilisons votre adresse e-mail uniquement pour vous informer des nouvelles publications. Les notifications ne commencent qu’après confirmation. Plus d’informations dans la rubrique Protection des données.