Faut-il faire confiance à un modèle d’IA ?
Depuis quelque temps, je rencontre sans cesse la même question :
« Peut-on vraiment faire confiance à un modèle d’IA ? »
Je comprends cette question.
Mais je soupçonne qu’elle passe à côté du véritable enjeu.
Non parce que la confiance serait sans importance.
Mais parce que nous confondons intelligence et infaillibilité.
Une attente étonnante
On parle souvent de l’intelligence artificielle comme s’il n’existait que deux possibilités.
Soit elle se trompe.
Alors nous ne devons pas lui faire confiance.
Soit elle deviendra un jour suffisamment intelligente.
Alors nous pourrons lui faire confiance.
Cette idée ne me convainc pas.
Elle suppose implicitement qu’une intelligence suffisante finit par conduire à l’infaillibilité.
Pourquoi le croire ?
L’infaillibilité n’est pas une forme particulièrement développée d’intelligence.
Elle relève d’une tout autre catégorie.
L’intelligence ne rend pas l’erreur impossible
J’aime travailler avec des personnes plus intelligentes que moi.
Elles voient des liens qui m’échappent.
Elles posent de meilleures questions.
Elles trouvent des solutions plus élégantes.
Cela ne signifie pas que je compte sur elles pour avoir toujours raison.
Elles ne l’attendent pas non plus d’elles-mêmes.
Un bon responsable ne cherche pas à être la personne la plus intelligente de la pièce.
Il cherche à faire travailler ensemble les capacités de son équipe de manière pertinente.
Le fait que d’autres soient plus intelligents ne le décharge pas de sa responsabilité.
Au contraire.
C’est précisément alors que sa responsabilité devient particulièrement importante.
Pourquoi en irait-il fondamentalement autrement avec l’intelligence artificielle ?
Le véritable enjeu
Supposons que les modèles de langage deviennent effectivement mille fois plus intelligents que nous.
Cela arrivera peut-être.
Ou peut-être pas.
Cela ne change rien au raisonnement.
Même alors, un fait simple resterait vrai :
Un système intelligent peut se tromper.
Plus un système devient puissant, plus les conséquences de ses erreurs peuvent même être importantes.
La question décisive ne me semble donc pas être :
« Le modèle est-il suffisamment intelligent ? »
Mais :
« Comment composons-nous avec sa faillibilité fondamentale ? »
La question n’est pas nouvelle
Nous vivons depuis des siècles avec des humains faillibles.
Nous travaillons avec eux.
Nous leur confions des responsabilités.
Nous les élisons à des fonctions politiques.
Nous créons des entreprises.
Nous construisons des institutions scientifiques.
Nulle part nous n’attendons l’infaillibilité.
Nous attendons autre chose.
Que les erreurs puissent être reconnues.
Qu’elles puissent être corrigées.
Que personne ne soit durablement soustrait à toute possibilité de correction.
La démocratie a peut-être quelque chose à nous apprendre
La démocratie représentative n’est pas une méthode pour trouver des responsables politiques infaillibles.
C’est une méthode pour vivre avec des responsables politiques faillibles.
Des élections.
La séparation des pouvoirs.
Des médias libres.
Des tribunaux indépendants.
Une opposition.
Toutes ces institutions reposent, au fond, sur la même idée.
Ce n’est pas la confiance qui stabilise le système.
C’est la possibilité de corriger.
La démocratie n’est donc pas un système destiné à des humains parfaits.
C’est un système capable de composer avec leur imperfection.
Pourquoi serait-ce différent avec l’IA ?
Si l’intelligence artificielle devient toujours plus performante, son utilité ne sera pas la seule à croître.
L’importance de ses erreurs augmentera aussi.
C’est précisément pourquoi la confiance me paraît insuffisante comme fondement de la collaboration.
Non parce que l’IA serait dangereuse.
Mais parce que tout système intelligent reste faillible.
Pour moi, la question décisive n’est donc pas :
« Puis-je faire confiance à ce modèle d’IA ? »
Mais :
« Comment organiser la collaboration avec un système très intelligent mais fondamentalement faillible pour que ses erreurs restent corrigeables ? »
C’est une question de conception.
Pas une question de foi.
La responsabilité ne disparaît pas
On discute parfois comme si la responsabilité devait appartenir soit à l’humain, soit à l’IA.
Je ne crois pas que la réalité soit aussi simple.
Celui qui développe un système d’IA porte une responsabilité.
Celui qui l’exploite porte une responsabilité.
Celui qui l’utilise porte une responsabilité.
Et le comportement du système d’IA influence chacune des collaborations.
La responsabilité ne disparaît pas.
Elle se répartit.
C’est précisément pourquoi la conception de cette collaboration importe davantage que l’espoir de la perfection.
Pour terminer
Je n’utilise pas les modèles d’IA parce que je les crois infaillibles.
Ni parce que je leur fais aveuglément confiance.
Je les utilise parce qu’ils peuvent être exceptionnellement intelligents.
C’est précisément pour cela qu’il me paraît essentiel de ne pas occulter leur faillibilité.
Le véritable défi de l’intelligence artificielle n’est peut-être pas de construire un jour des systèmes parfaits.
Il consiste peut-être à développer des formes de collaboration où même des systèmes exceptionnellement intelligents peuvent rester faillibles, sans que leurs erreurs deviennent impossibles à corriger.
Le fondement n’est alors pas la confiance.
Mais la possibilité de corriger.
Commentaires
Écrire un commentaire