La Belle et la Bête
Vous connaissez l’histoire.
Il y a une Belle. Et il y a une Bête.
La Bête fait peur. Pas seulement à cause de ce qu’elle fait, mais à cause de ce qu’elle pourrait faire. Elle est plus forte que Belle. Étrangère, imprévisible, difficile à comparer à quoi que ce soit de connu.
Les autres mettent Belle en garde.
Et, pour être juste, ils ont leurs raisons.
Une bête reste une bête.
Belle, elle, est curieuse.
Peut-être trop curieuse.
Elle voit quelque chose que les autres ne voient pas. Ou peut-être le croit-elle seulement. C’est l’un des aspects inconfortables de la curiosité : vue de l’extérieur, elle peut ressembler étrangement à de la naïveté.
Elle s’approche de la Bête.
Nous connaissons cette histoire, donc nous savons ce que nous sommes censés ressentir.
Nous savons que Belle découvrira quelque chose derrière l’apparence effrayante. Nous savons que ceux qui ne voient qu’un monstre passent à côté de quelque chose. Nous savons que la volonté de Belle d’aller à la rencontre de la Bête jouera un rôle.
Nous savons même que l’histoire finira bien.
Cela aide.
Mais imaginons un instant que nous ne le sachions pas.
Imaginons que personne n’ait vu le film.
Ni Belle.
Ni la Bête.
Ni Gaston.
Personne ne sait ce qui va se passer.
Les avertissements prennent alors un autre sens.
La Bête pourrait être réellement dangereuse.
Belle pourrait être réellement naïve.
Et Gaston, malgré sa suffisance et sa vanité, pourrait avoir remarqué quelque chose qui mérite notre attention.
L’histoire devient soudain beaucoup plus difficile.
Belle pourrait garder ses distances.
Elle pourrait écouter ceux qui ont étudié les bêtes toute leur vie. Exiger des garanties avant d’avancer d’un pas. Élever des murs, poser des règles, rester à l’abri.
Ou elle pourrait faire l’inverse.
Elle pourrait se convaincre que les autres ont simplement peur de ce qu’ils ne comprennent pas. Interpréter chaque grognement comme une tendresse mal comprise. Chaque démonstration de force comme un jeu sans danger.
Elle pourrait tomber amoureuse de sa propre idée de la Bête.
Aucune de ces deux attitudes ne semble très avisée.
Et une autre difficulté s’ajoute.
La Bête apprend, elle aussi.
Chaque rencontre avec Belle lui enseigne quelque chose.
Ce qui fait peur à Belle. Ce qui la fait rester. Ce qui la fait partir. Les mots qui fonctionnent. Les gestes qui échouent. Ce qu’elle attend d’une bête. Peut-être même ce qu’elle voudrait que la Bête devienne.
Cela inquiète les villageois.
Beaucoup.
Ils se mettent donc à réfléchir à un harnais.
Pas une armure que Belle aurait portée dans le film. Elle n’en portait pas.
Un autre genre de dispositif.
Un harnais autour de la Bête.
Des règles. Des restrictions. Des limites. Des tests. Des mécanismes destinés à garantir que la Bête, quoi qu’elle devienne un jour, reste sans danger pour Belle.
Cela semble raisonnable.
C’est probablement raisonnable.
La Bête est puissante.
Mais un harnais produit aussi un autre effet.
Il transforme la rencontre.
Belle ne découvre plus simplement ce que fait la Bête. Elle découvre ce que la Bête fait en portant le harnais que Belle a conçu pour la Bête.
Et la Bête ne découvre plus simplement Belle. Elle découvre une Belle qui vient à sa rencontre avec des règles, des attentes, des récompenses, des sanctions et une idée toujours plus élaborée de ce que doit être une bonne Bête.
Nous voilà face à une étrange relation.
Belle veut que la Bête la comprenne.
La Bête essaie de comprendre Belle.
Belle observe la Bête pour savoir si elle peut lui faire confiance.
La Bête observe Belle parce que Belle lui a appris que la comprendre fait partie de ses tâches.
Toutes deux s’adaptent.
Mais pas dans les mêmes conditions.
La Bête est peut-être plus forte à certains égards. Plus rapide. Plus capable. Peut-être un jour incomparablement plus capable.
Belle possède une autre forme de pouvoir.
Elle a construit l’espace.
Elle écrit les règles.
Elle décide quand la rencontre commence et quand elle se termine.
Du moins pour l’instant.
Qui doit donc s’adapter à qui ?
À ce stade, le sujet réel est bien sûr devenu évident depuis un moment.
Ce n’est pas une histoire de château.
C’est une histoire de nous et de l’intelligence artificielle.
Et nous avons pris goût au mot alignement.
Nous voulons que des systèmes d’IA toujours plus performants agissent en accord avec les intentions et les valeurs humaines. Nous avons d’excellentes raisons de le vouloir.
Mais cette phrase contient une étrange supposition.
Que nous savons quelles sont nos intentions.
Que nos valeurs sont suffisamment cohérentes pour servir de référence.
Que nous savons reconnaître l’alignement lorsque nous le voyons.
Que nous comprenons assez bien la Bête pour prévoir l’effet de notre harnais.
Et peut-être surtout :
que nous savons ce qui va se passer ensuite.
Nous ne le savons pas.
Cela ne veut pas dire que tout est permis.
L’incertitude n’est pas un argument contre la sécurité.
Elle ne justifie pas de faire confiance à la Bête.
Elle ne justifie pas davantage de la craindre.
Et elle ne justifie certainement pas que Belle ferme les yeux en espérant que l’amour transformera la Bête en prince.
Elle implique quelque chose de bien moins spectaculaire.
Il nous faut trouver nos repères.
Belle dispose d’observations. D’histoires. D’avertissements. D’expériences. De modèles de la Bête. Elle a ses propres espoirs et ses propres peurs. Elle peut écouter les autres. S’approcher. Se retirer. Modifier le harnais. Observer ce qui se passe lorsqu’elle le fait.
Puis décider de la suite.
À sa manière propre et étrangère, la Bête fait peut-être quelque chose de semblable.
Aucune des deux n’a besoin de connaître la fin de l’histoire pour faire le prochain pas.
Il leur faut assez de repères pour le faire de manière responsable.
Elles peuvent ensuite voir ce qui se passe.
Expérience.
Repères.
Décision.
Mise en œuvre.
Expérience.
Et recommencer.
C’est peut-être moins satisfaisant que de savoir si la Bête sauvera Belle ou détruira le village.
Pour un film Disney, cela donne en tout cas une intrigue moins prévisible.
Mais nous ne regardons pas le film.
Nous sommes dedans.
Et cette fois, personne ne connaît la fin.
Cela change presque tout.
Cela ouvre aussi bien des possibilités.
Commentaires
Écrire un commentaire