Ce qui se passe dans le débat sur l’IA : une tentative pour m’y retrouver
L’intelligence artificielle fait de nouveau les gros titres. Et le ton a changé.
Des personnes comme Sam Altman, d’OpenAI, et Dario Amodei, d’Anthropic, parlent de la suite du développement de l’IA avec une urgence qui retient l’attention. Il est question de risques, de contrôle, d’alignement et, de plus en plus, d’un éventuel ralentissement à la frontière des capacités.
Cela peut inquiéter.
Ceux-là mêmes dont les entreprises ont rendu ces systèmes toujours plus performants avertissent maintenant que la poursuite de leur développement pourrait devenir dangereuse. Le récit vient vite : ils ont d’abord foncé, et voilà qu’ils ont eux-mêmes peur de leur création.
C’est peut-être le cas.
Une autre explication, moins spectaculaire, me paraît au moins aussi plausible. Elle n’est pas pour autant rassurante.
Je ne fais partie ni d’un grand laboratoire d’IA ni de la recherche sur l’alignement. Je ne dispose d’aucune information particulière sur ce qui s’y passe en interne. Ce que je propose ici est donc bien une tentative de mise en perspective : comment est-ce que je comprends, en septembre 2026, ce qui devient publiquement visible ?
Un principe qui accompagne mon travail depuis longtemps m’y aide :
Faire d’abord. Comprendre aussitôt après, et modifier aussitôt si nécessaire.
« Faire d’abord » compte.
Certaines choses ne se comprennent qu’après avoir été faites
En Europe notamment, nous regardons volontiers le secteur technologique américain avec scepticisme. « Move fast », « fail fast » et, plus encore, le célèbre « move fast and break things » de Mark Zuckerberg évoquent vite une culture qui agit avant de réfléchir aux conséquences.
Cette critique touche quelque chose de juste. Mais elle me paraît trop simple.
Face à une véritable nouveauté, on ne peut pas tout comprendre à l’avance.
On peut passer des années à construire des modèles, à analyser les risques et à discuter des conséquences possibles. À un moment, quelqu’un doit construire, essayer et observer. Certaines connaissances n’apparaissent qu’au contact de quelque chose qui existe réellement.
C’est vrai du logiciel. Des organisations. Et tout particulièrement des systèmes d’IA actuels.
Pour moi, le problème n’est donc pas de faire avant de comprendre entièrement.
Ce qui compte, ce sont deux éléments discrets de mon ancien principe :
comprendre aussitôt et modifier aussitôt.
Jusqu’où l’écart peut-il se creuser ?
Faire, comprendre, corriger : c’est une boucle.
Je fais quelque chose. J’apprends ainsi ce que je ne pouvais pas savoir auparavant. Cette nouvelle compréhension peut modifier mon modèle. Et si ce modèle ne correspond plus à ce que j’ai fait, je modifie ce que j’ai fait.
Tant que cette boucle reste courte, « faire d’abord » peut être une manière d’apprendre tout à fait raisonnable.
Les difficultés commencent lorsque les étapes s’éloignent les unes des autres.
On continue à agir pendant que la compréhension peine à suivre.
On finit par comprendre qu’une hypothèse antérieure était fausse, mais tant d’autres décisions en dépendent désormais que la modification est devenue coûteuse.
Ou l’on ne reconnaît le problème qu’au moment où une correction n’est presque plus possible.
Nous connaissons bien cela dans le logiciel ordinaire. Une petite décision de conception n’est pas remise en question, d’autres composants s’appuient sur elle, les utilisateurs s’y habituent, des données s’accumulent. Des années plus tard, on constate que l’hypothèse de départ n’était pas très bonne.
On parle alors de dette technique.
C’est généralement pénible. Rarement catastrophique.
Avec l’intelligence artificielle, la même question se pose désormais à une autre échelle.
C’est peut-être précisément cette question que nous entendons
Je ne sais pas ce que Sam Altman ou Dario Amodei savent en interne. Et je ne souhaite pas non plus interpréter psychologiquement leurs déclarations publiques.
Mais leur sentiment d’urgence actuel ne doit pas nécessairement être compris ainsi :
« Nous avons perdu le contrôle de nos systèmes. »
Je peux aussi le lire autrement :
« Nous devons veiller à ce que nos réalisations ne prennent pas trop d’avance sur notre compréhension. »
C’est une affirmation beaucoup moins spectaculaire.
Elle n’en serait pas moins très sérieuse à mes yeux.
Car le développement de l’IA performante s’est fortement accéléré ces dernières années. En même temps, il faut tester les nouvelles capacités, comprendre leurs conséquences, développer des mécanismes de sécurité et trouver des règles collectives.
Ce qui se passe n’est donc peut-être pas la découverte soudaine d’un danger jusque-là inconnu.
C’est peut-être plutôt une réévaluation de l’écart encore acceptable entre développement et compréhension.
Cela expliquerait aussi pourquoi le rythme occupe une place croissante dans le débat.
Pas nécessairement parce que « plus lentement » serait sûr en soi.
Mais parce que comprendre prend du temps.
Ce qui distingue l’IA n’est pas notre compréhension incomplète
Nous ne comprenons pas entièrement beaucoup de choses.
Nous faisons fonctionner des économies sans que personne puisse prévoir leur évolution de manière fiable. Nous développons des médicaments dont les effets ne deviennent pleinement visibles qu’au cours d’études. Nous construisons des logiciels complexes dont personne ne maîtrise plus le comportement réel dans chaque détail.
La compréhension complète n’a jamais été une condition préalable de l’action humaine.
Mais l’IA ajoute une question inconfortable :
Dans quelle mesure sommes-nous sûrs de pouvoir encore corriger plus tard ?
Pour moi, cette question constitue une grande partie du problème d’alignement.
Si une nouvelle version logicielle est mauvaise, on peut la retirer.
Si un choix d’architecture était erroné, une migration peut être coûteuse. Mais on peut généralement migrer.
Pour les systèmes d’IA toujours plus performants, on discute de capacités et de modes d’utilisation qui pourraient un jour ne plus permettre de compter sur cette réversibilité tenue pour acquise.
Je ne suis pas en mesure d’évaluer le réalisme des scénarios les plus dramatiques.
Mais il n’est pas nécessaire de les tenir pour certains pour trouver la question sous-jacente raisonnable.
Lorsque les conséquences d’une erreur possible deviennent plus importantes, je dois me demander plus tôt si ma méthode habituelle d’apprentissage par correction fonctionne encore.
Ce n’est pas de la panique face à l’IA.
C’est une question assez ordinaire de conduite raisonnable.
Il faudrait peut-être aussi apaiser le débat culturel
On aime présenter l’Europe et la Silicon Valley comme des opposés.
D’un côté, précaution, réglementation et scepticisme.
De l’autre, vitesse, expérimentation et innovation.
Il y a là aussi une part de vérité. Mais cette opposition ne nous aide peut-être pas beaucoup pour l’IA aujourd’hui.
L’idée européenne selon laquelle il faudrait comprendre une technologie radicalement nouvelle avant de la développer rencontre une limite de connaissance : une partie de cette compréhension ne peut venir que du développement.
L’idée américaine selon laquelle on peut développer vite puis corriger les problèmes rencontre une autre limite : elle n’est fiable que tant que la correction reste effectivement possible après coup.
Nous assistons peut-être au moment où ces deux limites deviennent visibles ensemble.
Ce serait moins spectaculaire que le récit des créateurs d’IA soudain effrayés par leur propre création.
Mais ce ne serait nullement anodin.
Ce que je souhaite retenir en septembre 2026
Dans quelques années, nous jugerons peut-être les avertissements actuels exagérés.
Ou nous nous demanderons pourquoi nous ne les avons pas pris davantage au sérieux.
Je ne sais pas.
C’est précisément pourquoi je ne veux pas prétendre pouvoir déjà raconter aujourd’hui la bonne histoire de cette période.
Je peux seulement consigner ma compréhension actuelle.
Je ne vois pas des personnes comme Altman et Amodei découvrir soudain que l’intelligence artificielle pourrait être dangereuse. Cette discussion existe depuis des années.
Je vois en revanche des signes d’un changement dans le poids accordé aux différentes questions.
On ne demande plus seulement :
Que pouvons-nous faire ensuite ?
Une deuxième question se fait davantage entendre :
Comprenons-nous assez vite ce que nous sommes en train de faire ?
Et derrière elle, une troisième, peut-être décisive :
Si notre compréhension change, pourrons-nous encore modifier à temps ce que nous faisons ?
C’est peut-être une traduction utile de ce qui traverse actuellement les médias sur un ton quelque peu alarmant.
Elle retire un peu de drame au débat.
Elle ne lui retire rien de son importance.
Commentaires
Écrire un commentaire