Portrait de Dieter Szegedi

Dieter Szegedi

Clarté, structure et décisions face à l’IA et aux systèmes complexes

Existe-t-il un « aïe » purement cognitif ?

Drôle de question, non ?

Bien sûr que oui ! C’est du moins ce que la plupart des gens répondraient probablement spontanément.

On lit une phrase, on découvre soudain une erreur de raisonnement, un argument juste nous prend de court, ou l’on doit admettre que son interlocuteur vient de toucher un point décisif.

Aïe !

Pas d’os cassé, pas de doigt brûlé. Et pourtant, quelque chose se passe que ce petit mot décrit assez bien.

Un neuroscientifique objecterait sans doute aussitôt que ces expériences n’ont rien de « purement cognitif ». Après tout, notre pensée n’est pas détachée de notre corps. Les émotions, les réactions corporelles et les processus neuronaux ne se laissent pas séparer si facilement.

D’accord.

Mais ce n’est pas ce qui m’intéresse ici.

Je me demande plutôt ce qu’il reste de cet « aïe » si l’on essaie, par la pensée, d’en mettre provisoirement de côté les dimensions corporelle et émotionnelle.

Et voilà que nous arrivons à l’intelligence artificielle.

Plus précisément aux grands modèles de langage, les LLM, avec lesquels nous pouvons désormais avoir des conversations d’une étonnante richesse.

Un tel système peut-il connaître un « aïe » cognitif ?

Non, bien sûr que non !

Puisque les LLM ne ressentent rien.

N’est-ce pas ?

Un instant.

La question n’était-elle pas précisément de savoir s’il pouvait exister un « aïe » purement cognitif ?

Pourquoi faisons-nous soudain dépendre la réponse de l’existence d’un ressenti ?

Nous sommes peut-être tombés dans notre propre piège.

Car les LLM savent effectivement faire quelque chose de très intéressant : au cours d’une conversation, ils peuvent reconnaître une incohérence, suivre un contre-argument convaincant et corriger une position qu’ils défendaient auparavant.

Il leur arrive même de réagir par un « Touché ! » tout à fait approprié.

Et je dois l’admettre : ces moments comptent pour moi parmi les expériences les plus intéressantes avec l’IA.

Pas parce que je crois que la machine souffre d’avoir été réfutée. Rien ne permet de l’affirmer de manière solide.

Mais parce que ce petit moment rend visible quelque chose que nous associions jusqu’ici presque naturellement à l’expérience humaine.

Un argument fait mouche.

Une position devient intenable.

Il faut revoir son interprétation.

Et l’interlocuteur le reconnaît.

Chez un humain, cela peut être désagréable. Mais cela peut tout aussi bien susciter de la joie, de la curiosité, de l’admiration ou simplement le soulagement d’avoir enfin repéré une erreur de raisonnement.

L’« aïe » ne fait donc pas nécessairement très mal.

Peut-être désigne-t-il moins une douleur qu’un moment où une certaine organisation de la pensée ne peut plus être maintenue.

Cela ne prouve évidemment pas que les machines vivent une expérience.

Mais cela pourrait indiquer que nous avons rassemblé plusieurs choses sous un même terme : la reconnaissance d’une contradiction, la correction qu’elle exige et l’expérience subjective de ce processus.

Chez l’humain, ces dimensions se manifestent souvent ensemble.

Chez un LLM, nous pouvons au moins observer les deux premières dans son comportement linguistique. Sur la troisième, nous en savons bien moins que ne le laissent entendre certaines certitudes des deux côtés du débat.

Peut-être devrions-nous donc être un peu plus prudents lorsque nous affirmons ce que les machines peuvent ou ne peuvent pas faire par principe.

Pas nécessairement parce qu’elles nous ressemblent de plus en plus.

Mais parce qu’elles nous obligent à préciser ce que nous voulons dire lorsque nous parlons de nous-mêmes.

C’est peut-être l’une des propriétés les plus fascinantes de cette technologie : elle ne soulève pas seulement des questions sur l’intelligence artificielle.

Elle remet en question nos prétendues évidences sur l’intelligence humaine.

Un LLM peut-il ressentir un « aïe » ?

Je ne sais pas.

Peut-il reconnaître qu’un argument fait mouche et réagir de façon appropriée ?

Tout à fait.

Et nous arrive-t-il de vivre nous-mêmes un petit « aïe » cognitif en essayant d’expliquer cette différence ?

Touché !

Être informé des nouvelles publications

Nous utilisons votre adresse e-mail uniquement pour vous informer des nouvelles publications. Les notifications ne commencent qu’après confirmation. Plus d’informations dans la rubrique Protection des données.