Raphaël Enthoven : "En matière d’intelligence, l’IA n’arrive pas à la cheville du poisson rouge"

Pour l’instant, il n’est pas le Kasparov de la philosophie. Le 14 juin dernier, Raphaël Enthoven s’opposait à ChatGPT sur une épreuve du baccalauréat, avec pour thème "Le bonheur est-il affaire de raison ?". Devant les caméras, l’agrégé obtint 20, la machine un "médiocre" 11. Bravache, il affirma que les philosophes seraient l’une des dernières professions à être remplacées par l’intelligence artificielle (IA). Dans L’esprit artificiel (parution le 24 janvier), Raphaël Enthoven développe son propos et assure qu’en philosophie, l’IA "ne sert absolument à rien". Pour lui, nos peurs que cette technologie échappe à son créateur en disent moins sur le progrès technique que sur notre vieux fantasme de nous prendre pour Dieu.

L’Express : longtemps, la philosophie s’est interrogée sur le propre de l’homme, c’est-à-dire ce qui distingue notre espèce des animaux. Mais aujourd’hui, on s’interroge plus encore sur ce qui nous différencie de la machine…

Raphaël Enthoven : Et pourtant, c’est la même question ! Dans le Ménon, Platon se représente deux obstacles au goût de connaître, deux états également stériles : l’ignorance complète et la science achevée. D’un côté, l’ignorant ignore qu’il ignore, et ne cherche donc pas à savoir ; de l’autre le savant, sachant qu’il sait, n’a lui non plus aucun goût pour l’apprentissage. Entre les deux se trouve l’homme, c’est-à-dire le philosophe, qui sait qu’il ignore, et qui, en vertu de ce savoir minimal, développe le désir d’apprendre. Ces deux états rendus stériles tantôt par l’ignorance et tantôt l’omniscience, on les retrouve dans le statut de l’animal et de la machine. L’animal, c’est l’ignorant qui ignore qu’il ignore. La machine, c’est un savoir que ses promoteurs présentent comme suffisant. Entre les deux, l’humanité, perfectible, se pose des questions et se donne des machines.

Selon vous, "l’IA ne sert à rien" en philosophie. N’est-ce pas un réflexe corporatiste, alors que les juristes ou les médecins sont déjà impactés par cette technologie ?

Les juristes, les médecins, les astronomes, les DRH, les militaires… On ne compte plus les domaines où la donne a subitement changé avec l’irruption de l’IA. A tel point qu’on peut, à bon droit, parler de révolution. Jamais l’humanité ne s’est dotée d’un assistant de cette force, jamais les outils dont nous disposons n’ont été si puissants. Seulement voilà, en philosophie – cette étrange discipline qui ne fait pas de progrès depuis Platon – l’IA ne sert absolument à rien. Le travail élémentaire qui consiste à poser un problème, ou à manifester le problème qui est contenu dans un énoncé, l’IA en est essentiellement incapable. Et à l’origine de cette inaptitude se trouve la raison pour laquelle une IA, si performante soit-elle, ne pourra jamais tout à fait se substituer au médecin comme au commandant de bord : l’IA est incapable de penser. Elle peut, en philosophie, dérouler une synthèse de la totalité des systèmes de pensée, mais l’ordre dans lequel elle les range lui est indifférent. Son omniscience n’est pas nourrie par l’intuition. Une discipline comme la philosophie, dont la maîtrise n’est pas tant une affaire de savoir qu’une affaire de méthode, n’est pas concernée par la révolution de l’IA.

Vraiment ?

Des tas de gens m’expliquent doctement – souvent pour s’en plaindre, parfois pour s’en réjouir – que l’IA va bientôt, inévitablement, "surpasser le philosophe" comme des logiciels ont battu les champions du monde d’échecs ou de go. Mais il y a deux objections à cela : la première est que la victoire de Deep blue sur Kasparov ou d’Alphago sur Lee Sedol ne signifie pas grand-chose, sinon qu’un logiciel dispose d’une puissance de calcul supérieure à celle de l’homme.

N’est-ce pas la preuve de sa supériorité ?

Oui et non. Car c’est la raison d’être du logiciel. De même qu’un marteau est plus solide qu’un poing humain, de même que le métal est plus dur que le muscle, un logiciel est plus puissant que celui qui l’a conçu. C’est à cela qu’il sert. En revanche, le logiciel reste un logiciel. Dire de l’ordinateur qu’il est plus fort que l’homme, c’est mettre sur le même plan une puissance de calcul qui prévoit indifféremment l’ensemble des possibilités, et la décision toute simple qui vaut à un homme d’adopter, soudain, telle stratégie plus que telle autre. Le champion du monde d’échecs n’est pas battu par un autre joueur, mais par une usine. Sa défaite n’a pas plus de signification que la défaite d’un catcheur face à un robot. Les deux ne sont pas comparables.

En philosophie, depuis l’Antiquité, il n’y a aucun progrès notable

Et la seconde objection ?

C’est qu’il est impossible, en philosophie, de faire à tout instant la liste des réponses possibles comme on peut faire, aux échecs, la liste des coups disponibles. Dans une discussion où deux pensées s’affrontent, la réponse à une question posée n’est pas contenue dans la question même (à la façon dont un coup se déduit du coup de l’adversaire). Pour le dire autrement, on ne sait jamais où une discussion peut nous conduire, car toute phrase a, d’une certaine manière, un "coup d’avance" sur ce qu’on imagine. Selon certains, l’IA, en acquérant la complexité requise, va surpasser le philosophe, comme elle a surpassé le joueur d’échecs ou celui de go. Or, ce qui sépare l’IA de la pratique de la philosophie, ce n’est pas la complexité d’un raisonnement, mais la simplicité d’une intuition. La complexité d’un calcul est à la portée de toute mécanique, il en va tout autrement de la faculté de s’étonner.

C’est la faculté de s’étonner qui signerait donc la supériorité de l’humain sur la machine ?

C’est elle qui signe sa singularité. Et c’est précisément cela que l’IA ne peut pas saisir. Yann Le Cun l’explique dans son très bon livre Quand la machine apprend : le but du "deep learning" est de singer l’adaptation synaptique d’un mollusque, l’aplysie. Quand on touche une première fois du doigt ses branchies, l’aplysie se rétracte. Mais à mesure que l’on répète ce geste, la bestiole se rétracte de moins en moins ; elle s’adapte à ce qu’elle identifie désormais comme n’étant pas un danger. L’IA repose sur ce modèle. Pour qu’elle puisse, par exemple, reconnaitre une baleine, on la gave de photos de baleine, jusqu’au moment où elle identifiera un cétacé dans une photo qu’elle n’a jamais vue. Pour le dire simplement : tout le travail de l’IA consiste à ne pas être surpris par l’apparition des choses qu’elle n’a jamais vues. Or, la philosophie fait exactement l’inverse. Son travail commence par l’étonnement. Non pas l’étonnement devant ce qui est étonnant (et dont l’étonnement qu’il suscite est à la portée de tous) mais l’étonnement face au banal, face au quotidien, face à l’ordinaire ou l’indiscuté. Bref, l’IA consiste à devancer ce qu’on ne connaît pas encore, la philosophie consiste à s’étonner de ce qu’on a l’habitude de voir. Les directions sont rigoureusement inverses.

Vous soulignez d’ailleurs que, contrairement à la technique, la philosophie ne fait pas de progrès…

Effectivement. N’importe quel astronome actuel en sait davantage que Kepler ou Galilée, pourtant des génies. Un mathématicien médiocre en sait aujourd’hui plus que Newton ou Leibniz. Et les exemples sont innombrables. Toutes les sciences progressent. Certaines progressent même d’un jour sur l’autre. Mais en philosophie, depuis l’Antiquité, il n’y a aucun progrès notable. Les arguments de Platon ou d’Aristote ont la même pertinence que ceux de Kant ou de Bergson. Le temps ne fait rien à l’affaire. La philosophie n’est pas une discipline dont le progrès linéaire frapperait les anciens de caducité. Elle n’est que la redécouverte inlassable de questions identiques et sans réponse. C’est elle, en revanche, qui permet de comprendre et de devancer le fait que, comme le montre le XXe siècle et ses génocides, le progrès technique n’est pas forcément un progrès moral… Bref, la philosophie ne progresse pas, son développement se fait en arborescence, et tous ses animateurs, morts ou vivants, sont les contemporains les uns des autres. Mais dire de la philosophie qu’elle ne fait pas de progrès, ça ne veut pas dire qu’on ne peut pas faire de progrès en philosophie. Au contraire ! Et chacun peut, à titre individuel, cheminer en philosophie et acquérir, parfaire ou densifier la méthode qui consiste à ne rien tenir pour acquis et à préférer les questions aux réponses.

Le fait que nous passions nos journées rivés sur des écrans ne prouve-t-il pas la défaite de l’humanité face à la machine ?

Peut-être. Mais présenter les choses ainsi, c’est omettre de dire que la machine n’est pas un adversaire, et que les écrans n’occupent dans nos vies que la place que nous leur faisons. Que nous soyons rivés à des écrans, zombifiés par le scrolling, livrés corps et âme à une information dérégulée et que ce soit là un enjeu de santé publique, c’est une évidence. Mais ce n’est pas parce que les écrans s’emparent de nos vies que nous sommes sur le point de donner le jour à des machines vivantes ! Nous aimons à penser que nos objets sont animés, ou qu’ils sont sur le point de se doter d’une conscience, car il nous serait insupportable d’admettre que leur omniprésence est uniquement le fait de notre propre faiblesse. C’est nous-mêmes qui nous hypnotisons, l’écran se fiche qu’on le regarde. Une chose est d’être vaincu par la machine (comme c’est le cas), tout autre est de faire et de refaire le vieux rêve (qui va de Pygmalion à l’IA) que les machines ont voulu prendre le pouvoir.

Il y a bien plus d’orgueil que d’humilité dans la crainte que l’IA nous échappe

Pour l’essayiste Laurent Alexandre, une conscience artificielle pourrait apparaître dès 2030…

Je prends le pari, amicalement, que même en 3030, cela n’arrivera pas ! Pour une raison simple : de la même manière qu’on ne fabrique pas un organisme en compilant des éléments, ou qu’on n’obtient pas un individu en cousant des parties de cadavres, on ne fabrique pas une conscience en additionnant des qualités. Aucune conscience ne s’obtient par addition. Un cerveau de silicium ne sera jamais un cerveau. Le vieux rêve, qui traverse l’humanité, de fabriquer un être animé de toutes pièces n’est pas près de se réaliser. A dire vrai, nous en sommes aussi loin qu’à l’époque du Golem, et Frankenstein est à jamais une œuvre de science-fiction. Aucun pantin ne deviendra un vrai petit garçon. On ne fabrique pas davantage de la vie avec du bois que du feu avec de l’eau.

Qui plus est, l’idée-même d’une IA consciente d’elle-même n’a exactement aucun sens. Si elle est consciente, ce n’est plus une IA ! Dans I, Robot, le film tiré des romans d’Asimov, Sonny, un robot, est très fier qu’à l’issue des péripéties, le héros dise "il" au lieu de "ça" quand il parle de lui, et lui serre la main. Car il est devenu humain. L’incontestable détention d’une conscience le fait entrer de plein droit dans la sphère de nos semblables. Autrement dit, ce n’est plus un robot. Quand, dans 2001, l’Odyssée de l’espace, l’astronaute Bowman désactive la mémoire de l’ordinateur central HAL, le sentiment d’assister à une mise à mort vient du fait que HAL confie avoir peur devant son "esprit" qui "s’en va". Mais comme le titre l’indique, tout cela se passe en 2001. Nous sommes en 2023, et aucun robot, jusqu’à présent, n’a acquis l’autonomie meurtrière dont HAL fait preuve. On peut complexifier nos outils à l’infini, on sera toujours aussi loin de créer une conscience. L’inquantifiable je-ne-sais-quoi qui fait la signature de l’humanité demeure un mystère pour la machine, et un abîme la sépare de nous.

"Intelligence artificielle" aurait même selon vous tout d’un oxymore…

Au sens propre, il n’y a pas plus d’intelligence artificielle qu’il n’existe d’automate conscient. Si par "intelligence" on entend non pas la simple faculté de connaître mais la capacité intuitive qu’on retrouve dans l’expression "être en bonne intelligence", l’idée-même d’intelligence artificielle est un oxymore comparable à "mort-vivant". Si puissante soit l’IA, elle n’arrive pas, en matière d’"intelligence", à la cheville de la poule ou du poisson rouge. Ses capacités ne sont au service d’aucune intention, sa puissance n’est au service d’aucune volonté, ses performances ne sont étayées par aucune intuition. Parler d’intelligence à son sujet, c’est confondre un empilement de feuilles mortes avec la souche d’un arbre.

Vous rattachez les peurs liées à l’IA à de vieux mythes, du Golem à Terminator… Ce fantasme que nos créations deviennent de véritables créatures en dit-il plus sur nous que sur nos inventions ?

Bien sûr. Et c’est même ça qui est vraiment intéressant. La question de savoir si l’on parviendra, un jour, à fabriquer de toutes pièces quelque chose comme de la vie a beaucoup moins d’intérêt que la question de savoir d’où nous vient une telle crainte. Le vrai problème n’est pas de savoir si la magie existe et si un artisan de génie finira comme Geppetto par faire un vrai petit garçon en assimilant du bois et des boulons, mais de comprendre d’où nous vient cette vieille certitude, constamment démentie dans l’histoire de l’humanité.

Encore une fois, de Pygmalion à l’IA, en passant par le Golem, Frankenstein, Terminator ou I, Robot, nous avons toujours fait le rêve cauchemardesque que nos créations deviennent des créatures qui s’affranchissent de leur créateur. Que signifie ce fantasme ? Que dit-il de nous ? C’est un fantasme qui renseigne moins sur nos capacités techniques que sur le désir de nous prendre pour Dieu. Qui, hormis Dieu, donne le jour à des êtres conscients qui lui tournent le dos ? Il y a bien plus d’orgueil que d’humilité dans la crainte que l’IA nous échappe. Plus qu’un aveu d’impuissance, c’est un aveu de démesure de notre part, une façon de rejouer à notre sauce la partition divine. N’est pas Dieu qui veut.

L’esprit artificiel, par Raphaël Enthoven. L’Observatoire, 190 p., 19 €.