Un ordinateur n’a pas d’idées

D’accord, AlphaGo a battu le champion du monde au jeu de Go. Mais l’homme n’a pas trouvé plus fort que lui. Un ordinateur ne peut émettre de jugement de valeur, il n’a pas de sentiments. Il peut reconnaître une chanson, mais ne peut la trouver belle.

Contribution externe
Un ordinateur n’a pas d’idées

Une opinion de Luc De Brabandère - Ingénieur civil en mathématiques appliquées. Professeur à la Louvain School of Management et à l'Ecole centrale de Paris. Philosophe d'entreprise. Auteur.

D’accord, AlphaGo a battu le champion du monde au jeu de Go. Mais l’homme n’a pas trouvé plus fort que lui. Un ordinateur ne peut émettre de jugement de valeur, il n’a pas de sentiments. Il peut reconnaître une chanson, mais ne peut la trouver belle.

Un tournevis n’a pas d’idées. Une grue n’a pas d’idées. Une centrale électrique n’a pas d’idées. Et il faut manifestement le répéter encore et encore, un ordinateur n’a pas d’idées non plus.

Voilà qu’il y a quelques mois, une machine baptisée AlphaGo bat le champion du monde au jeu de Go, et hop c’est reparti, l’homme aurait donc trouvé plus fort que lui. Il n’en est évidemment rien, pour deux raisons au moins :

- L’ordinateur a gagné, d’accord. Mais il ne savait même pas à quoi il jouait, ni pourquoi il jouait, ni même ce qu’est un jeu.

- L’ordinateur a gagné, d’accord. Mais cela ne l’a rendu ni fier, ni heureux.

Ces deux observations illustrent bien les deux limites indépassables pour un ordinateur. A la différence de l’être humain il ne peut être conscient de ce qu’il fait, ni en éprouver des sentiments.

Analysons cela de plus près.

1 - L’être humain perçoit la différence entre ce qu’il est et ce qu’il n’est pas, il sait l’existence d’un extérieur à lui-même. Il développe son intelligence en multipliant les points de vue et en croisant des perspectives différentes. Les stoïciens recommandaient déjà de "monter sur la colline" pour voir les choses d’en haut, et pas uniquement par la petite fenêtre de la maison. Cette même invitation a traversé les siècles comme en témoignait encore récemment le regretté Robin Williams qui dans "Le Cercle des Poètes disparus" jouait le rôle d’un professeur qui invitait les élèves à se mettre debout sur les tables de la classe. Prendre conscience nécessite de pouvoir prendre de la distance. Une machine est in-consciente car elle ne peut sortir d’elle-même. Les promoteurs d’AlphaGo expliquent le succès de leur programme par la faculté qu’il a d’apprendre en profondeur, ce qu’ils ont baptisé "deeplearning". Ils ont en effet fait jouer la machine contre elle-même lors de millions de parties de Go générées aléatoirement, et cela a certainement contribué à améliorer le logiciel. Mais le programme n’a jamais fait que plus de la même chose, cela ne l’a pas pour autant éloigné de lui-même. Une machine ne peut prendre du recul et, que les choses soient claires, aucun système dit "intelligent" n’est conscient de ce qu’il fait, ce qui est pour le moins paradoxal. A force de se cogner partout, une tondeuse à gazon automatique finira par optimiser son trajet, c’est certain. Mais elle ne peut avoir l’idée de se faire remplacer par un mouton. Et de toute façon, pour qu’un ordinateur puisse un jour être conscient, il faudrait d’abord que nous puissions nous expliquer à nous-mêmes ce qu’est la conscience, et ensuite pouvoir le dire aux autres… Et personne n’est aujourd’hui capable de le faire.

2 - Reprenons la différence utile que les philosophes font entre les jugements de fait et les jugements de valeur. "La Terre est sphérique" est un exemple de la première catégorie, "La Terre est en danger" illustre la deuxième. Et à nouveau, que les choses soient claires, un ordinateur ne peut émettre de jugement de valeur. Un ordinateur n’a pas de sentiments. Il peut reconnaître une chanson, mais ne peut la trouver belle. Il peut éventuellement confirmer que le raisonnement d’un mathématicien est correct, mais il ne pourra jamais dire si la décision d’un arbitre de football est juste. Un ordinateur ne peut avoir d’éthique. Comment pourrait-on lui expliquer la différence entre ce qui est bien et ce qui ne l’est pas ? Une conviction n’est pas modélisable, une opinion n’est pas programmable, un système de valeurs ne peut se mettre sous la forme d’un algorithme. L’éthique par définition ne peut s’accommoder d’une pensée binaire, mais c’est une question que beaucoup de gens préfèrent ne pas aborder, surtout de l’autre côté de l’Atlantique. Ce qui est ennuyeux car, il faut bien l’admettre, Internet est américain. La Silicon Valley est un gisement impressionnant d’entreprises, c’est la partie visible et c’est plutôt une bonne chose. Mais derrière les entrepreneurs se cachent ou se superposent parfois deux autres profils plus inquiétants : les transhumanistes et les libertariens. Les premiers veulent la suppression des maladies et même de la mort, les seconds veulent la suppression de l’Etat. Leur gourou se nomme Ray Kurzweil qui est un personnage inquiétant. Il est profondément convaincu d’être doué pour prévoir l’avenir, mais son raisonnement est pauvre et il se base surtout sur des extrapolations construites à partir du passé. Kurzweil prêche plus qu’il n’argumente et prétend que les problèmes posés par la technologie seront résolus par encore plus de technologie. On ne trouve chez lui que très peu de réflexion sociétale, et quasi pas d’interrogation éthique. Ce Nostradamus de l’Internet a baptisé "singularité" le moment où la machine dépassera l’homme, ce qui dans la logique simpliste qui est la sienne ne peut qu’arriver un jour. Plus inquiétant encore, Ray Kurzweil est suivi sans beaucoup d’esprit critique par les entreprises américaines qui semblent plutôt satisfaites de pouvoir participer à cette fuite en avant. Quand la Commission européenne poursuit à juste titre Google - qui a recruté Kurzweil - pour des pratiques commerciales inappropriées, elle fait bien son travail. Mais finalement elle ne se concentre pas sur le problème essentiel. Avons-nous vraiment envie que notre avenir se décide à 12 000 kilomètres d’ici ? Souhaitons-nous vraiment que les grands principes de la solidarité, de l’enseignement ou de la santé du futur soient établis par des entreprises dont la motivation - certes légitime - reste le profit ? Un ordinateur n’a pas d’idées. Un ordinateur n’aura jamais d’idées. Par contre ceux qui les programment et les relient entre eux en ont beaucoup. Et toutes ne sont pas bonnes.

Prochain article : Vous avez dit "algorithme" ?

(1) Dernier ouvrage paru : "Les philosophes dans le métro" Ed. Le Pommier Avec Anne Mikolajczak.