Opinions Une opinion de Luc de Brabandere, philosophe d'entreprise. On ne peut pas confier totalement aux machines des tâches qui nous font perdre une part de notre humanité. Même si un ordinateur peut assimiler les codes juridiques, seul un juge peut avoir un sens de la Justice.


Dans tout le buzz qui entoure l’intelligence artificielle, un livre s’est particulièrement bien vendu ces derniers mois. Il s’agit de "La guerre des intelligences" de Laurent Alexandre.

Le titre retenu est subtil. Présenter l’homme et la machine comme des rivaux engagés dans une lutte sans merci est en effet un bon choix pour faire un succès de librairie. Le grand public aime les joutes en tous genres. Les Romains l’avaient déjà bien compris qui organisaient des combats de gladiateurs pour attirer les foules. Et le pouce levé de tous les spectateurs qui "likaient" le courage d’un des deux adversaires incitait alors l’empereur à lui laisser la vie sauve… Le titre "La guerre des intelligences" est commercialement bien choisi mais éthiquement trompeur, car une telle bataille n’est tout simplement pas possible.

Une pente glissante

La contradiction logique est flagrante : l’hypothèse d’une guerre entre l’homme et l’ordinateur impliquerait qu’elle n’aurait pas lieu ! Elle supposerait en effet une telle régression de l’intelligence humaine qu’elle serait instantanément perdue. Ce ne serait pas alors pour l’homme une défaite lors d’un combat, ce serait la défaite de sa pensée elle-même. L’idée qu’une confrontation homme-machine est à la fois proche et inévitable est une prémisse fausse et elle ne pouvait qu’entraîner des conclusions qui le sont également. La preuve ne s’est pas fait attendre.

Dans une tribune publiée en début d’année dans "L’Express" et intitulée ‘Les femmes douées ont moins d’enfants’, Laurent Alexandre souligne "l’urgence de favoriser les bébés chez les intellectuelles, ingénieures et chercheuses" ! La pente est pour le moins glissante…

L’essayiste français n’est pas le seul à déraper. De l’autre côté de l’Atlantique, Anthony Levandowski, un ingénieur sulfureux de Google passé chez l’ennemi Uber, a créé une nouvelle religion appelée "Way of the Future". Selon lui, l’intelligence artificielle sera bientôt tellement puissante que l’homme n’aura plus d’autres choix que de la vénérer.

Il faut arrêter de dire des bêtises. Car l’enjeu n’est pas d’écrire une nouvelle de société-fiction, l’enjeu est de sortir des fictions pour bâtir une nouvelle société, qui conjuguera humanisme et numérique.

Accessoirement technique

On peut toujours s’amuser et imaginer par exemple un traitement de texte qui continue à écrire un roman alors que son auteur est allé dormir, ou inversement son GSM pleurant pour ne pas être mis en mode avion. Mais il faut également réfléchir aux responsabilités qu’implique la dissémination massive de tous ces outils. La question de la technique n’est qu’accessoirement une question technique. Illustrons cela par un exemple.

Prenons le cas d’un juge qui examine les demandes de libération anticipée ou conditionnelle de prisonniers. Il doit donc évaluer le risque de récidive. Imaginons maintenant un ordinateur qui aurait tout mémorisé du passé, qui aurait stocké toutes les caractéristiques de toutes les décisions prises par tous les juges en charge de ce genre de questions, avec des corrélations détaillées capables de cerner les profils précis de ceux qui ont récidivé, et les circonstances dans lesquelles ils l’ont fait.

Le juge pourrait-il être remplacé par cet ordinateur ?

L’algorithme plus juste que le juge ?

Un côté de nous a envie de dire plutôt oui. A première vue, en effet, un algorithme est plus objectif, il construit ses raisonnements sur des chiffres et des faits. Il n’est jamais fatigué, n’est jamais de bonne ni de mauvaise humeur, il n’a pas d’a priori ni de biais, et procédera exactement de la même manière pour le premier ou le centième cas qu’il examine. De plus, il s’améliorera au fil des années. A la limite, grâce à sa mémoire illimitée, on pourrait imaginer un algorithme devenir avec le temps plus juste qu’un juge !

Mais l’autre côté de nous doit dire non. Un juge doit pouvoir décider en âme et conscience contre l’avis d’un logiciel qui n’a ni l’une ni l’autre. Il ne s’agit plus, ici, d’une question technique mais bien d’une question de principe. On ne peut simplement pas confier totalement à des machines des tâches qui nous feraient perdre une part de notre humanité.

Comme le rappelait fermement Charles Delhez dans ces colonnes (‘Les robots, jamais nos frères et sœurs’, "La Libre" 17/4/18), les robots ne seront jamais de notre famille, c’est notre devoir éthique de ne pas les traiter d’égal à égal. La raison en est simple.

Pas objectif

Même si un tel algorithme judiciaire n’est pas si difficile à développer, il reste la question de savoir qui va l’écrire car un ordinateur ne peut se programmer lui-même. Un groupe d’hommes et de femmes devra donc définir ses critères de fonctionnement. Et tout comme les écrivains pour qui chaque roman est toujours un peu autobiographique, un algorithme reflétera nécessairement les intentions, les valeurs et les convictions de ceux qui l’auront développé.

Et donc, à regarder de plus près, on réalise qu’un algorithme ne peut en fait pas être objectif, qu’il reproduira toujours les préjugés, les stéréotypes ou les peurs de ceux qui l’ont conçu ou commandé.

La guerre des intelligences n’aura pas lieu car même si un ordinateur peut assimiler les "codes" juridiques, seul un juge peut avoir un sens de la Justice.