À vouloir nous connecter, le numérique nous isole

En voulant tout optimiser grâce à l’intelligence artificielle, nous ne nous laissons pas la moindre opportunité disruptive ou créative et nous appliquons docilement des décisions que personne ne pourrait expliquer.

Contribution externe
À vouloir nous connecter, le numérique nous isole

Une carte blanche de Louis de Diesbach, senior manager chez Cream Consulting

Imaginez un monde où il n'y a pas besoin de comprendre ce qu'est une porte pour ouvrir la porte !" C'est ainsi que Ross Ashby, un des pères de la cybernétique, conceptualisait son approche quasi philosophique du monde et de la science. Une approche où ce qui prime, c'est le résultat - pas le processus ni la substance des choses. Dans le cas de la porte : le fait qu'elle s'ouvre ou se ferme, peu importe qu'elle soit en chêne ou en bois d'ébène, avec une serrure simple ou double. La fonction avant la substance - et ce serait la seule vérité importante, le reste n'étant que du bruit sans intérêt.

La cybernétique est donc une science qui considère que le monde est peuplé de boîtes noires, de black box, que l’on ne peut complètement apprivoiser et dont nous ne pouvons observer que les résultats. Le mouvement va également jusqu’à dire qu’il n’est pas nécessaire de se poser ces questions et qu’elles ne sont que futilités et perte de temps et d’efficacité.

L’homme, cette statistique

Pour reprendre l’exemple de la porte, nul besoin d’avoir la moindre notion de mécanique ou d’ébénisterie, de ce que sont des gonds ou une poignée, voire même un verrou, pour pouvoir ouvrir la porte - ce serait même une perte de temps ! Heureusement qu’il ne faut pas avoir fait trois ans d’apprentissage en menuiserie pour ouvrir des portes ! Un enfant de cinq ans est capable de le faire : si la porte s’ouvre, c’est que tout se passe comme prévu. Si la porte ne s’ouvre pas, c’est que le verrou doit être mis. Nul besoin de rentrer dans la compréhension du micro-mécanisme de la serrure pour accueillir des amis ou refuser des témoins de Jehovah. Plus spécifiquement, selon les fondateurs du mouvement cybernétique, un objet n’est rien d’autre que les informations qu’il communique : le résultat l’emportant sur le processus, la destination sur le voyage. Et nul besoin d’expliquer le comment.

Près d’un siècle plus tard, bien que la cybernétique n’ait pas vraiment connu l’envol espéré, on retrouve la même pensée dans le domaine de l’intelligence artificielle : peu importe comment fonctionne la machine tant que je reçois les informations dont j’ai besoin. Tout devient donc une classe statistique : un ensemble de positions dans l’espace et dans le temps, un ensemble de possibles et de probables qui font partie d’un espace communicationnel plus large orienté vers la reconnaissance faciale, l’optimisation d’achat ou de vente de titres financiers, l’analyse de performance d’un employé. Peu importent l’origine de la personne, le vécu des travailleurs, l’histoire du salarié. C’est comme Vegas : ce qui se passe dans la black box de l’algorithme, reste dans la black box.

Éclairer le fonctionnement interne

C’est sur cet aspect obscur de l’algorithmie que se penchent les Digital Services Act (DSA) et Digital Markets Act (DMA) dont la mise en œuvre par l’Union Européenne ne fait que débuter. Ces derniers imposent entre autres la transparence quant à la collecte des données ainsi que, pour les utilisateurs, le droit à l’information du processus ayant amené une décision automatisée - dans la digne lignée du GDPR de 2018. Nous nous éloignons donc de la réflexion cybernétique : au-delà de l’ouverture de la porte, on demande aux entreprises d’être capables d’expliquer pourquoi et comment elle s’ouvre.

Avec la complexité croissante des algorithmes ainsi que certaines prises de décisions échappant complètement à leurs concepteurs, la question cybernétique demeure au cœur du débat. Lorsque le traitement d’une personne et, potentiellement, sa dignité ou son vécu sont touchés par une décision qui ne peut être expliquée par personne, l’excuse de la black box devient inacceptable. Plus particulièrement, et c’est précisément ce qui est visé par le RGPD et l’Union Européenne, l’automatisation de décisions basées sur un profilage "black boxé" peut s’avérer nocive, voire même dangereuse. L’objectif de ces textes est donc de ramener la discussion sur le fonctionnement interne, sur le processus, et de ne plus se contenter d’un résultat profitable. À l’heure du débat sur les libertés individuelles, celui sur la prévalence du processus sur le résultat est capital - tant pour les entreprises que pour notre dignité et notre démocratie.

Un univers qui nous échappe

Et pourtant, à côté de ces textes à l’intention fort louable, Meta continue de créer un univers cybernétique, un métavers. Comprenons-nous bien : derrière cet univers alternatif, et principalement mercantile, c’est tout un monde qui échappe à notre entendement qui s’établit. Un monde fait de portes qui s’ouvrent et de possibles, sans doute, mais un monde sans le moindre serrurier ou ébéniste pour comprendre les enjeux de ces ouvertures et leurs mécanismes dystopiques. En nonobstant les textes européens qui permettent le dépassement d’une pure logique cybernétique, et en œuvrant à créer des algorithmes surpuissants permettant de déceler nos moindres émotions ou intentions, les ingénieurs de Mark Zuckerberg prennent le risque, à l’instar du docteur Frankenstein, de voir leur créature leur échapper : une intelligence artificielle obnubilée par les résultats d’achats et de consommation, poussant le concept à l’absurde ; en voulant connecter les gens de par le monde, le métavers ne fait en réalité que les isoler - faut-il alors, comme Sisyphe, les imaginer heureux ? Pour Meta, ce n’est pas le cœur de la relation qui importe, c’est son résultat économique. La manne financière (le résultat) l’emportant sur les aléas, les difficultés, les joies et les incertitudes qui font ces relations (le processus).

Tout comme le mouvement cybernétique trouvait son utilité et son sens dans l’exemple de la porte, l’IA a de nombreuses utilités également, notamment dans l’automatisation de certaines tâches sans valeur ajoutée ou dans l’accompagnement de la médecine ou de la conduite. Mais tout comme la cybernétique a ses limites, il en est de même pour l’algorithmie et ses décisions.

À vouloir tout optimiser, à vouloir tout considérer comme des boîtes noires, hypnotisés par les résultats, nous ne nous laissons pas la moindre opportunité disruptive ou créative et nous appliquons docilement des décisions que personne ne pourrait expliquer. À ce propos, le latin explicare vient étymologiquement, et très poétiquement, de déplier, dévoiler. N’est-il pas temps de descendre le sacro-saint résultat de son piédestal et de remettre le processus relationnel et communicationnel au cœur de nos pensées et de notre éthique ? N’est-il pas temps de déplier les boîtes noires, d’ouvrir la porte ?

Titre, chapô et intertitres sont de la rédaction.