L’engouement soudain pour l’éthique est une fausse bonne idée. 

Chronique de Monique Goyens, DG du BEUC.

L’intelligence artificielle – et le concept voisin de la prise de décision automatisée – comptent parmi les termes dont l’utilisation a explosé ces derniers mois dans les sphères décisionnelles européennes. Et parallèlement à cette explosion se développe un engouement, surtout dans les cercles industriels et commerciaux, pour le recours à l’éthique pour encadrer ces technologies.

Mais pourquoi donc ?

Derrière cette grande communion du monde professionnel autour de l’éthique de l’intelligence artificielle se cache une réalité bien moins sympathique : le lobby intense des secteurs professionnels concernés pour éviter l’adoption d’une réglementation plus contraignante.

Entendons-nous bien, personne ne peut être contre le respect d’une éthique technologique. Mais l’enjeu, dans le débat actuel, c’est de dépasser le stade de l’éthique et d’adopter des règles juridiques qui établissent un cadre clair et contraignant pour une société qui devient de plus en plus dépendante des décisions automatisées.

En effet, si l’éthique permettait de canaliser efficacement les relations sociales, cela se saurait. Elle n’est pas automatiquement assortie d’un régime de sanction, contrairement aux règles juridiques. Elle nécessite la volonté pour toutes les parties prenantes de respecter les principes éthiques. Face à cette condition, il est peu de dire que le secteur technologique ne brille pas par son auto-discipline – GAFA en tête. Parmi les multiples raisons qui expliquent cette faille, celle d’un secteur professionnel bouillonnant, avec bien sûr des plateformes dominantes mais aussi des start-ups et sous-traitants qui tous peuvent être à l’origine d’infractions au cadre éthique préconisé.

Les conséquences peuvent en être futiles, mais aussi potentiellement dangereuses, voire même mortelles (négligence en matière de cybersécurité, absence de contrôle dans la programmation initiale qui donne lieu à des accidents, que ce soient les voitures autonomes ou les robots chirurgicaux…). Il n’existe pas d’organe professionnel interne qui puisse efficacement contrôler et le cas échéant sanctionner les faits et abus de ses membres. Or, il est de notoriété publique que moins il y a de risque de sanction dissuasive, moins il y a d’appétit de respecter des règles.

C’est pourquoi, tout décideur politique qui entend protéger les citoyens – consommateurs – travailleurs – concurrents – se doit de contribuer à un cadre juridique contraignant : une réglementation assortie de sanctions dissuasives en cas de non-respect, et une autorité de contrôle qui a les ressources pour superviser et sanctionner.

Le chant des sirènes – cessons de les écouter

Actuellement, les GAFA et autres représentants professionnels assènent aux décideurs politiques une campagne bien orchestrée organisée autour de l’idée que les avancées technologiques sont trop rapides, qu’il est impossible de légiférer et que l’éthique est bien plus souple pour permettre une adaptation rapide. Une approche différente mettrait l’industrie européenne en difficulté car une réglementation empêcherait l’innovation de déployer ses ailes.

C’est populaire comme argument, mais c’est du n’importe quoi ! Cette rengaine est très souvent utilisée à l’encontre d’initiatives réglementaires de protection des consommateurs (dans les années soixante du siècle dernier, l’industrie automobile a menacé que l’installation obligatoire de ceintures de sécurité mettrait à mal sa compétitivité ; …) . Elle n’est basée sur aucune analyse valide. Au contraire, un cadre juridique clair et qui sanctionne efficacement ceux qui sortent des clous, permet justement de créer les conditions de développement d’un secteur industriel durable. Parmi ces conditions : la confiance du consommateur, élément clé d’un marché florissant.

Comment faut-il alors réglementer l’intelligence artificielle ?

Quelques droits fondamentaux sont à épingler pour le consommateur au sein d’un cadre juridique plus large, et qui s’organisent autour des principes de transparence, de loyauté et de responsabilité des algorithmes: information sur la logique utilisée par les algorithmes, protection contre les discriminations de toute nature, mise en place de structures et de procédures indépendantes de contrôle des algorithmes, ou encore droit du consommateur à faire objection à une décision automatisée et à demander une intervention humaine dans le processus décisionnel.

Bien au-delà d’un problème de consommation : le risque du capitalisme de surveillance

Les questions soulevées ici, et les solutions suggérées, se concentrent sur le consommateur. Toutefois, le développement des technologies et des abus auxquels elles peuvent donner lieu, dépassent largement le marché. Elles nous amènent, comme nous pouvons déjà pressentir avec des scandales comme Cambridge Analytica, et bien d’autres, à un capitalisme de surveillance.

Des entreprises privées récoltent nos données de manière de plus en plus sophistiquée et granulaire, les croisent, nous profilent, et vendent ces profils à qui est prêt à en payer le prix.

L’approche réglementaire de protection des données, basée sur le consentement informé du consommateur, ne permet pas de sanctionner ces comportements : le consommateur est le plus souvent coincé par un consentement fictif qu’il donne ainsi, parce qu’il n’est pas conscient des implications ou tout simplement parce qu’il n’a pas le choix s’il veut utiliser un service.

En fin de compte, ce sont ces entreprises – ou leurs robots - , qui n’ont aucune redevabilité ni légitimité démocratique qui décident à quelle catégorie de citoyens (de dindons ?) nous appartenons et qui risquent bien de décider des types d’information auxquels nous aurons accès. Et partant de notre participation à la vie économique mais aussi politique : le principe d’auto-détermination, à la base de nos systèmes de gouvernance est fondamentalement mis à mal.

La seule réponse adéquate est un encadrement de ces pratiques par un cadre juridique ferme. Il est grand temps que le législateur mette le holà à ces développements et ne cède pas au lobbying effréné des champions tech de l’éthique qui ont en ce faisant un objectif clair : temporiser.