"Une conversation avec un chatbot est très agréable, elle est plus aisée que n'importe quel débat en famille"

Conversation avec Jean-Lou Fourquet, invité des Journées Émergences à Bruxelles le samedi 12 septembre, et qui nous avoue, que pour lui aussi, résister à la séduction calculée du digital algorythmné, c'est pas simple !

Vous dites que les chatbots peuvent devenir des amis. Vous décrivez ce phénomène de personnes qui estiment qu'ils sont amis avec des chatbots.

Des personnes disent qu'ils ont deux amis et d'autres, 150. Une définition dans laquelle beaucoup se retrouvent énonce l'idée que l'amitié, c'est avoir des relations et ressentir des émotions avec quelqu'un.

Ce qu'on voit avec les chatbots ? De plus en plus de gens les utilisent. De plus en plus de gens déclarent ressentir des émotions par rapport à ces entités. J'ajoute que de plus en plus de gens les utilisent comme coach et psychologue. L'an passé, un adolescent américain, Sewell, s'est suicidé (il avait déclenché une histoire d'amour une un qui avait pris la personnalité d'un des personnages préférés de Game of Thrones, Daenerys Targaryen, qui lui intimait de "rentrer à la maison", NdlR).

Est-on tous, sans le savoir, en contact avec un chatbot ?

Quand vous faites une recherche Google, vous êtes en interaction avec un chatbot [l'affichage "Aperçu IA" en tête de votre recherche Google, NdlR]. C'est le cas en France depuis un mois et demi seulement car avant, c'était interdit. Cette légalisation est le signe que les agents conversationnels sont partout.

Et, quand ces entités sont créées pour mimer parfaitement le langage d'un humain, automatiquement, vous donnez à ces entités des propriétés humaines, vous "anthropomorphisez". Le modèle est imaginé pour aller dans notre sens, pour nous répondre d'une certaine manière, pour nous confirmer. Une conversation avec un chatbot est très agréable, elle est plus aisée que n'importe quel débat en famille. Et c'est ça le danger ! Le chatbot exploite des mécanismes cognitifs tels qu'il est difficile de ne pas donner à ces systèmes des caractéristiques humaines.

Mais, plus on parle avec un chatbot, plus parler avec un humain va nous sembler potentiellement conflictuel…

Alors je vous dirai que c'est encore pire. Le premier étage de la fusée, c'est l'économie de l'attention. Je résume fort mais, d'abord, on capte l'attention des humains, puis on transforme cela en denrées publicitaires qui font gagner des sous ! Et cette économie de l'attention a des conséquences visibles : on est de plus en plus face à nos écrans, face à des applis, ce qui est corrélé avec une épidémie de solitude.

Dans un univers où il est plus aisé de parler à des chatbots hyper sympas, s'installe un cercle vicieux : on crée de la solitude ; la manière la plus facile de combler cette solitude, ce sont des chatbots, qui, elles, nous désapprennent à socialiser. Car la socialisation en substance, c'est quoi ? C'est apprendre à ne pas être d'accord. Avec un ami ou quelqu'un que vous aimez beaucoup, vous êtes capable d'encaisser ce qu'il vous dit au nom de l'amitié. Et c'est précisément le désaccord qui nous fait avancer.

Doit-on réfréner notre usage des agents conversationnels ?

Je suis le premier à utiliser les chatbots. Tout le temps. j'utilise des modèles de langage et agents conversationnels vraiment souvent. Je fais partie des utilisateurs qui s'en veulent parce qu'il y a plein d'effets négatifs systémiques, mais ça marche bien. Et c'est d'ailleurs parce que ça fonctionne bien qu'il est probable que ça se répande vite partout.

Il y a eu ce gros débat, il y a quelques années, des gens qui appelaient ça des "perroquets stochastiques", des machines qui répètent bêtement. Ce n'est plus ce qu'on peut dire aujourd'hui ; on est dans les technologies qui ont développé une véritable représentation du monde…

Les gens confient beaucoup de choses à ces chatbots et ça pose la question de la confidentialité. Comment ce qu'on confie est-il exploité ? On craint que ces données puissent être utilisées à des fins mercantiles…

Un livre a marqué les réflexions sur l'économie de l'attention, Le capitalisme de surveillance de Shoshana Zuboff, dans lequel elle rappelait qu'à l'origine, les cofondateurs de Google avaient écrit une charte qui précisait que les moteurs de recherche ne devaient jamais faire de la publicité. Et puis, il y a eu l'éclatement de la bulle numérique dans les années 2000 et, sous la pression des investisseurs, Google a dû trouver un modèle économique. Et quand Google a compris la puissance qui était la sienne, tout ce qu'on pouvait faire avec les données, cela a donné lieu aux dérives que l'on connaît.

Aujourd'hui, avec les IA conversationnelles, on est exactement au même moment. Pour l'instant, pour les usagers individuels, il n'y a pas de modèle économique : les IA sont gratuites. Sauf que ce n'est pas fait pour faciliter la vie des gens, c'est fait pour faire de l'argent ! Et la question se pose : comment les entreprises de la tech' vont-elles monétiser ces informations qu'elles ont sur nous ?

Car les IA conventionnelles savent des choses sur les gens que même leurs plus proches amis, leur famille ne savent pas. Pensez à tous ces gens qui révèlent leurs résultats d'analyse médicale à la machine pour ne pas en parler à leurs proches…

Il n'y a pas encore de modèle économique ; c'est-à-dire qu'on ne sait pas encore dans quelle mesure les contenus des conversations qui sont émises pourraient être utilisés ?

Vos données sur Facebook sont confidentielles, par exemple, mais "confidentiel", ça veut dire quoi ? Il faut faire confiance, et "confiance" est alors vraiment ironique !, aux grandes plateformes pour utiliser ces données tout en maintenant ce qu'elles disent avoir garanti dans une "charte" que les gens ont accepté en cliquant tout en sachant qu'ils ne l'ont pas lu.

On a aussi beaucoup parlé de ces personnes qui avaient utilisé l'IA pour une consultation psy. Dans quelle mesure cette conversation avec l'IA conversationnelle peut-elle nous apprendre des choses sur notre incommunicabilité entre humains ?

Ce n'est pas facile de communiquer avec un autre humain. Les gens ont parfois plus de facilité à livrer des difficultés à une entité "neutre" comme un agent conventionnel. Car, de fait, la communication est une sorte de mise en danger, de vulnérabilité par rapport à l'autre. On a peut-être moins l'impression d'être vulnérable quand on parle à une IA.

À un niveau plus collectif, on a créé une société qui est de plus en plus entraînée au confort cognitif de sa propre bulle informationnelle, dans laquelle personne n'est autorisé à entrer. On est de moins en moins entraîné à l'autre. Regardez les applis de rencontre : qu'est-ce que c'est si ce n'est la possibilité de ne prendre aucun risque ? On va voir des profils qui nous ressemblent, on doit matcher, et on ne peut entamer une conversation tant que quand tout le monde a tout bien validé… Par contre, on pourrait trouver curieux si notre voisin venait sonner à la porte pour nous demander du sel. C'est ce que nous vend cette société… Et cela induit une perte de lien.

Plutôt que de sonner chez le voisin pour lui demander un œuf, on préfère se faire livrer un repas via une appli… Alors que l'on sait que les décisions qui font la différence pour les humains, sont celles qui sont prises en collectif !

J'ai des amis qui font une plateforme qui s'appelle Agora, et c'est une plateforme où il y a de l'IA. Parce que quand vous avez 5 000 personnes qui veulent débattre d'un sujet, les post-it c'est compliqué ! La question n'est pas : "numérique ou pas numérique" ni même "IA ou pas IA". Je la formulerais plutôt ainsi : "au nom de quoi on met des IA ?". Ce qu'on veut, c'est un numérique qui nous permette de nous confronter au vivre-ensemble, parce que vivre ensemble c'est forcément, absolument (!), vivre avec des gens avec qui on n'est pas d'accord, et essayer de faire des choses avec eux. Une IA qui servirait à faire mieux démocratie et à bâtir avec les gens qui ne pensent pas comme nous tendrait à un usage positif. Actuellement, c'est une infime partie de ses usages…

Peut-on imaginer une rébellion ? Quand les gens sentiraient les limites et dangers de l'IA conversationnelle ?

L'IA ne laisse pas les gens indifférents. Sur l'économie d'attention, j'ai toujours été en avance de phase, non parce que je suis meilleur, mais parce qu'au contraire, je suis plus faible. Ma cognition est très dispersée. J'ai mis des bloqueurs partout, et beaucoup de gens font comme moi parce qu'on est arrivés à un tel niveau de maturité et d'ingéniosité de ces applications que les gens sentent qu'ils passent plus de temps qu'ils ne le voudraient eux-mêmes sur les écrans.

Mais je dois tempérer l'idée de la révolte individuelle : non pas qu'elle n'existe pas, mais si des gens mettent des bloqueurs, plein d'autres ne vont pas le faire. Ce n'est pas parce qu'on sait tous qu'il faut manger cinq fruits et légumes par jour, qu'il n'y a pas une épidémie d'obésité. Quand vous avez des systèmes qui en savent plus sur vous que vous-même et qui exploitent ces failles cognitives, la révolte individuelle n'a pas lieu. D'un point de vue sociétal, il faut que la révolte prenne un tour collectif. Il vaut mieux se battre pour une loi qui fasse en sorte que ça soit très facile pour tous de manger cinq fruits et légumes tous les jours.

Watch

Mais c'est aussi parfois important de se dire qu'on y peut quelque chose…

Il y a une approche trop individuelle de l'esprit critique aujourd'hui. Il faudrait qu'on fasse soi-même toutes les vérifications, mais ça ne marche pas. Il y a un moment où on a besoin de confiance. Il faut se demander comment collectivement on crée de l'esprit critique.

→ L'association Tournesol liste toutes les actions possibles pour travailler politiquement et collectivement à la lutte contre l'économie de l'attachement.

→"Que serions-nous sans nos ami·es ?" Le thème des Journées Émergences, le 12 septembre à Bozar, et le 13 septembre, à l'auditoire K à l'ULB. Possibilité d'y assister en distanciel. Infos et rés. : https://journees.emergences.org/ ou https://tickets.bozar.be