Opinions
Une opinion de Luc de Brabandere, philosophe d'entreprise, conférencier et auteur.

Plus il y aura de robots, plus il y aura de questions. Construire les premiers sans aborder directement les secondes n’est pas responsable.

Imaginons un robot sur une plage en fin d’après-midi, à l’heure où le soleil se couche. Que "voit"-il ? Sans doute des formes improbables aux couleurs diffuses, floues, pastel, bigarrées, changeantes. En fait, il ne voit rien !

Ce robot peut être face au coucher de soleil mais ne peut ni le contempler ni l’admirer, et le spectacle ne le rend ni heureux ni nostalgique, car les émotions ne se programment pas. Les robots ne ressentent rien, ils sont psychopathes. Ces images ne sont pour lui que quelques milliards de 0 et de 1 supplémentaires rajoutés dans sa mémoire. Il peut probablement voir que c’est un coucher de soleil, mais ne peut dire ce qu’est un coucher de soleil.

Imaginons maintenant que ce robot ait observé, à partir du même endroit, les mille derniers couchers de soleil. Que pourrait-il faire de toutes ces informations accumulées ? Et bien, toujours rien ! Ni définir ce qu’est un beau coucher de soleil, ni prévoir les couleurs de celui du lendemain, ni établir une théorie de la diffraction de la lumière, ni même éprouver de la lassitude. Car ce robot n’est pas même pas conscient qu’il regarde un coucher de soleil.

Tout au plus pourrait-il trouver bizarre de voir l’homme utiliser encore le concept de coucher de soleil alors que depuis Copernic tout le monde sait qu’en fait le soleil ne se couche pas, mais que c’est la Terre qui tourne sur elle-même. Mais un robot n’a pas le sens de l’humour…

Il n’a pas de projet non plus, ce qu’on a tendance à oublier pour une question de vocabulaire.

Si vous avez par exemple une tondeuse à gazon automatique, observez la manière dont vous décrivez son fonctionnement : "Elle a l’air en forme ce matin" ou "elle hésite à passer à gauche ou à droite de l’arbre" ou encore "elle ne va pas là car elle a vu que ce n’était pas nécessaire", etc.

Bref, vous attribuez à votre tondeuse des caractéristiques propres à un être humain. Ce n’est peut-être pas ce que vous pensez, mais c’est la manière dont vous le dites car vous n’avez pas le choix. Il n’existe en effet pas de mots pour décrire un mouvement sans intention. Quand il s’agit de machines programmées, la métaphore humaine semble donc inévitable. Le danger, c’est d’oublier que c’est une métaphore et que, si une machine peut parfois simuler l’intelligence, elle ne peut pas pour autant être intelligente.

Donc il ne faut pas dire d’un robot qu’il "réfléchit", il faut dire qu’il est arrêté !

Des questions non techniques

L’utilisation croissante de robots est inéluctable, et parfois même souhaitable. Mais une nouvelle technologie s’accompagne de nouvelles questions qui, elles, ne sont pas techniques. Certaines de ces questions sont graves et d’autres heureusement plus légères, mais toutes sont importantes. En voici cinq parmi beaucoup d’autres.

Peut-on programmer un robot pour tuer ?

Certains en parlent comme étant la troisième révolution de la guerre. Après la poudre et le nucléaire, des véhicules pourraient être programmés capables de tuer un individu sur base de critères préétablis, sans qu’aucun humain n’intervienne dans la décision. Malgré l’appel d’associations comme le Human Rights Watch, il semble qu’aucune interdiction de construire ces robots tueurs ne soit encore d’application.

Faut-il taxer les robots ?

Deux thèses trop simples sont présentes. Pour certains, c’est indispensable pour aider tous ceux qui à cause d’eux n’ont plus de travail. Pour d’autres, taxer les robots est inutile car cela favoriserait surtout les sociétés d’intérim et le travail précaire.

Faut-il parler gentiment aux robots ?

Plusieurs constructeurs proposent aujourd’hui d’installer chez vous un assistant vocal pour répondre à vos questions. Mais quand ce robot vous donne l’heure du train pour Avignon, faut-il lui dire merci ? D’un côté on a envie de dire oui pour inculquer le réflexe de la politesse à des enfants qui assisteraient à cette "conversation". Mais il nous faut dire non, car ce serait traiter cet outil comme s’il était un humain, le créditer d’une sensibilité qu’il ne peut avoir.

Faut-il pouvoir reconnaître la voix d’un robot (ou plus exactement d’un chatbot, puisque c’est comme cela qu’on désigne les robots programmés pour pouvoir répondre au téléphone) ?

Ils sont aujourd’hui capables de simuler quasi à la perfection la voix humaine, hésitations, accent méridional ou raclage de gorge compris. Ils peuvent certes aider utilement quiconque appelle pour prendre un rendez-vous ou réparer une machine en panne. Mais dans des mains malveillantes ces chatbots capables de se faire passer pour des humains pourraient mentir et rendre possibles des arnaques diaboliques ou même devenir des menaces pour la démocratie.

Peut-on être amoureux d’un robot ?

Pour certains la réponse est oui ! Une industrie naissante développe en effet des poupées adultes programmables destinées à répondre aux fantasmes masculins les plus divers. Il existe non seulement un grand choix de formes de corps et de cheveux, mais ces poupées bourrées d’électronique sont en plus capables de simuler à la demande différents tempéraments (passionnée, timide, maternelle, provocante…) Et comme elles sont aussi capables d’apprendre…

La place manque pour poursuivre la liste, mais une chose est claire : plus il y aura de robots, plus il y aura de questions. Construire les premiers sans aborder directement les secondes n’est pas responsable.