L'intelligence artificielle mènera-t-elle l'humanité à sa fin?

Dans un entretien à la BBC, l’astrophysicien britannique Stephen Hawking a averti que le développement de l’intelligence artificielle pourrait signifier “la fin de l’humanité”. Le scientifique a déclaré que ce type de technologie pouvait évoluer rapidement et dépasser l’humanité, un scénario souvent exploité par les fims de science fiction comme les blockbusters “Terminator”, “Transcendence” ou “Her” pour n’en citer que trois.

“Les formes primitives d’intelligence artificielle que nous avons déjà développées se sont montrées très utiles. Mais je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à la race humaine”, a affirmé le professeur dans cet entretien. “Une fois que les hommes auraient développé l’intelligence artificielle, celle-ci décollerait seule, et se redéfinirait de plus en plus vite”, a-t-il ajouté.

“Les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient dépassés” a poursuivi M. Hawking. Considéré comme l’un des plus brillants scientifiques vivants, Stephen Hawking, atteint de la maladie de Charcot, ou sclérose latérale amyotrophique, se déplace en fauteuil roulant et parle à l’aide d’un ordinateur.

Ce n’est pas la première fois que M. Hawking s’exprime de la sorte. Au printemps, il avait co-signé, dans “The Independant”, une tribune avec trois autres scientifiques, le professeur en sciences informatiques Stuart Russel et les professeurs du MIT Max Tegmark et Frank Wilczek, ce dernier étant prix Nobel de physique.

La créature dépassera-t-elle le maître?

Citant l’ordinateur Watson d’IBM, les voitures intelligentes de Google ou encore les assistants vocaux, comme Siri ou Cortana, les quatre hommes avaient estimé que "ces réalisations feront sans doute pâle figure par rapport à ce que les prochaines décennies apporteront.”

“Développer avec succès l’intelligence artificielle pourrait être le plus grand événement dans l’histoire de l’humanité”, écrivaient-ils avant d’ajouter: “Malheureusement, ce pourrait aussi être le dernier”

Et d’évoquer l’éventualité, déjà souvent abordée, selon laquelle l’intelligence artificelle se retournerait contre son créateur.

“On peut imaginer que cette technologie soit capable de déjouer les marchés financiers, de dépasser les scientifiques humains, de manipuler les dirigeants et développer des armes qu’on ne puisse pas comprendre. L’incidence à court terme de l’intelligence artificielle dépend de celui qui la contrôle mais, à long terme, cela dépend de la possibilité concrète de la contrôler”, précisaient-ils.

Or, selon le quatuor, si le développement de l’intelligence artificielle est au cœur de multiples recherches, peu s’intéressent à la question de la maitrise d’une telle technologie.“Nous devrions tous nous demander ce que nous pouvons faire maintenant pour augmenter les bénéfices et esquiver les risques” estimaient les quatre scientifiques, “mais ce n’est concrètement pas le cas aujourd’hui”.

Selon eux, des machines comme l’ordinateur qui a gagné l’émission Jeopardy ou les assistants numériques personnels ne seraient que les symptômes d’une “course à l’armement informatique alimentée par des investissements sans précédent”. Et de rappeler que Google a racheté DeepMind pour 400 millions de dollars.

Les neuro-révolutionnaires

Pour nombre de scientifiques, les dangers sont multiples. Exemple: les armées pourraient créer des armes autonomes gérées par des intelligences artificielles, ce que l’ONU et des organisations comme Human Rights Watch ont déjà pointé du doigt.

Le mensuel “L’Informaticien” récemment Laurent Alexandre, auteur du livre “La Mort de la mort” (Lattès). Celui-ci indiquait que selon Ray Kurzweil, directeur du développement et ingénieur en chef de Google, d’ici 2045, l’intelligence artificielle sera “un milliard de fois plus puissante que la réunion de tous les cerveaux humains”.

Laurent Alexandre écrivait : “A l’ère des prothèses cérébrales, le risque de neuro-manipulation, de neuro-hacking et donc de neuro-dictature est immense. Nous devons encadrer le pouvoir des neuro-révolutionnaires: la maîtrise de notre cerveau va devenir le premier des droits de l’homme.”

Les dangers d’Intenet

Dans un autre ordre d’idées, dans son entretien avec la BCC, Stephen M. Hawking a également déclaré qu’Internet avait apporté à la fois des dangers et des bénéfices, citant un avertissement du nouveau chef de l’agence d’espionnage électronique britannique GCHQ, selon lequel Internet est devenu un centre de commandement pour criminels et terroristes.

Stephen Hawking a aussi annoncé que son système de communication, amélioré par le groupe américain Intel, serait accessible gratuitement à la communauté scientifique en janvier 2015.