Elon Musk, Yoshua Bengio, Steve Wozniak… des centaines d’experts demandent une pause dans les expériences d’IA géantes
Dans une lettre ouverte, ils jugent que les systèmes d’intelligence artificielle (IA) dotés d’une intelligence pouvant rivaliser avec celle de l’être humain peuvent présenter de graves risques pour la société et l’humanité.
Publié le 29-03-2023 à 11h29 - Mis à jour le 29-03-2023 à 12h24
:focal(3573x2017:3583x2007)/cloudfront-eu-central-1.images.arcpublishing.com/ipmgroup/6MLSKW7NVZEELND4EROAG3UKCM.jpg)
Plusieurs centaines d’acteurs clés du domaine de l’intelligence artificielle (IA) et des technologies, parmi lesquels co-signent une lettre ouverte initiée par le Future of Life Institute afin de demander aux laboratoires d’IA d’interrompre immédiatement, pour une durée d’au moins six mois, l’entraînement de systèmes d’IA plus puissants que GPT-4.
Dans cette lettre, les signataires sont clairs : les systèmes d’IA dotés d’une intelligence pouvant rivaliser avec celle de l’être humain peuvent présenter de graves risques pour la société et l’humanité. La pause de six mois devrait ainsi être utilisée pour élaborer et mettre en œuvre un ensemble de protocoles pour rendre ces puissants systèmes d’IA plus précis, transparents et dignes de confiance.
Parmi les acteurs clés ayant signé la lettre ouverte, on retrouve notamment Yoshua Bengio (fondateur et directeur scientifique de Mila, Institut québécois d’intelligence artificielle), Yuval Noah Harari (auteur et professeur, Université hébraïque de Jérusalem), Stuart Russell Berkeley, Professeur d’informatique, directeur du Centre des systèmes intelligents), Elon Musk (PDG de SpaceX, Tesla et Twitter), Steve Wozniak (co-fondateur d’Apple), Evan Sharp (co-fondateur de Pinterest), Luc Steels (VUB,), …
Voici la lettre ouverte “Pause Giant AI Experiments : An Open Letter”