ChatGPT : entre périls et salut

Qui ne tremble à la seule évocation de ChatGPT, le “perroquet stochastique” d’OpenAI ? À ce jour, plus de mille livres ont été publiés sur Amazon avec cette intelligence artificielle (IA) pour co-auteur. Des papiers scientifiques sont entièrement rédigés par elle au départ d’un simple jeu de données. ChatGPT nous condamne-t-il à consommer de la culture et du savoir de synthèse ? Nos institutions éditoriales et notre sens du goût et du vrai résisteront-ils à ce tsunami ?

Et quid de l’enseignement ?

Et quid de l’enseignement ? Faut-il craindre l’IA générative ? Les outils sont là, souvent gratuits, toujours plus performants. S’il est possible de les tenir à l’écart des salles d’examen, les bannir des bureaux de nos étudiants est illusoire. Mais est-ce un problème (nouveau) ? L’IA ne fait qu’abaisser le coût de la délégation du travail à un tiers. Dans de nombreux cours et mémoires, nous résolvons le problème par une défense orale du travail. Le défi ici réside dans la taille de nos auditoires et notre sous-financement, pas dans la technologie qui nous oblige seulement à être certains des compétences que nous voulons développer et évaluer.

Mais notre devoir n’est-il pas au contraire d’aider nos étudiants à dominer ces outils pour en discerner la vraie valeur ajoutée, les biais et les limites ? Le premier risque que pose l’IA générative, c’est celui de la confiance aveugle dans un aplomb verbal dissimulant l’absence totale de sens. Ses contre-vérités ont de redoutables airs de vérités et l’IA pourrait bien être le fossoyeur de la démarche scientifique et de nos démocraties. Le coût des machines qui pensent pourrait être des gens qui ne pensent plus (1).

Obligation aux étudiants d’utiliser ChatGPT

C’est pourquoi, dans mon séminaire à Solvay cette année, j’ai exigé de mes étudiants qu’ils utilisent ChatGPT dans leurs travaux, en leur imposant d’en vérifier et justifier les apports. De manière unanime, ils ont trouvé l’IA d’une aide précieuse pour se faire une première idée d’un sujet nouveau, synthétiser ou traduire de l’information, améliorer leurs formulations ou valider leur propre compréhension. En contrepartie, ils ont tous été confrontés aux hallucinations de ChatGPT et ont constaté un manque de fiabilité qui s’aggrave à mesure qu’ils approfondissent un sujet. Le temps gagné en recherche et en rédaction fut vite perdu en vérification. Ils en sont sortis remarquablement lucides quant aux possibilités et limites réelles de l’outil.

L’IA peut aider l’enseignant aussi

Pour peu qu’on la conçoive comme un assistant cognitif, complément plus que rival de nos capacités intellectuelles, l’IA peut aider l’enseignant aussi : proposer la table des matières d’un nouveau cours, confectionner des slides au départ d’un syllabus, concevoir questions à choix multiples, grilles d’évaluation et autres simulations interactives… Bien utilisée, elle peut se muer en tuteur remarquable de pédagogie et de patience pour faire comprendre des concepts compliqués et fournir du feedback. L’IA pourrait ainsi nous permettre d’enrichir nos enseignements par un accompagnement et une évaluation plus individuels à grande échelle. Mais nous allons avoir besoin de sens critique, de valeurs et d’esprits libres. En somme, de bon sens. (2). Par chance, l’IA constitue à la fois l’opportunité en or et l’aide idéale pour redécouvrir et développer l’esprit critique. Pourquoi s’en priver ?

(1) George Dyson, Turing’s Cathedral : The Origins of the Digital Universe, Penguin, 2012.

(2) Henri Bergson, “Le bon sens et les études classiques”, 1895.

Cette réflexion est parue dans la revue Esprit de l’ULB.