L’IA et le mythe d’une machine magique et neutre – Carte Blanche à Pauline Ferrari – 4 octobre 2025

En parallèle de mon activité de journaliste, je donne des cours. Depuis presque quatre ans, je prends le train à l’aube pour aller enseigner les enjeux du numérique auprès d’un public étudiant. Cela fait quelques années que, du côté des professeur·es, le niveau des étudiant·es en écriture et en argumentation inquiète. On est en plein dans la panique morale d’une jeunesse collée à son smartphone, incapable d’aligner deux mots – alors même qu’ils sont dans un parcours d’études supérieures.

Mais, surtout, il y a le spectre de ChatGPT. Le chatbot conversationnel d’OpenAI s’est fait doucement une place dans la vie et les cœurs de mes étudiant.es. Il les rassure sur les questions qu’ils se posent, rédige leurs e-mails et facilite leurs recherches. C’est devenu un automatisme que de le questionner, à la manière d’un oracle.

Pourtant, on le sait désormais : ChatGPT n’est pas devin. C’est un programme informatique – complexe, certes, mais qui répond en probabilités aux questions qui lui sont posées. C’est aussi un système qui s’appuie sur toutes les ressources disponibles sur Internet, les sites d’information comme les blogs conspirationnistes. Mais c’est aussi une infrastructure informatique qui a ses biais sexistes, racistes, LGBTphobes.

Comprendre comment nos outils fonctionnent, c’est reprendre le pouvoir sur eux.

Alors je leur demande, à mes étudiant·es, qu’est-ce que c’est, ChatGPT ? Comment est-ce que ça fonctionne ? Quelles données utilise-t-il ? Grand silence dans la salle. Certain·es regardent leurs pieds, d’autres ne lèvent même pas leurs yeux de leurs téléphones portables. Jusqu’à ce qu’une élève soupire : « Je sais pas comment ça marche, et je m’en fous. Tant que ça fonctionne. » Les autres ont acquiescé. Et moi je me suis décomposée.

À ce moment-là, tout s’est joué très vite dans ma tête. Pauline, ne sois pas une vieille conne qui ne vit pas avec son temps. Ne reproduis pas les regards méfiants de tes profs qui étaient persuadés que Wikipédia n’était qu’un outil de triche. Mais ce n’était pas de ça qu’il était question, selon moi. J’avais de la peine à constater que pour l’IA, comme pour d’autres objets technologiques, nous avions collectivement renoncé à comprendre son fonctionnement.

Tant qu’ils répondent à nos demandes, instantanément, on s’en fout, non ? Ce n’est pas la faute de mes étudiant·es : c’est le système techno-capitaliste qui a construit cette croyance, cet écran de fumée qui participe aux richesses des multinationales. Ils et elles vivent dans un monde où il faut aller toujours plus vite, et être toujours plus performant·e.

Comprendre comment nos outils fonctionnent, je leur ai dit, à mes étudiant·es, c’est reprendre le pouvoir sur eux. C’est pouvoir les utiliser de manière éthique, les transformer, les réparer, aussi. C’est ne pas changer de téléphone tous les deux ans ou bien ne pas croire sans recul tout ce que ChatGPT nous dit. C’est briser le mythe d’une machine magique, neutre et objective, contre qui nous ne pourrions rien.

Alors, on a essayé des prompts, on a fait des recherches, on a comparé les réponses de ChatGPT pour essayer d’en tracer les contours. On a ri du manque de créativité de l’IA, de ses fausses réponses – on appelle ça des « hallucinations ». Je trouve ça plutôt beau : halluciner, c’est vouloir tellement croire à quelque chose qu’on se ment à soi-même. La cloche a sonné, mes étudiant·es ont quitté la salle, et on n’a plus jamais reparlé de ChatGPT. Secrètement, j’espère que, désormais, aucun·e ne s’en fout vraiment.