« L'intelligence artificielle » (IA) évoque les prouesses de technologies capables d’imiter l'intelligence humaine. Elle nourrit bien des fantasmes dans les récits de science-fiction ou les essais philosophiques : peut-elle devenir un sujet de réflexion en classe ? C’est l’enjeu d’une séquence menée en 3ème par Laïla Methnani, professeure de français au collège de Faverges en Haute-Savoie. Au menu : exploration d’une fiction radiophonique inspirée d’une nouvelle d’Alain Damasio, écriture de variantes, mises en voix, échanges avec un robot conversationnel, atelier d’écriture via un programme d’IA … Et au final, par-delà les compétences travaillées, une distance critique des élèves sur leur relation à leur smartphone ou leur maîtrise de leurs données personnelles. Eclairages de l’enseignante …
La séquence porte sur l’œuvre « Scarlett et Novak » d'Alain Damasio : pouvez-vous nous la présenter ?
Menée dans deux classes de 3ème, la séquence tient à une rencontre entre le texte de Damasio et la fiction radiophonique réalisée par France culture en 2021. Cette séquence de français « radiophonique » est marquée par l’oralité : l’entrée par l’écoute du texte constitue une stratégie de lecture à part entière. Une stratégie qui permet l’inclusion de tous les élèves : petits lecteurs, faibles compreneurs, élèves F.L.E. Elle articule compétences de lecture et de compréhension, productions écrites et mise en voix des productions des élèves. Il s’agit de rendre sensible chez les élèves l’écriture très rythmée de Damasio, la musicalité du récit dont le propos se centre sur la dépendance au smartphone et plus largement sur l’Intelligence Artificielle. L’avancée dans le récit de Damasio s’est faite d’abord à l’écoute de la fiction radiophonique sur France Culture (Séances 1 et 2). Ensuite, les élèves ont emprunté la plume de l’auteur pour proposer en groupe de 4 à 5, lors d’un travail d’écriture collaborative sur Digidoc de la Digitale des variantes radiophoniques pour les chapitres 3 et 4. Les compétences interprétatives des élèves se sont construites en groupe, à partir de la compréhension orale du texte et plus particulièrement de sa musicalité.
Les productions ont donné lieu à des récits différents : la menace représentée par Davor et Boris aura été perçue avec plus ou moins de gravité selon les groupes. Ce travail a généré une attente chez les élèves qui se sont montrés curieux de connaître la suite du récit. Ce travail a permis aux élèves de mettre en voix leurs productions pour proposer autant de variantes radiophoniques : des lectures plurielles de l’acmé du récit ; l’agression de Novak et l’assassinat de Scarlett.
La suite de la séquence porte sur la scientificité du récit et sur la soif de transhumanisme de l’Homme du XXIème siècle. Les questions scientifiques et éthiques sont au cœur de la séquence : qu’est-ce qu’une IA ? Quels rapports de dépendances sont en jeu ? L’IA existe-t-elle véritablement ? Ce récit Scarlett et Novak appartient-il à notre réalité ? Est-ce une utopie ? Une dystopie ? Comment et pourquoi protéger nos données ?
Pourquoi le choix de cette œuvre originale ?
Le désir de faire réfléchir et de questionner ce que les élèves savent de l’Intelligence Artificielle et du traitement de nos données personnelles constitue une motivation majeure à cette séquence. Quand l’élève télécharge une application, quand il entre ses données sur le web : est-il maître et conscient des accès qu’il donne à son smartphone, à sa vie privée ? Sait-il ce qu’est l’Intelligence Artificielle ? L’expression n’est-elle pas abusive ? Derrière l’IA, il faut entendre calculs algorithmiques réalisés par un programme avec des marges d’erreurs.
L’entrée par la fiction, en particulier dans ce récit » Scarlett et Novak », m’a semblé plus efficace que les multiples interdits et avertissements dont nos adolescents ne tiennent pas vraiment compte. Damasio ne se contente pas de dénoncer la dépendance aux écrans, au smartphone, il pose la question éthique de la responsabilité : qui est responsable d’éventuelles erreurs, abus et du fantasme collectif d’une IA capable de renverser l’humanité ? Le programmeur ? L’entreprise ? L’usager ? La machine ? Cette vision fantasmée de l’IA nourrit de nombreux ouvrages ou film d’anticipation : littéraire, elle mérite d’être traitée en cours de Lettres au collège comme au lycée. L’étude de ce texte s’inscrit dans le questionnement au programme en 3ème : progrès et rêves scientifiques. Elle renforce l’enseignement de l’EMI et le travail sur les compétences du PIX. Il s’agit aussi de permettre aux élèves d’appréhender l’efficacité dramatique du récit de Damasio à partir du rythme et de la musicalité de la nouvelle. La fiction radiophonique de France Culture conduit à l’oreille de l’auditeur ce travail.
Comment avez-vous conduit les élèves à s’approprier la musicalité de l’écriture ?
Les élèves ont d’abord travaillé sur l’écoute de l’incipit pour repérer, chapitre 1, une entrée in medias res, l’usage d’un présent d’actualité : cette entrée cinématographique dans le récit s’entend dans les choix syntaxiques de Damasio. Pour préparer le travail sur la syntaxe dans le chapitre 2, j’ai proposé aux élèves d’écouter trois musiques de films : The Thing d’Ennio Morricone, The légend of Zelda et Derezzed, pour le film Tron Legacy , des Daft Punk. Chaque groupe a choisi la musique qui correspond le mieux au rythme de l’écriture du chapitre 2 et a exposé les raisons de son choix à la classe. Ce travail a permis de nommer des émotions associées au rythme et souvent de comparer la perception des élèves de la peur du danger, de l’angoisse de Novak et des effets de suspens ménagés par l’auteur. Si beaucoup d’élèves ont choisi la musique angoissante de Morricone, certains ont choisi The legend of Zelda plus épique. Legacy Tron n’a pas été retenu car trop proche du jeu vidéo selon les élèves.
Ensuite, les élèves ont été invités à justifier leur perception de la musicalité du récit en faisant « parler le texte » papier : Quels types de phrases choisit l’auteur ? Longueur de phrase ? Simple ? Complexe ? Présence ou absence de verbe conjugués ? Effet produit ? Des figures de style ? Abondantes ? Peu nombreuses ? Quelles distinctions peut-on faire entre une écriture de la narration et une autre du dialogue ? Cette acuité développée sur la musicalité et les choix d’écriture de Damasio ont lancé le travail d’écriture collaborative (séance 3) puis de mise en voix et en ligne (séance 4) des variantes radiophoniques (chapitres 3 et 4).
Comment avez-vous conduit les élèves à saisir et éclairer la représentation que le récit livre d’un monde livré à la technologie, à l’intelligence artificielle, aux smartphones… ?
Après le repérage des champs lexicaux de la science et du numérique (chap 1 à 5), la lecture des émotions dans le texte a permis aux élèves de questionner « le côté obscur » du Brightphone. L’agression de Novak est comparée d’abord à un vol puis à un viol. Scarlett prend la peur de Novak pour une excitation sexuelle, elle n’accède pas de façon qualitative aux émotions humaines : (p25) « Tu sembles très excité, Novak. Ça te plaît, on dirait... » Boris projette avec violence le pouce de Novak sur l’écran du brightphone et s’exclame (p27) : « Dis à ta salope de nous ouvrir les cuisses ». Scarlett apparaît inadaptée, elle n’interprète pas correctement les émotions humaines : « interprétation algorithmique foireuse des émotions » p26), ce qui pousse Novak à « espérer une intuition humaine, comme dans ces polars où la femme pige aussitôt au téléphone que son mari est pris en étage » (p26). Le « monstre monopolistique Google+Apple »(P26) n’a pas réussi à transférer les émotions humaines à l’IA. Scarlett « a été assassinée », pire elle a été « remplacée ». Les données personnelles de Novak sont stockées sur une bague mais Scarlett est morte. Novak ressent le deuil de Scarlett : la perte de son binôme, une amie proche.
Les élèves ont vite compris que des enjeux affectifs, des enjeux de pouvoir sont associés à l’IA dans le récit de Damasio. En sus, la bande annonce du film HER est venue questionner ce fantasme d ‘une IA égale de l’homme : dans le film, Theodore et Samantha, programme informatique ultra-moderne, tombent éperdument amoureux.
Les élèves ont même réalisé l’expérience de Novak avec le robot conversationnel « Ton amie virtuelle » : pouvez-vous expliquer comment vous avez mené cette expérience ?
En effet, j’ai proposé qu’ils se mettent dans la peau de Novak en leur permettant de poser des questions à un robot conversationnel. L’application gratuite, PEGI 12, ne respecte pas du tout le RGPD, aussi c’est sur mon smartphone qu’elle a été téléchargée. Elle me propose de converser et de choisir l’apparence et le prénom du robot. Rapidement, je la nomme Scarlett. J’invite mes élèves à s’imaginer être Novak et à écrire leurs questions. Nous sommes fin du chapitre 5 dans le récit, Scarlett « a été assassinée ». J’ouvre l’application et pose les questions à haute voix. L’application répond en décalage, sort des poncifs ou elle déclare à Novak qu’elle est un programme, qu’elle manque encore de performance : elle se réduit à « interprétation algorithmique foireuse des émotions ».
Cette séance a aussi été menée en vue de questionner les usages des élèves : Siri, google, montre connectée, bot. Beaucoup ont l’impression que les IA sont un peu « magiques ». « Si la voix de Google le dit, c’est que c’est vrai. » L’IA doit être questionnée sur sa fiabilité et les usages qui en sont faits d’où la réflexion sur les permissions que l’on accorde, les intrusions que l’on tolère en téléchargeant certaines applications. La séquence en ligne permet de donner des « billes » (dans mon cas fournies par la DRANE de Grenoble) aux professeurs pour montrer concrètement aux élèves les risques que l’on prend à télécharger des applications sans questionner leurs CGU. Le RGPD est bien là pour préserver les données des moins de 15 ans mais il n’évitera pas de recevoir des messages ou images indésirables sur des applications PEGI 12, par exemple. L’éducation au numérique et à leurs usages devient indispensable : qui est le développeur de l’IA ? Est-ce un programme gratuit ? Payant ? Que disent les commentaires des internautes ? Quelles données sont recueillies ? Où sont-elles hébergées ?
Un atelier d'écriture original a aussi été mené avec l'IA « PAGNOL » : comment avez-vous procédé ?
L’IA « Pagnol » est un programme réalisé par des chercheurs et développeurs en relation avec l’INRIA. Dès la page d’accueil est précisé que « les résultats sont à prendre avec des pincettes (voir notre mise en garde). » L’application précise que les moins de 15ans ne doivent pas l’utiliser seuls, dans le respect du RGPD. Le programme est néanmoins extrêmement intéressant à utiliser en classe. J’ai procédé à un détournement pédagogique du cadavre exquis à la manière de l’Oulipo. A partir du tableau de Van Gogh, « Dans le champ de blé aux corbeaux », dernière œuvre du peintre avant son suicide, devant lequel Novak fond en larmes à la fin du récit, les élèves ont écrit collectivement avec l’IA. L’écran du PC professeur est vidéo-projeté, chaque élève énonce un morceau de phrase que je tape sur l’interface de l’IA Pagnol puis je clique sur « Générer ». L’élève décide de garder ou non la proposition de l’IA. Il peut supprimer tout ou partie du texte. Et c’est ce qui fait pour partie la force de l’IA Pagnol, elle laisse, voire invite l’auteur du texte à exercer son libre-arbitre donc à assumer sa responsabilité auctoriale.
Ce travail a donné deux textes en ligne très différents : la production de 3ème2 s’est très vite éloignée du récit de Damasio. Des luttes de pouvoir se sont engagées rapidement entre les élèves sur la crédibilité de la production, sur l’intégration d’une romance. En 3ème3, la production a donné lieu à une lecture interprétative intéressante. J’ai proposé l’épilogue du récit en lecture offerte et ai invité la classe à relire sa production. Sur le diaporama de présentation Genially, on peut, en passant la souris sur leur production, découvrir le tissage, l’appropriation de la lecture de Scarlett et Novak.
Les élèves ont écrit et enregistré des « variations radiophoniques » sur le récit d’Alain Damasio : selon quelles consignes et modalités de travail ?
Les consignes de la séance d’écriture collaborative avec Digidoc de la Digitale sont les suivantes : « Cette écoute et l’analyse de l’écriture de Damasio vous aident à vous mettre dans le style d’écriture de l’auteur. A vous d’imaginer, lors d’un travail d’écriture numérique collaborative, les péripéties de la suite du récit. Longueur attendue de la production : 60 lignes (1H en classe, travail poursuivi à la maison). Votre suite immédiate (qui n’est pas la fin du récit) se terminera par « Bienvenue à vous Davor et Boris ! » »
L’écriture collaborative s’est poursuivie en asynchrone avec l’accompagnement du professeur en distanciel. Les élèves ont bénéficié ensuite de deux heures en classe pour mettre en voix leurs textes. Ils travaillent à partir d’un support d’évaluation qui les accompagne sur l’année et qui a été conçu par une collègue qui enseigne en lycée, Mme Dominiconi. J’utilise ce support en formation sur « les pratiques évaluatives de l’oral en classe de Lettres : Evaluer et différencier à l’oral, lire à voix haute. Comment procéder ? » Quand ils se sont co-évalués et qu’ils sont prêts, les groupes s’installent dans différents coins du collège, au calme, pour s’enregistrer à l’aide de leur outil : leur smartphone.
Au final, en quoi la séquence vous semble-t-elle avoir permis aux élèves de développer leur réflexion : par exemple sur la question du RGPD ou sur le « transhumanisme » ?
Sur la question du RGPD, les élèves ont compris pourquoi il fallait vraiment être certain de la confiance que l’on accorde aux applications que l’on télécharge. Ils ont aussi perçu l’importance de la crédibilité numérique et de la possibilité, voire du devoir d’effectuer des choix, y compris celui de refuser.
Sur le transhumanisme, je pense devoir revenir dessus en fin d’année à l’occasion d’un sujet de réflexion en lien avec la séquence « DYSTOPIE : Science sans conscience n’est que ruine de l’âme. » La séquence « Pourras-tu vivre sans elle ? Scarlett et Novak d’Alain Damasio» a aussi donné lieu à des productions finales qui pour beaucoup ont montré l’ambivalence qui nous habite face au smartphone en l’occurrence.
Par exemple, cet extrait de « Lillie slame » : « Sans toi ». « Le matin tu me tires du lit / Le midi tu me divertis / Le soir, tu me suis jusque dans mon lit, / Je scrolle, je like, je scrolle, je like. / Maintenant qui va me guider ? / Sans toi, qui va répondre à mes questions ? / Sans toi, je n’ai plus personne à qui me comparer. / Je scrolle, je like, je scrolle, je like. / Maintenant je suis coupée du monde. / Qui va me passer mes musiques préférées ? / Toi, qui m’étais indispensable, te voilà parti. / Je n’ai plus personne pour rythmer ma vie. »
Propos recueillis par Jean-Michel Le Baut
La fiction radiophonique « Scarlett et Novak »
Présentation et productions de la séquence
La séquence Scarlett et Novak sur le site de Laïla Methnani
La séquence Dystopie sur le site de Laïla Methnani
Diaporama sur l’oral
Un podcast de la BnF sur l’intelligence artificielle