Une enseignante utilise ChatGPT pour vieillir une fillette de 6 ans : les limites de l'IA à l'école

Une activité scolaire qui semblait anodine a déclenché un débat sur la confidentialité des données, le consentement des parents et la place de l'intelligence artificielle dans l'éducation. Aux États-Unis, une fillette de 6 ans est rentrée de l'école avec une image générée par IA la représentant à 25 ans. Sa mère n'avait jamais été informée de cette utilisation de sa photographie.

Une fillette de 6 ans découvre son futur visage grâce à ChatGPT

L'histoire se déroule en Caroline du Sud, aux États-Unis. Harper, une fillette de 6 ans, participe avec ses camarades à une activité scolaire consacrée aux métiers. Les enfants doivent imaginer ce qu'ils aimeraient faire lorsqu'ils seront adultes. Harper choisit un métier : infirmière.

Comme beaucoup d'enfants de son âge, elle donne forme à son idée avec les moyens dont elle dispose. Elle réalise un portrait en papier cartonné, dessine son personnage et imagine à quoi pourrait ressembler sa vie professionnelle dans quelques années.

Mais l'exercice ne s'arrête pas à cette création manuelle. Une enseignante décide également d'utiliser l'intelligence artificielle pour produire une représentation de chaque élève dans son futur métier. À partir d'une photographie de Harper, un outil d'IA génère le portrait d'une jeune femme de 25 ans, vêtue d'une tenue d'infirmière.

Lorsque Harper rentre chez elle, elle présente fièrement cette image à ses parents. La fillette apprécie particulièrement les longs cheveux de la jeune femme représentée. Elle explique même qu'elle espère être aussi belle lorsqu'elle sera adulte.

Pour l'enfant, l'expérience est enthousiasmante. Pour sa mère, Nikki Anderson, la découverte est beaucoup moins réjouissante. Elle comprend que la photographie de sa fille a été utilisée dans un outil d'intelligence artificielle, sans qu'elle ait été préalablement informée de cette opération.

Le problème ne réside donc pas uniquement dans le résultat visuel. Il concerne surtout la manière dont l'image d'une enfant a été collectée, transmise et transformée.

La réaction de la mère : qui a autorisé l'utilisation de cette photographie ?

Nikki Anderson explique avoir signé un formulaire autorisant l'école à utiliser certaines photographies et créations de sa fille dans le cadre de sa communication. Cependant, selon son témoignage rapporté par USA Today, ce document ne mentionnait pas le recours à l'intelligence artificielle.

Cette distinction est fondamentale. Autoriser un établissement scolaire à prendre ou à publier une photographie ne signifie pas nécessairement autoriser son transfert vers un service d'IA externe afin de générer une nouvelle représentation de l'enfant.

La mère s'est alors posé plusieurs questions très concrètes :

• Quelle plateforme a reçu la photographie de sa fille ?
• Quelles données ont été transmises au service d'intelligence artificielle ?
• Combien de temps ces informations ont-elles été conservées ?
• Qui pouvait accéder à l'image générée et aux données utilisées pour la produire ?
• Les parents avaient-ils réellement donné leur accord pour ce traitement particulier ?

Ces interrogations ont dépassé le cadre de cette famille. En partageant son expérience sur les réseaux sociaux, Nikki Anderson a déclenché une discussion beaucoup plus large sur la manière dont les établissements scolaires adoptent les outils d'IA.

Son témoignage a rapidement circulé et a recueilli plus de 750 000 mentions « J'aime » selon les reprises médiatiques de sa publication. Des parents ont exprimé leurs propres inquiétudes concernant les photographies, les dessins et les informations personnelles de leurs enfants utilisés avec des outils génératifs.

Une image générée par IA peut-elle influencer la perception qu'un enfant a de lui-même ?

La question de la confidentialité n'est pas la seule dimension de cette affaire. La réaction de Harper a également interpellé sa mère.

La fillette avait déjà imaginé son avenir et créé son propre portrait. Pourtant, c'est l'image produite par l'intelligence artificielle qui a particulièrement retenu son attention. Elle semblait davantage préoccupée par l'apparence de la jeune femme représentée que par le métier qu'elle était censée exercer.

Il ne faut pas en déduire qu'une seule image suffit à déterminer l'estime de soi d'un enfant. Ce serait exagéré. Mais l'épisode soulève une question intéressante : que comprend un enfant de six ans lorsqu'une machine lui présente une version de son futur visage comme si elle était une projection crédible de ce qu'il pourrait devenir ?

Une image générée par IA n'est pas une prédiction. Elle ne connaît pas le visage que Harper aura à 25 ans, ses choix personnels, son évolution ou les événements qui façonneront sa vie. Elle produit une représentation plausible à partir des données et des instructions qui lui sont fournies.

Or, un jeune enfant ne possède pas nécessairement les repères nécessaires pour distinguer une création algorithmique d'une représentation réaliste de son avenir. Une image très soignée peut donner l'impression qu'elle est plus juste ou plus légitime qu'un dessin réalisé avec ses propres mains.

Le risque éducatif n'est donc pas simplement que l'enfant utilise une technologie nouvelle. C'est aussi qu'il accorde à cette technologie une autorité qu'elle ne possède pas.

Le portrait aurait pu être présenté comme une illustration fictive, parmi des dizaines de possibilités. Mais sans explication adaptée à son âge, l'enfant peut facilement lui attribuer une signification beaucoup plus forte.

Le véritable problème : l'utilisation de données personnelles sans cadre suffisamment clair

Pour comprendre la gravité potentielle de cette situation, il faut distinguer deux opérations. La première consiste à photographier un élève dans le cadre d'une activité scolaire. La seconde consiste à transmettre cette photographie à un service numérique pour qu'il la traite et produise une nouvelle image.

Dans le deuxième cas, l'établissement doit se poser des questions supplémentaires : quel service est utilisé, quelles données sont envoyées, quelles conditions s'appliquent et quelles garanties existent concernant leur conservation ?

Une photographie du visage constitue une donnée personnelle lorsqu'elle permet d'identifier une personne. Selon les circonstances et les technologies utilisées, le traitement peut également soulever des questions particulières relatives aux données biométriques. Il ne faut toutefois pas confondre automatiquement toute génération d'image à partir d'une photographie avec un système d'identification biométrique.

Le fait qu'un service soit accessible en quelques secondes ne signifie pas que son utilisation est appropriée dans tous les contextes. Les enseignants, les écoles et les organisations doivent connaître les conditions d'utilisation des outils auxquels ils confient des informations concernant des mineurs.

Il est notamment important de vérifier :

• si le service est approuvé par l'établissement ;
• si les comptes personnels sont autorisés pour les activités scolaires ;
• si les données des élèves peuvent être envoyées à un prestataire externe ;
• si les informations transmises peuvent être conservées ou utilisées à d'autres fins ;
• si une procédure de suppression des contenus et des données existe ;
• si les parents ont reçu une information compréhensible et donné les autorisations nécessaires.

Il est également essentiel de ne pas promettre une suppression totale simplement parce qu'une image a été effacée d'une interface ou d'un dossier partagé. La suppression visible d'un fichier et l'effacement de toutes ses éventuelles copies techniques sont deux questions différentes. Les garanties exactes dépendent du service, de ses paramètres et de ses politiques de conservation.

ChatGPT utilisé depuis un compte personnel : ce que l'école a reconnu

Après avoir reçu les questions de la mère, l'établissement a été amené à expliquer le déroulement de l'activité. Selon les informations rapportées par The Washington Post, le district scolaire du comté de Charleston a indiqué qu'une enseignante avait utilisé un compte personnel ChatGPT Plus pour générer les images des élèves dans les métiers qu'ils avaient choisis.

Le responsable scolaire cité par le journal a précisé que l'utilisation d'un compte personnel d'intelligence artificielle n'était pas conforme aux attentes du district. L'établissement a ensuite indiqué que les photographies et les images générées avaient été supprimées de ChatGPT et d'un dossier Google Drive.

Le district a également annoncé la préparation d'une formation destinée aux enseignants sur l'utilisation responsable de l'intelligence artificielle, la confidentialité des informations des élèves, les outils autorisés et les bonnes pratiques pédagogiques.

Ces mesures montrent qu'un établissement ne peut pas simplement laisser chaque enseignant décider individuellement de la manière dont il utilise les outils d'IA avec les données des élèves. Des règles communes sont nécessaires.

Il faut néanmoins conserver une nuance importante : les informations publiées ne démontrent pas que les données de Harper ont été exploitées à des fins commerciales ou utilisées par des tiers. Elles ne permettent pas non plus de conclure à une utilisation malveillante de la part de l'enseignante. Le problème documenté concerne l'absence d'information préalable suffisante, l'utilisation d'un compte personnel et les questions encore soulevées sur la gestion des données.

L'intelligence artificielle à l'école : une technologie utile, mais pas à n'importe quel prix

Cette affaire ne signifie pas que l'intelligence artificielle doit être bannie des établissements scolaires. Elle peut apporter une réelle valeur lorsqu'elle est utilisée avec un objectif pédagogique clair.

Un enseignant peut, par exemple, s'en servir pour préparer des exercices adaptés à différents niveaux, expliquer un concept complexe de plusieurs façons, créer des supports de révision ou proposer des activités interactives. Elle peut également aider les équipes pédagogiques à organiser certaines tâches et à gagner du temps.

Mais il existe une différence entre utiliser une technologie pour soutenir l'apprentissage et l'introduire dans une activité sans bénéfice pédagogique clairement identifié.

Dans le cas de Harper, l'enfant avait déjà réalisé le travail demandé : elle avait choisi un métier et créé une représentation de son avenir. L'image générée par IA n'était pas indispensable à la compréhension de la leçon. Elle ajoutait surtout un résultat visuel spectaculaire.

Cette distinction devrait guider les décisions des établissements. Avant d'utiliser un outil, il faut se demander ce qu'il apporte réellement à l'élève. Permet-il de mieux comprendre, de pratiquer, d'expérimenter ou de développer une compétence ? Ou remplace-t-il simplement une activité que l'enfant pouvait réaliser lui-même ?

L'IA peut accompagner la créativité. Elle ne devrait pas automatiquement se substituer à elle.

Sept précautions à prendre avant d'utiliser une IA avec les données des élèves

Les établissements scolaires, les enseignants et les organismes qui travaillent avec des enfants peuvent tirer plusieurs enseignements de cette histoire. Une utilisation responsable de l'intelligence artificielle commence par des règles concrètes.

1. Définir les usages autorisés : l'école doit préciser les activités pour lesquelles les outils d'IA peuvent être utilisés, ainsi que les usages interdits.
2. Éviter les comptes personnels : les activités scolaires doivent s'appuyer sur des solutions validées par l'établissement et configurées selon ses exigences de sécurité.
3. Informer les parents : ils doivent comprendre quelles informations peuvent être traitées, dans quel objectif et par quel prestataire.
4. Limiter les données transmises : il faut éviter d'envoyer des photographies, noms, coordonnées ou autres informations identifiantes lorsqu'ils ne sont pas indispensables.
5. Vérifier les conditions du service : les règles de conservation, de partage, de réutilisation et de suppression doivent être examinées avant tout usage.
6. Former les enseignants : connaître les fonctionnalités d'un outil ne suffit pas. Il faut également comprendre ses limites, ses risques et les responsabilités liées à son utilisation.
7. Maintenir un contrôle humain : l'enseignant doit rester responsable de l'activité et vérifier que l'outil sert réellement les objectifs éducatifs.

Ces précautions ne concernent pas uniquement les écoles américaines. Elles sont pertinentes pour tous les établissements, centres de formation et organisations qui commencent à intégrer des outils d'intelligence artificielle dans leurs activités.

Une dernière ironie : l'IA présente aux enfants des métiers qu'elle pourrait transformer

Cette histoire comporte une autre dimension qui mérite réflexion. À six ans, Harper imagine devenir infirmière. Son école utilise une intelligence artificielle pour lui montrer une version adulte de ce futur professionnel.

Pourtant, les métiers que les enfants découvrent aujourd'hui évoluent déjà sous l'effet de l'automatisation et de l'intelligence artificielle. Certains outils peuvent assister les professionnels de santé dans l'analyse d'informations, la documentation, la gestion administrative ou l'aide à la décision.

Cela ne signifie pas que l'IA va simplement remplacer les infirmières. Les soins reposent aussi sur la présence humaine, l'écoute, le jugement professionnel, la responsabilité et la relation avec les patients. Mais les compétences attendues dans de nombreux métiers sont en train de changer.

Il existe donc une forme d'ironie : une technologie est utilisée pour présenter aux enfants leur futur professionnel, alors que cette même technologie contribue déjà à transformer le monde du travail dans lequel ils évolueront.

La réponse ne consiste pas à faire peur aux enfants ou à leur annoncer que les machines vont prendre toutes les places. Elle consiste plutôt à leur apprendre à comprendre les outils, à développer leur esprit critique, à préserver leur créativité et à savoir travailler avec les technologies sans leur abandonner toutes leurs décisions.

Au fond, la question n'est pas de savoir si l'intelligence artificielle doit entrer à l'école. Elle est déjà présente dans de nombreux environnements éducatifs. La vraie question est de savoir qui décide de son utilisation, dans quel objectif et avec quelles protections.

Conclusion : apprendre à utiliser l'IA, c'est aussi apprendre à connaître ses limites

L'affaire Harper rappelle qu'une utilisation de l'intelligence artificielle peut sembler amusante et bien intentionnée tout en soulevant des questions importantes. Une image générée en quelques secondes peut impliquer le transfert de données personnelles, influencer la perception d'un enfant et engager la responsabilité d'un établissement.

La technologie n'est ni automatiquement bénéfique ni automatiquement dangereuse. Tout dépend de la manière dont elle est conçue, choisie, configurée et utilisée.

Pour les entreprises comme pour les écoles, adopter l'IA ne consiste donc pas simplement à ouvrir un compte sur ChatGPT ou à tester le dernier outil à la mode. Il faut comprendre les données que l'on transmet, les risques que l'on accepte, les résultats que l'on attend et les limites que l'on doit fixer.

Chez NERIX, nous suivons ces évolutions pour aider les organisations à comprendre les usages concrets de l'intelligence artificielle, des applications et des automatisations. L'objectif n'est pas d'intégrer l'IA partout, mais de construire des solutions numériques utiles, cohérentes et maîtrisées.

Vous souhaitez comprendre comment l'intelligence artificielle peut être utilisée dans votre activité ? Échangez avec NERIX lors d'un rendez-vous ou contactez notre équipe.