Biais, limites et usages responsables de l'IA : cours de 2de

Tu as déjà vu ce qu'est une intelligence artificielle, comment elle apprend à partir d'exemples, et comment une IA générative produit du texte ou des images. Il reste une question de fond : peut-on lui faire confiance, et à quelles conditions ? Une IA n'est ni magique ni neutre. Elle est construite par des humains, nourrie par des données choisies par des humains, et utilisée par des humains. Chacune de ces étapes peut introduire des défauts.

Ce cours répond à trois questions :

• d'où viennent les biais d'une IA et quelles en sont les conséquences ;
• quelles sont ses limites, c'est-à-dire ce qu'elle ne sait pas faire ou fait mal ;
• comment l'utiliser de façon responsable, pour toi comme élève et comme citoyen.

L'école s'empare de ces sujets. Les enjeux éthiques de l'IA conduisent à sensibiliser et à former les élèves comme les enseignants à un usage raisonné des outils d'apprentissage automatique, notamment en leur faisant découvrir les biais algorithmiques et les discriminations qui naissent des jeux de données ¹. Autrement dit, apprendre à se servir d'une IA, c'est aussi apprendre à la questionner.

Pour comprendre un biais, repars du principe de l'apprentissage automatique : le programme n'est pas écrit règle par règle. Il repère des régularités dans de grands ensembles d'exemples, puis les reproduit sur de nouveaux cas. Sa « culture » est donc exactement celle de ses exemples.

Les biais naissent en général à trois endroits.

1. Des données déséquilibrées. Imagine un système de reconnaissance de visages entraîné avec 90 % de visages d'un même type. Il verra très peu d'exemples des autres et fera donc plus d'erreurs sur eux. Rien n'a été « voulu » : le déséquilibre suffit.

2. Des données chargées de stéréotypes. Si les exemples reflètent des habitudes injustes du passé, l'IA les apprend comme des règles. Imagine un outil de tri de candidatures entraîné sur d'anciens recrutements où certains profils ont été systématiquement écartés : il apprendra à les écarter à son tour. L'IA ne corrige pas le passé, elle le prolonge. C'est précisément ce que visent les formations quand elles parlent de stéréotypes perpétués par les jeux de données ¹.

3. Des choix de conception. Qui décide de ce que le système doit optimiser, des exemples à garder, de ce qu'on mesure comme « réussite » ? Ces décisions sont humaines et peuvent, sans malveillance, avantager un groupe.

Un biais se repère souvent avec des proportions simples. Deux calculs suffisent pour commencer.

Au-delà des biais, une IA a des limites. La première est qu'elle peut se tromper avec assurance. Une IA générative produit des réponses qui paraissent fluides et sûres d'elles, même quand leur contenu est faux. Les formations au numérique insistent sur ce point : il faut encourager un regard critique sur les réponses et former les élèves aux usages pour éviter les biais et les fabulations ⁴.

Pourquoi cela arrive-t-il ? Un modèle de langage est entraîné à produire une suite de mots vraisemblable, pas à vérifier que chaque affirmation est vraie. Quand il manque d'information, il peut compléter avec ce qui « sonne juste ». Ce mécanisme explique que le ton soit aussi convaincant pour une réponse exacte que pour une réponse inventée : le ton n'est donc jamais une preuve.

Voici d'autres limites à connaître, que tu peux déduire de ce que tu sais du fonctionnement de ces outils :

• Pas de compréhension comme un humain : le système manipule des régularités statistiques, sans vécu ni intention.
• Dépendance aux exemples : hors de ce qu'il a rencontré, ses résultats deviennent fragiles.
• Pas de responsabilité : une machine ne répond pas de ses erreurs devant la loi ou devant les personnes concernées. Ce sont les humains qui l'utilisent qui en répondent.
• Information à vérifier : la communication de l'information fait partie des domaines où l'IA pose des questions éthiques ¹.

Utiliser une IA de façon responsable, ce n'est pas s'en passer, c'est savoir ce qu'on peut faire, ce qu'on doit éviter et ce qu'on doit déclarer. Le ministère de l'Éducation nationale a publié un cadre d'usage de l'IA en éducation qui présente les potentialités, mais aussi les risques et les limites de ces usages ³. L'utilisation de l'IA en classe s'appuie sur ce cadre éthique et juridique, qui garantit la protection des données et un usage responsable ².

Ces technologies changent l'apprentissage, la préparation des cours et l'évaluation, et peuvent même interroger certains principes fondamentaux de l'École ². C'est pourquoi les règles comptent : sans elles, l'outil pourrait servir à contourner l'effort d'apprendre plutôt qu'à le soutenir.

Protéger les données personnelles. Les données personnelles figurent parmi les grands domaines d'enjeux de l'IA ¹. Concrètement, ce que tu écris dans un outil d'IA peut être conservé et traité. Ce qui t'identifie ou concerne d'autres personnes doit donc rester hors des échanges : nom complet, adresse, numéro de téléphone, photos de proches, résultats scolaires nominatifs, mots de passe.

Rester honnête dans ton travail. Un usage responsable, c'est aussi dire quand tu t'es aidé d'une IA et ne pas rendre comme personnel un texte que tu n'as pas écrit. L'IA peut t'aider à comprendre, à reformuler, à t'entraîner ; elle ne peut pas apprendre à ta place.

L'écologie est un des domaines d'enjeux éthiques de l'IA ¹. Une réponse qui s'affiche en quelques secondes dissimule un travail matériel : des serveurs, des centres de calcul, de l'électricité, du refroidissement. Plus on multiplie les requêtes, plus la consommation grimpe, même si tu ne la vois pas sur ton écran.

Cette règle se traduit en gestes simples :

• avant de lancer une requête, te demander si une recherche classique, ton cours, un dictionnaire ou un calcul à la main suffit ;
• regrouper tes questions plutôt que d'enchaîner des dizaines de demandes vagues ;
• formuler un message précis pour éviter de refaire la demande dix fois ;
• ne pas utiliser l'IA pour un simple amusement répété à l'infini.

Les ressources officielles de l'Éducation nationale aident à saisir comment fonctionnent les IA génératives, à en mesurer les atouts comme les faiblesses, et à s'en servir en restant dans le cadre d'usage prévu ². Voici comment relier tout le cours.