Biais, limites et usages responsables de l'IA : fiche de 2de

Tu connais maintenant le principe de l'apprentissage automatique et tu as vu ce que produisent les IA génératives. Reste une question : peut-on leur faire confiance les yeux fermés ? Non. L'école elle-même veut que les élèves comme les enseignants apprennent à se servir de ces outils de façon raisonnée ¹.

Ces technologies changent déjà la façon d'apprendre, de préparer un cours et d'évaluer, et elles peuvent même bousculer certains principes de base de l'École ². Les enjeux éthiques de l'IA touchent de nombreux domaines, par exemple les données personnelles, les décisions prises par un algorithme, la façon dont l'information circule, ou encore l'écologie ¹.

Pourquoi une machine serait-elle partiale ? Parce qu'elle apprend à partir d'exemples. Si les jeux de données contiennent des discriminations ou des stéréotypes, le modèle les reproduit et les prolonge ¹. Éduscol insiste d'ailleurs pour que les élèves découvrent ces biais et les discriminations liées aux données ¹.

Une IA générative peut produire une réponse bien rédigée, sûre d'elle, et pourtant fausse. On parle de fabulations. Pour s'en protéger, il faut encourager un regard critique sur les réponses, et former les élèves à ces usages afin d'éviter biais et fabulations ⁴.

Quand tu écris dans un outil d'IA, tu lui confies des informations. C'est pourquoi l'utilisation de l'IA à l'école s'appuie sur un cadre d'usage éthique et juridique, qui garantit la protection des données et un usage responsable ². Le cadre d'usage publié par le ministère fait d'ailleurs le point sur les potentialités, les risques et les limites de l'IA ³.

L'IA a un coût pour l'environnement. Pour le limiter, on privilégie un usage frugal : l'IA ne doit être employée que si aucune autre solution, moins coûteuse sur le plan écologique, ne répond correctement au besoin ². Cette réflexion s'inscrit dans l'éducation au développement durable et dans la stratégie nationale bas-carbone ².