Alors que l’intelligence artificielle (IA) est partout dans notre vie, même lorsque nous ne nous en rendons pas compte, cette forme de technologie pousse les enseignants à adapter leur cours face à leurs élèves qui sont plus connectés que jamais. Une pratique qui soulève une pléthore d’enjeux éthiques sur lesquels trois panélistes se sont penchés le vendredi 21 octobre lors de la conférence Éthique dans l’enseignement de l’IA.
Animée par Jean-Daniel Doucet, vulgarisateur scientifique, et Marie-Paule Jeansonne, présidente-directrice générale du Forum IA Québec, la conférence a rassemblé trois experts en éthique et en enseignement afin de réfléchir à ces questions éthiques. Il s’agit du dernier grand panel du congrès Pour des citoyens éthiques à l’ère de l’IA, organisé par l’AESTQ, au Centrexpo Cogeco Drummondville.
Enseigner à l’heure de l’intelligence artificielle
Comment parler d’intelligence artificielle éthique en classe, alors que les programmes d’étude sont déjà très chargés? « C’est difficile, c’est un des gros enjeux en science et technologie, » se désole Alexandre Chenette, enseignant d’éthique et de philosophie. « Il faut se souvenir que l’essentiel, c’est le développement des compétences plutôt que de cocher une checklist du PDA [plan des apprentissages] », ajoute l’enseignant qui est également conseiller au Réseau Éducation Collaboration Innovation Technologie (RÉCIT).
L’une des manières d’aborder ces thématiques est en joignant les forces et les planifications de cours de différentes matières. Andréanne Sabourin-Laflamme, professeure de philosophie et d’éthique de l’IA au Cégep André-Laurendeau, estime que cette interdisciplinarité « est l’une des approches les plus prometteuses pour intégrer l’éthique et l’IA directement dans la formation. Quand c’est possible, c’est vraiment très riche. »
Comme abordée lors du panel L’éducation et intelligence artificielle du jeudi 20 octobre, l’IA peut être un outil pour alléger la charge de travail des professeurs, en prédisant entre autres le potentiel décrochage scolaire d’un élève. Cependant, Antoine Boudreau LeBlanc, coordonnateur de l’axe Éthique, gouvernance et démocratie à l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA), rappelle l’importance de l’humain derrière ces prédictions : « L’IA doit servir à certaines choses, mais dans d’autres cas, c’est un peu plus délicat. […] L’IA peut aider à cibler des difficultés, mais peut-être pas en faire l’annonce [à l’élève]. »
Biais cognitifs, risques et IA
Le danger est que l’élève et l’enseignant tombent dans l’effet Pygmalion, aussi appelé la prophétie autoréalisatrice. « Si on te dit que quelque chose va se passer, il y a de bonnes chances que cette prédiction va se réaliser. C’est donc un gros enjeu éthique de révéler ces prévisions. […] Même avec la volonté de ne pas avoir ces biais-là, ça demeure très puissant de les avoir à l’esprit », précise Alexandre Chenette.
Andréanne Sabourin-Laflamme note elle aussi l’autonomie dont les enseignants doivent faire preuve lors de leur utilisation de l’IA et la force des biais cognitifs. Elle insiste sur le biais d’automatisation. Ce raccourci mental pousse l’humain à faire « davantage confiance spontanément à la conclusion d’une machine au lieu de notre propre jugement. Il faut être conscient de ça », affirme-t-elle.
En tant que professeur, il faut toujours garder en tête que l’objectif de ces machines-là, si nous les utilisons dans nos pratiques pédagogiques, n’est pas de remplacer notre jugement professionnel, mais de venir le complémenter.
– Andréanne Sabourin-Laflamme, professeure de philosophie et d’éthique de l’IA au Cégep André-Laurendeau
Devant la puissance de ces raccourcis mentaux, « comment apprendre à reconnaître nos biais cognitifs », demande l’animateur Jean-Daniel Doucet. Selon Antoine Boudreau LeBlanc, le pire biais cognitif qui soit est celui de croire avoir le contrôle de l’entièreté de nos biais cognitifs. M. Boudreau LeBlanc, qui est également écologiste de formation, suggère d’encourager la pensée critique et la réflexivité afin de tenter d’aller au-delà de nos raccourcis mentaux. Un exercice constant qui demande beaucoup d’humilité.
Les panélistes listent différentes ressources aidant à prendre conscience de ces biais, comme l’ouvrage Petit cours d’autodéfense intellectuelle de Normand Baillargeon et l’encyclopédie virtuelle RACCOURCIS.
Pour voir toute l’actualité sur l’événement, cliquez ici.
Crédit Image à la Une : Alexandre Guay
