L’IA préoccupe les éthiciens du gouvernement

Signe que ces sujets sont dans l’air du temps, la Commission de l’éthique en science et en technologie (CEST) dédie tous ses projets de recherche en 2021 à l’intelligence artificielle (IA) et aux données. L’organisme qui conseille le gouvernement en ce qui a trait aux nouvelles tendances scientifiques a cinq mandats en cours dans le domaine du numérique.

« Dans le passé, il est arrivé que nous nous soyons penchés sur des enjeux plutôt liés aux sciences du vivant et à la bioéthique. Cependant, les présentes avancées en IA et le fait qu’il y ait une filière que l’on veut exploiter au Québec nous poussent à aborder ces problématiques », explique Jocelyn Maclure, président de la CEST et professeur titulaire à la Faculté de philosophie de l’Université Laval.

La commission conseille en premier lieu le Ministère de l’Économie et de l’Innovation, mais aussi d’autres ministères et décideurs publics. L’engouement pour l’IA exige de soupeser les gains et les risques connexes à cette technologie, croit M. Maclure.

Que ce soit l’IA dans le milieu de la santé, ses impacts environnementaux ou encore la transformation du monde du travail, la CEST souhaite analyser ces questions, afin que l’État puisse les encadrer adéquatement.

« On sait qu’il y a des valeurs morales que l’on veut collectivement promouvoir; elles ont été examinées dans la Déclaration de Montréal pour un développement responsable de l’IA par exemple. Cependant, jusqu’à maintenant, nous n’avons pas de règles juridiques ou de standards qui ont été instaurés à ce propos spécifique » – Jocelyn Maclure, président de la CEST.

Jocelyn Maclure, président de la CEST. Crédit photo: gracieuseté CEST

Si la question de la protection des renseignements personnels est en voie d’être normalisée par la création de deux lois, soit la C-11 au fédéral et le PL64 au provincial, il est temps d’en faire de même pour les autres secteurs du numérique en développement, incluant celui de l’IA, insiste-t-il.

DONNÉES MASSIVES ET ADMINISTRATION PUBLIQUE

L’enjeu de la gestion des données numériques des Québécois qui se trouvent entre les mains de l’État est d’actualité et se trouve sous la loupe de la CEST.

En août dernier, le ministre de l’Économie et de l’Innovation, Pierre Fitzgibbon, a qualifié de « mine d’or » les données recueillies par la Régie de l’assurance maladie du Québec, ce qui a fait bondir plusieurs élus de l’opposition.

Et, il ne s’agit là que d’un seul projet par une administration publique pour exploiter les données de masse provenant des citoyens.

Dans ce contexte, la CEST veut « anticiper les enjeux éthiques soulevés par les pratiques gouvernementales actuelles et projetées en matière de collecte, d’entreposage, de traitement, de partage et d’utilisation des données, particulièrement des grands ensembles de données », peut-on lire sur le site internet de l’organisme.

« On veut que cette exploitation soit bien faite et que les meilleures pratiques soient adoptées pour valoriser ces données » – Jocelyn Maclure

L’IA DANS LA PRESTATION DES SOINS CLINIQUES

Encore dans le domaine de la santé, la CEST réfléchit aux implications de l’utilisation de l’IA dans la prestation des soins cliniques.

En effet, si l’apprentissage machine détient un énorme potentiel en matière de « diagnostic, de prédiction et de choix thérapeutiques », il faudra penser aux enjeux éthiques qui l’accompagnent.

« Les questions des algorithmes dont on ne comprend pas entièrement le fonctionnement, ce qu’on appelle communément le problème de la boîte noire, mais aussi les biais discriminatoires et la protection de la vie privée des patients sont à considérer », affirme le président.

LES ENJEUX ENVIRONNEMENTAUX

Enfin, si les technologies de l’informatique et des communications (TIC), et par extension l’IA, peuvent aider la société québécoise à entreprendre sa transition énergétique, tout en offrant une gestion plus durable des ressources et des écosystèmes, il y a un revers de la médaille à considérer, souligne M. Maclure.

« Il y a une certaine frénésie, une ” hype “, par rapport à la capacité de l’IA pour combattre les changements climatiques » – Jocelyn Maclure

« Les avancées technologiques nous font parfois miroiter des gains importants dans ce secteur, par exemple pour réduire la consommation d’électricité dans les bâtiments. Mais il faut aussi savoir qu’entraîner un algorithme d’apprentissage profond peut demander beaucoup d’énergie, jusqu’à l’équivalent de cinq voitures durant tout leur cycle de vie », explique le président.

De plus, cette tendance est à la hausse. La CEST note que « la consommation d’énergie des TIC et de l’IA, qui représente actuellement environ 1 % de la consommation d’énergie mondiale, pourrait, selon certaines estimations, grimper jusqu’à 20 % vers 2030 ».

Il est donc important d’anticiper tous les effets de ces technologies avant d’en faire une panacée dans le combat aux changements climatiques, selon M. Maclure.

Crédit photo: Pexels/Andrea Piacquadio

Un commentaire
Laisser une réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *