Atelier IVADO sur «Éthique + ÉDI en intelligence numérique»

IVADO a tenu, jeudi 23 septembre 2021, un atelier en éthique pour les étudiants, chercheurs et professionnels impliqués dans le domaine de l’IA.

Rappelons ici la mission d’IVADO qui consiste avant tout à multiplier les talents en intelligence artificielle ou numérique, en développant les connaissances multidisciplinaires et en accélérant son adoption au Québec.

Son axe principal est la recherche autour de l’exploitation des données massives pour la prise de décision. L’organisation rayonne également à l’étranger avec des partenariats comme celui avec l’Institut africain des sciences mathématiques (AIMS).

« Les bénéfices de l’IA seront d’autant plus grands que les risques liés à son déploiement seront faibles. »

La Déclaration de Montréal

Il est à noter qu’IVADO est un des signataires de La Déclaration de Montréal et par là s’engage à orienter le développement de l’intelligence artificielle vers des finalités moralement et socialement désirables. Par ailleurs, l‘organisation a développé son propre cadre de référence en matière d’ÉDI que nous pouvons consulter.

L’atelier a été mené sur la plateforme Zoom et était ouvert à tout public, gratuitement.

PRINCIPES GÉNÉRAUX EN MATIÈRE D’ÉTHIQUE ET D’ÉQUITÉ

Le professeur de philosophie de l’Université de Montréal, Marc-Antoine Dilhac, également directeur chez Algora Lab et président CIFAR de l’éthique de l’IA à Mila a présenté une introduction générale à l’éthique de l’intelligence artificielle. Il a mis l’accent sur la différence entre ce qui doit être fait et ce que l’on peut faire en expliquant les limites du droit en matière d’IA.

« Ce n’est pas parce qu’on peut le faire qu’on doit le faire et parfois c’est parce qu’on peut le faire qu’on ne doit pas le faire. »

Marc-Antoine Dilhac

Ensuite, Marilou Daudier, conseillère ÉDI chez IVADO  a présenté le second aspect de la formation. Elle a fait part des principes généraux en matière d’équité, de diversité et d’inclusion appliqués aux systèmes intelligents et au sein des milieux de travail. Il est notamment question des biais potentiels à l’intérieur des systèmes et des risques de discrimination.

Comme la plupart des biais sont issus de la société, de son histoire et de ses travers, nous devons nous assurer d’avoir une bonne représentativité de la société au sein même des groupes de travail. Il s’agit d’assurer la diversité à l’origine même de la production en IA. Il faut, par exemple, se demander s’il y a des personnes issues de groupes sous-représentés dans les projets.

FAIRE ÉMERGER LES QUESTIONS ÉTHIQUES

En tant qu’atelier, ce type de formation a pour but de faire émerger les problèmes éthiques et également de développer des réflexes d’analyse et de prise de décision éthique, équitable et inclusive.

L’exposé des principes fut suivi d’une analyse de cas particuliers de SIA. Il était question, entre autres, d’une application permettant de reconnaître le genre (sexe) d’un individu par les traits du visage.

Les participants sont alors amenés à réfléchir et à échanger sur les impacts moraux d’une situation donnée applicable aux systèmes intelligents. L’objectif est ici de guider les professionnels dans l’analyse d’une telle situation afin de déterminer au mieux les pistes d’actions à engager.

SIA, IN, INTELLIGENCE AUGMENTÉE, ANALYTIQUE AVANCÉE

De manière générale, on parle d’intelligence artificielle. Mais il existe aujourd’hui plusieurs manières de désigner cette technologie toute particulière qui remet en avant les considérations éthiques.

M. Dilhac précise que le terme d’intelligence artificielle est encore peu utilisé dans les milieux de travail où l’on préfère parler d’intelligence augmentée ou d’analytique avancée. Mais le dénominateur commun est l’aspect relationnel de cette technologie. Car, il n’existe pas de délimitation précise entre les systèmes et la société. L’intelligence artificielle s’intègre dans un continuum où la technologie est vue comme un prolongement de l’être humain.

Lorsqu’on entend parler de SIA, ou lisons ce terme, il faut bien l’identifier et le remettre dans son contexte. Il est défini ainsi par La Déclaration de Montréal:

Système d’intelligence artificielle (SIA) : Un système d’IA désigne tout système informatique utilisant des algorithmes d’intelligence artificielle, que ce soit un logiciel, un objet connecté ou un robot.

Cette définition met l’accent sur le fait que l’intelligence artificielle est à considérer comme un ensemble de technologies utilisant des algorithmes capables d’apprendre par eux-mêmes. Et plus encore, des algorithmes capables de prendre des décisions autonomes. Bien qu’il y ait des degrés d’autonomie des systèmes intelligents, ils sont ici considérés dans leur ensemble.

Par ailleurs, IVADO parle d’intelligence numérique (IN) pour désigner les SIA. Ces termes varient mais, essentiellement, il est question d’IA.

Intelligence numérique (IN) : Ensemble d’outils et de méthodologies combinant collecte et exploitation des données avec conception et utilisation de modèles et d’algorithmes pour faciliter, enrichir et accompagner la prise de décisions.

IVADO décrit par là, un processus par lequel on passe de la science des données à l’intelligence artificielle par une compréhension, une prédiction et en définitive, une prédiction.

Intelligence augmentée : IBM a adopté l’appellation d’intelligence augmentée et même suggéré le terme d’augmentation de l’intelligence, non seulement pour souligner le rôle d’assistance de la technologie, mais aussi pour éviter toute confusion résultant de l’usage de l’abréviation IA. 

Analytique avancée : Ce terme est surtout utilisé dans le domaine des finances. L’analytique avancée utilise la modélisation prédictive, les méthodes statistiques, le machine learning et les techniques d’automatisation des processus au-delà des capacités des outils traditionnels de Business intelligence (BI) pour analyser les données métiers.

En bref, cette formation s’inscrit à l’intérieur d’une mission globale de sensibilisation à l’éthique de l’IA. Elle vise plus particulièrement les artisans principaux de ces nouvelles technologies, mais s’adresse à tous. La formation offre des outils de base permettant aux intervenants de bien baliser leurs projets. L’objectif principal est le respect partagé de l’individu et de la société.