Depuis le mois de mars, consacré à l’histoire des femmes, on fait dans l’actualité la démonstration de leur contribution à la science, mais aussi des défis de parité inhérents à leur parcours dans ce domaine. Notre chroniqueuse Sylvie Leduc propose d’aborder cet enjeu sous l’angle de l’intelligence artificielle et des algorithmes.
Mes récentes lectures ont malheureusement révélé l’infime présence des femmes, et la difficulté rattachée au rôle qu’elles exercent dans le milieu de l’intelligence artificielle, où elles tentent de s’imposer.
L’importance d’en parler… encore
Tant dans l’exécution des travaux faits par des femmes, que dans les innombrables quantités de données moissonnées et utilisées dans les arrière-plans des solutions, applications et logiciels développés en IA, et la conception des algorithmes les soutenant, prendre en compte les spécificités rattachées aux femmes, sinon aux personnes non-binaires, est vital.
Tous ces éléments sont essentiels à l’atteinte éventuelle d’une équité des genres, toujours hors de portée… L’IA ne peut nous faire reculer.
Quelques constats
1 – « Si l’on veut parler des femmes et de l’intelligence artificielle, il faut d’abord parler des hommes. L’intelligence artificielle est dominée par la gent masculine. Les femmes sont faiblement représentées dans le domaine, que ce soit dans la recherche ou dans l’industrie. Elles constituent la moitié des travailleurs dans le monde, mais ne sont que 29,2 % dans le domaine des sciences et technologies . Plus on s’élève dans la hiérarchie, moins elles sont nombreuses (12,4 % des cadres supérieurs). » C’est le constat publié le 2 avril dernier sur le site LexisNexis, dans un extrait portant sur le contexte en France via le blogue intitulé « Femmes, IA et Droit : Entre Éthique et Technique ».
2 – Dans la publication CIO online (chief information officer) en français du 8 mars, le titre était le suivant : « Femmes et IA, le problème est dans la data » ; rien à ajouter.
3 – Sur le site web du Scientifique en chef du Québec, en septembre dernier, on lisait : « Des algorithmes d’intelligence artificielle peuvent-ils être sexistes et racistes? Le Détecteur de rumeurs a identifié plusieurs exemples qui favorisent effectivement la discrimination. »
L’intelligence artificielle en gestion de projet : où en sommes-nous?
4 – Dans la revue Gestion en février dernier, dans une entrevue avec la professeure Golnoosh Farnadi de l’Université McGill : « Les outils d’IA ont intégré des préjugés. Ils apprennent à connaître le comportement humain à partir des données qu’ils collectent en fouillant dans le passé. Mais les données historiques utilisées pour « entraîner » les algorithmes comportent des discriminations et sont entachées de préjugés », y explique-t-elle. « Si les informations collectées par l’IA sont influencées par des préjugés racistes ou sexistes, les résultats de ces systèmes seront également racistes ou sexistes. » Ça a le mérite d’être limpide.
5 – Dans une étude par l’UNESCO, à la veille du 8 mars dernier, on nous dévoile ceci : « Les modèles GPT 2 et GPT 3.5 d’OpenAI, ce dernier étant au cœur de la version gratuite de ChatGPT, ainsi que Llama 2 du concurrent Meta, font preuve, « sans équivoque, de préjugés à l’endroit des femmes », prévient l’instance onusienne dans un communiqué.
« Les discriminations du monde réel ne font pas que se refléter dans la sphère numérique, elles y sont aussi amplifiées », souligne Tawfik Jelassi, sous-directeur général de l’UNESCO pour la communication et l’information.
Ouf!
6 – En Grande-Bretagne, dans la publication Women in Tech (femmes en tech), voici une traduction en utilisant DeepL.com (version gratuite) : « Il a été constaté que les femmes qui entrent dans le secteur de l’IA sont susceptibles de le quitter plus tôt que les hommes. La question de la rétention de ces femmes dans la technologie est essentielle, car elle ne contribue pas à l’accroissement de la diversité dans le secteur. Les principales raisons pour lesquelles les femmes quittent leur poste dans le domaine de l’intelligence artificielle sont une culture de travail dominée par les hommes, la discrimination sexuelle, les écarts de rémunération entre hommes et femmes et l’absence de modèles à suivre dans les postes de direction de haut niveau. »
Le contenu de cette démonstration devrait encore être d’actualité et pertinent, se fondant sur une base de données constituée jusqu’en 2021.
Préparer le Québec à la venue de l’intelligence artificielle: comment mieux soutenir notre société
7 – Dans un extrait de l’édition du 17 mars du Globe and Mail, traduit avec DeepL également, on lit : « Les algorithmes développés aujourd’hui et les produits qui en découlent sont appelés à façonner la société canadienne pour les décennies, voire les siècles à venir. Il est donc d’autant plus impératif que le développement de l’IA englobe une diversité de points de vue reflétant fidèlement la riche mosaïque de la société canadienne.
À l’échelle internationale, d’autres pays progressent vers l’égalité en matière d’IA, alors que le Canada est à la traîne. En 2023, 41 % des fonds destinés aux entreprises développant l’IA aux États-Unis iront à des sociétés ayant au moins une femme à leur tête, soit quatre fois plus qu’au Canada. En Grande-Bretagne, ce chiffre s’élevait à 20 %, soit deux fois plus qu’au Canada. Le principe de l’égalité des sexes agit comme un volant d’inertie : plus il y a de femmes qui créent et développent des entreprises, plus il y a de femmes mentors, d’entrepreneurs prospères et d’investisseurs, ce qui favorise l’innovation et la diversité dans le secteur. Les startups fondées par des femmes représentent un potentiel inexploité que le Canada ne peut se permettre de négliger. »
8 – « Un autre enjeu fort pour les femmes avec l’IA, c’est qu’elle menace beaucoup de métiers très féminisés, qui n’ont pas les moyens de se faire entendre, comme l’aide sociale », insiste Isabelle Collet, professeure à l’université de Genève.
Pas très encourageant, vous en conviendrez.
Une lueur d’espoir : il faut agir rapidement
Toujours selon Isabelle Collet, il existe effectivement une forme de mise en concurrence entre les biais et les discriminations. Une plus grande proportion de femmes dans l’IA n’est donc finalement pas forcément la seule clé. « Pour le développement de solutions avec un impact fort sur la société, il faut une éthique et une égalité by design, estime la professeure de l’université de Genève. Il faut en particulier des représentants des sciences sociales et humaines dans les équipes. »
Grâce à la synchronicité de mes récentes lectures du Harvard Business Review, j’apprenais alors que Microsoft est l’une des firmes américaines qui embauchent le plus d’anthropologues, afin de bien comprendre la relation entre le comportement humain et la machine… À considérer pour le Québec? Je suis convaincue que oui, et cette chronique servira d’appel à l’action !
Crédit Image à la Une : cottonbro studio (Pexels) et Freepik
IA et droit : les enjeux actuels et futurs au Québec, au Canada et dans le reste du monde
