Les biais sexistes dans l’IA reproduisent les inégalités entre les femmes et les hommes

Le 8 mars, journée internationale des droits de la femme, devra-t-il bientôt être doublé d’une journée internationale des droits des « robotes » ? À l’occasion d’une table ronde organisée par l’Université de Montréal ce mercredi sur l’IA et le féminisme, les intervenantes ont mis en garde contre les biais sexistes qui infiltrent l’IA et pourraient la détourner d’une société éthique et inclusive.

« Ce n’est pas anodin de créer des corps féminins sans voix (robotes sexuelles) dans une période où justement les femmes essaient de parler de violence sexuelle », s’exclame Pauline Noiseau.

Chercheuse associée à Algora Lab, elle a consacré son mémoire de maîtrise aux enjeux éthiques de la robotique sexuelle en 2019. Elle s’interroge sur cet angle mort de l’IA en matière d’éthique d’autant qu’il y a de la recherche en robotique sexuelle.

La philosophe s’interroge sur l’indifférence et le silence de notre société, qui veut pourtant tendre vers l’équité et l’égalité, sur la commercialisation de corps féminins robotisés, qu’elle appelle « robotes ». Elle regrette l’absence de réaction des féministes sur le sujet.

La robote sexuelle imite un corps humain, imite un comportement humain (et des pratiques sexuelles) et comporte un degré d’IA. La philosophe s’interroge : « Quel corps humain et quel comportement humain imite la robote ?»

« La robotique sexuelle est une sorte de sophistication de la domination masculine dans le contexte sexuel » – Pauline Noiseau

Elle en veut pour preuve la représentation de la robote : blanche, mince, imberbe, dénuée d’intellect. « La robote ne ressent rien, donc l’absence de plaisir ou de douleur conduit à penser que l’on peut tout faire sur la robote sexuelle », ajoute Pauline Noiseau.

La philosophe dénonce même les effets symboliques de cette expérience de relations sexuelles très « particulières » : la représentation de la femme, comme un objet, un corps disponible, qui n’a pourtant pas donné son consentement. Dans ses travaux actuels, la philosophe compare la robotique sexuelle à un contrecoup au mouvement #metoo.

LA DÉCLARATION DE MONTRÉAL, UN OUTIL D’ÉDUCATION 

Les intervenantes se sont interrogées sur le message envoyé aux jeunes (filles et garçons) en permettant la commercialisation de telles robotes.

« Lorsque nous commençons un projet, nous nous donnons la déclaration de Montréal comme cadre pour les questions d’éthique », rassure Kate Arthur.

Fondatrice et directrice de Kids Code Jeunesse, OBNL montréalaise qui fait découvrir le code et l’IA aux enfants, Kate Arthur se veut rassurante : « Avec des enfants de 7 ans, tout le monde est engagé, fille ou garçon, tout le monde veut créer des jeux vidéo ! »

La Déclaration de Montréal énonce 10 principes, dont les points 6 et 7 ont été rappelés par les participantes, pour assurer l’égalité entre les hommes et les femmes:

• 6. Principe d’équité: Le développement et l’utilisation des SIA doivent contribuer à la réalisation d’une société juste et équitable.
• 7. Principe d’inclusion de la diversité: Le développement et l’utilisation de SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.

(SIA: système d’intelligence artificielle)

LES BIAIS ACCENTUENT LES INÉGALITÉS

Car la question des biais et notamment du biais sexiste revient souvent dans les débats sur l’IA. «C’est important que les enfants comprennent que l’on met nos biais dans l’IA et que la diversité est importante », prévient Kate Arthur.

« En tant que femme afro-canadienne, dans tout ce que je fais, je commence par les biais, c’est automatique !» – Emmanuella Michel

Fondatrice et directrice de Cogni XR Health, un guichet unique B2B qui fournit des prestations de soins de santé mentale aux entreprises et aux organisations, elle est attentive aux biais qui s’insèrent dans les systèmes d’intelligence artificielle. « Je les ai vécus », insiste-t-elle.

Caroline Codsi, fondatrice de la Gouvernance au féminin, a rappelé que le développement de l’IA impacte négativement les femmes en premier. Elle préconise l’accès des femmes à la technologie pour parvenir à l’égalité des genres.

« D’après le magazine Wired et Element AI, les femmes chercheures ne représentent qu’un peu plus de 12% bien qu’elles fassent partie des groupes qui seront le plus impactés par les changements apportés par l’intelligence artificielle », explique madame Codsi.

Elle ajoute que « le développement et l’utilisation des systèmes d’intelligence artificielle doivent contribuer à la réalisation d’une société juste et équitable, et ne pas créer, renforcer ou reproduire des discriminations fondées sur les différences sociales, sexuelles, ethniques, culturelles et religieuses (…) dès la conception des algorithmes ».

« Pensez aux jeunes, pensez aux enfants, ce sont eux qui seront les adultes de demain; c’est leur monde et leur futur que nous construisons avec nos décisions », a conclu Kate Arthur.

(crédit photo: Photo de Pavel Danilyuk provenant de Pexels)

En savoir plus sur la robotique sexuelle ? écoutez ce balado: AI et robotes sexuelles: une perspective critique féministe (Entrevue avec Pauline Noiseau)