L’éthique de l’intelligence artificielle (IA) est un sujet qui sème l’émoi depuis quelques semaines chez Google. L’entreprise aurait demandé à ses employés de brosser un portrait plus positif de cette technologie, provoquant l’indignation dans le milieu et soulevant la crainte d’un mouvement de censure.
L’agence de presse Reuters révélait le 24 décembre dernier qu’une série de mémos diffusés à l’interne par Google avisait ses chercheurs que de nouvelles procédures étaient désormais en place quant à l’approbation de certains travaux de recherche.
Selon les sources citées dans l’article, les règles en vigueur depuis le mois de juin exigent que les employés consultent les équipes juridiques et de relations humaines du géant du web avant d’examiner des dossiers épineux.
En effet, les sujets de la reconnaissance faciale et de la catégorisation de la race, du genre et de l’affiliation politique doivent recevoir l’assentiment de ces départements internes, ajoutant une étape supplémentaire avant que ces études soient publiées par Google, rapporte Reuters.
Si plusieurs y voient une tentative de censure, le géant du web parle plutôt d’un effort pour redorer le blason de l’IA.
«Les progrès technologiques et la complexité croissante de notre environnement externe conduisent de plus en plus à des situations dans lesquelles des projets apparemment inoffensifs soulèvent des problèmes éthiques, de réputation, réglementaires ou juridiques», souligne une publication de Google sur son blogue à l’interne.
Depuis, la direction de l’entreprise aurait demandé à trois occasions à ses auteurs de ne pas dépeindre l’IA sous un mauvais jour.
UNE CHERCHEUSE QUI DÉRANGE RENVOYÉE
Google se serait sans doute passé de la tempête provoquée par ces révélations, car le géant du web est déjà dans la tourmente à la suite du licenciement d’une de ses chercheuses qui s’intéresse entre autres aux enjeux de discrimination dans le milieu des technologies.
Effectivement, le renvoi au début du mois de décembre de Timnit Gebru, une éthicienne issue d’une minorité visible, enflamme le milieu des technologies depuis quelques semaines. Le scandale a éclaté à la suite d’un désaccord concernant la publication d’une recherche cosignée par cette dernière.
Mme Gebru s’est brouillée avec la direction de Google lorsqu’on lui a demandé de se rétracter ou de retirer sa signature d’un article de recherche à propos des risques de préjugés humains perpétués par des ensembles de données massifs et des émissions de carbone associées à la formation de grands modèles de langage.
L’éthicienne avait alors posé un ultimatum : soit on mettait en lumière le processus qui avait mené au rejet de cette recherche, soit elle déposait sa démission.
Google annonçait le lendemain le « départ volontaire » de Mme Gebru, ce que cette dernière nie.
L’entreprise a par la suite évoqué un manque de qualité quant aux sources citées dans le document de recherche pour justifier son rejet de l’étude.
GESTES DE SOLIDARITÉ AUTOUR DU WEB
Cette histoire aura fait réagir partout autour du globe, et ce jusqu’à Montréal. Nicolas Le Roux, détenteur d’une Chaire en IA à l’Institut canadien de recherches avancées (ICRA) et chercheur chez Google Brain, a réagi sur son compte Twitter à propos du congédiement de sa collègue.
« Le moment est peut-être venu de rappeler à tout le monde que le moyen le plus simple de discriminer est de définir des règles strictes, puis de décider quand et pour qui les appliquer. Mes soumissions ont toujours été vérifiées pour la divulgation de matériel sensible, jamais pour la qualité de la revue de la littérature. » – Nicolas Le Roux, chercheur à l’ICRA (traduit de l’anglais).
Depuis, 2695 employés chez Google et 4302 individus du milieu académique, de l’industrie et de la société civile ont signé une pétition exigeant que le géant du web rende des comptes par rapport à ses politiques d’encadrement de recherche en éthique de l’IA.
Le document est hébergé sur la page Google Walkout For Real Change, un site dédié au mouvement de protestation contre la discrimination et le harcèlement sexuel au sein de l’entreprise.
Crédit photo: Pexels/Luca Sammarco.
