La reconnaissance faciale est une des technologies de l’intelligence artificielle (IA) les plus controversées et dont les implications éthiques ne cessent d’être débattues. Les multiples rebondissements dans l’affaire Clearview AI semblent démontrer qu’une nouvelle conscience juridique s’instaure peu-à-peu au Canada en matière des données biométriques. De plus, l’adoption de ce genre d’outil par les forces de l’ordre soulève l’inquiétude des organismes se portant à la défense des droits et libertés de la personne.
Le 2 février dernier, un rapport conjoint entre le Commissariat à la protection de la vie privée du Canada et ses homologues du Québec, de l’Alberta et de la Colombie-Britannique a été déposé. Celui-ci n’est pas tendre à l’endroit de Clearview AI.
En effet, l’entreprise, située aux États-Unis, qui offre un service de reconnaissance faciale aux forces policières, est pointée du doigt pour avoir « recueilli, utilisé et communiqué des renseignements personnels en développant et en fournissant son application de reconnaissance faciale, sans obtenir le consentement requis ».
Pour nourrir son algorithme, l’entreprise s’est servie de médias sociaux pour collecter les millions d’images répertoriées dans ses bases de données, et ce, sans obtenir le consentement des personnes identifiées dans ces photos.
Les commissaires jugent donc que l’entreprise a enfreint la Loi sur la protection des renseignements personnels et les documents électroniques du gouvernement fédéral, ainsi que la Loi sur la protection des renseignements personnels dans le secteur privé du Québec.
Ceux-ci demandent que Clearview cesse la collecte de données de reconnaissance faciale, qu’elle n’offre plus ses services avec l’outil développé à partir des données indûment amassées et qu’elle supprime les images et les matrices faciales biométriques recueillies auprès d’individus au Canada qu’elle a en sa possession.
Entre temps, l’entreprise qui avait pour client la Gendarmerie royale du Canada (GRC), a depuis vu son compte suspendu l’an dernier.
UN CAS QUI RISQUE DE TOUT CHANGER
Pour Caroline Deschênes, associée chez Langlois Avocats à Montréal, il n’y a pas de doute : cette histoire viendra établir un précédent dans l’industrie de l’IA, particulièrement dans le secteur de la reconnaissance faciale.
« Il est certain que ce rapport aura un impact. Il est important que les intervenants qui travaillent dans ce milieu portent attention à l’affaire Clearview AI, car elle est certainement une indication de la façon dont on interprètera les lois dans le futur », souligne l’avocate.
Cette dernière croit que ce dossier sera une source de réflexion quant à la provenance des données utilisées par les entreprises qui opèrent et développent des algorithmes.
Elle note aussi que les commissaires soulignent la différence entre l’accès « ouvert » des données disponibles en ligne au public et la collecte massive qui peut être faite par les entreprises privées.
« On vient clarifier l’interprétation des lois sur la protection de la vie privée relativement à la collecte de données sur des sites accessibles au public » – Caroline Deschênes, avocate associée chez Langlois Avocats.
DES POURSUITES À PRÉVOIR
Depuis le dépôt du rapport, un autre rebond est survenu dans cette histoire, puisque l’entreprise est désormais visée par demande d’action collective.
Ha Vi Doan, une photographe québécoise a déposé le 5 février une demande d’autorisation pour exercer une action collective à la Cour supérieure pour « toutes les personnes dont le visage apparaît dans les photographies amassées par Clearview AI ».
De plus, la compagnie américaine qui réfute complètement les conclusions du rapport des commissaires, risque d’autres poursuites judiciaires si l’on en croit le document.
« Si Clearview maintient son refus d’accepter les conclusions et les recommandations de quatre autorités canadiennes indépendantes chargées de faire respecter la protection des renseignements personnels, nous entreprendrons les autres actions qui s’offrent à nous en vertu de nos Lois respectives pour obliger Clearview à respecter les lois fédérale et provinciales sur la protection des renseignements personnels applicables au secteur privé », notent les commissaires dans leur rapport.
« Les commissaires pourraient demander à la Cour fédérale du Canada de se saisir de l’affaire », indique Mme Deschênes.
Par ailleurs, on doit constater que les gouvernements se sentent concernés par l’enjeu de la protection des données personnelles, note l’avocate, puisque l’adoption du projet de loi C-11 du fédéral pourrait accroître le pouvoir du Commissariat à la protection de la vie privée du Canada dans ce type de dossier.
Effectivement, la Loi édictant la Loi sur la protection de la vie privée des consommateurs et la Loi sur le Tribunal de la protection des renseignements personnels et des données, dont on attend l’adoption en 2022, créerait ainsi un nouvel outil juridique à partir duquel le commissaire pourrait émettre des ordonnances, entre autres à des entreprises privées.
BANNIR COMPLÈTEMENT LA RECONNAISSANCE FACIALE?
Selon Dominic Peschard, membre du conseil d’administration de la Ligue des droits et libertés (LDL) cette histoire ne fait que mettre en lumière les problèmes liés à la technologie de la reconnaissance faciale.
« Parmi toutes les données compilées sur les citoyens, il s’agit d’une des techniques les plus invasives », insiste-t-il.
Ce dernier sans équivoque : il faut mettre un moratoire à la reconnaissance faciale, surtout dans le cadre du travail des forces policières, sans quoi on pourrait assister à « la fin de l’anonymat » tel qu’on le connaît.
« Le concept de consentement tel qu’il est établi par les lois est désuet et n’est plus suffisant. Dans le contexte actuel, il est de plus en plus impossible pour un individu d’exercer son consentement au moment de la collecte de données personnelles » – Dominique Peschard, Membre du conseil d’administration de la LDL.
L’enjeu est loin d’être résolu, car si la GRC a cessé son partenariat avec Clearview AI, d’autres agences n’ont pas tiré un trait sur la reconnaissance faciale.
En effet, la Sûreté du Québec (SQ) a commencé en 2021 à utiliser des outils de reconnaissance faciale et d’identification des empreintes digitale qui lui ont été fournis par la firme française Idemia.
Contactées à ce sujet, les relations médias de la SQ assurent que le produit employé est totalement différent de celui de Clearview AI.
« Il s’agit d’un outil d’identification faciale employée à l’interne, pas du tout à l’externe. Celui-ci respecte parfaitement la Loi sur l’identification des criminels », soutient Anne Mathieu, agent au service de communication de la SQ.
Cette dernière indique que le service policier travaille depuis des années avec des systèmes biométriques et que l’entente avec Idemia ne vient « qu’actualiser et moderniser » le système actuel.
Le photographies qui sont utilisées proviennent ainsi des dossiers criminels qui sont déjà entre les mains de la SQ.
Crédit photo: Pexels/Burst