D’abord IBM, puis Amazon et enfin Microsoft. Ces trois géants américains de la Tech ont annoncé les uns après les autres qu’ils se retiraient définitivement ou momentanément du marché de la reconnaissance faciale. Un coup de théâtre provoqué par la montée en puissance du mouvement #BlackLivesMatter après la mort de George Floyd aux Etats-Unis.
En l’espace de quelques jours, leurs décisions ont ébranlé la planète du numérique. Alors que le marché de la reconnaissance faciale est en pleine explosion (il était estimé à 4,55 milliards d’euros dans le monde en 2019, selon une étude menée par le cabinet d’analyse Mordor Intelligence), il est surprenant de voir les firmes de la Silicon Valley faire marche-arrière. En refusant l’utilisation de leurs outils par la police américaine, les Big Tech seraient-elles devenues plus éthiques, oserais-je rajouter, plus humaines? Le moins que l’on puisse dire, c’est que ce changement radical de comportement démontre une réelle volonté de se positionner et d’entamer le débat.
Entre éthique et responsabilité sociale
Dans une lettre adressée au Congrès américain, le lundi 8 juin, le PDG d’IBM, Arvind Krishna annonçait ses intentions sans ambiguïté.
« IBM s’oppose fermement, et ne tolérera pas, l’utilisation de toute technologie de reconnaissance faciale, y compris les technologies offertes par d’autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits humains et des libertés fondamentales, ou tout autre objectif non-conforme à nos valeurs et à nos principes de confiance et de transparence. Nous pensons que le moment est venu d’entamer un dialogue national sur l’opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités chargées de l’application des lois. »
Un débat, visiblement nécessaire dans une période, qui plus est incertaine, et dans laquelle l’efficacité à 100% de cette technologie est remise en question. Une étude réalisée en 2018 par le MIT montre qu’aucun outil, que ce soit de Microsoft, d’Amazon ou d’IBM, n’est réellement fiable. Ils présentent tous des biais. Ils reconnaissent bien les individus blancs, mais ils se trompent beaucoup sur les personnes noires, notamment les femmes. La raison : visiblement une lacune au niveau des algorithmes qui n’ont pas été entraînés sur suffisamment d’images. Les risques d’erreur existent donc. Dans ce contexte, difficile, face à la pression des associations et de l’opinion publique, de défendre une telle technologie pour les géants du net.
Big brother is watching you
Sans oublier que la reconnaissance faciale fait peur. Elle est perçue comme un outil de surveillance de masse. Elle fait planer une menace sur la vie privée et les libertés civiles, car elle permettrait aux forces de l’ordre de suivre les personnes et de collecter des données en temps réel sur leur apparence, leur localisation et leurs activités.
Elle renvoie aussi à tout un imaginaire inquiétant, à mi-chemin entre le prophétique 1984 de George Orwell et la série culte dystopique Black Mirror.
Pour autant, même si les trois entreprises demandent plus d’encadrement et de réglementation autour la reconnaissance faciale, il en faudra plus freiner l’essor de la technologie. Les géants du net ne sont pas les seuls sur le marché. Malgré cette levée de boucliers, d’autres entreprises, ont décidé de poursuivre leurs activités. C’est le cas entre autres, de la start-up controversée Clearview AI. L’Entreprise new-yorkaise, qui travaille avec 2400 forces de police aux Etats-Unis, a fait scandale début 2020. Le New York times dévoilait qu’elle avait construit sa base de données de manière illégale. En prenant des milliards de photos de Facebook, Twitter et de millions d’autres sites, sans le consentement des plateformes encore moins des abonnés.
Quoi qu’il en soit, si cette prise de position des Big Tech est symbolique, personne ne peut prédire comment elles se comporteront, une fois l’émotion mondiale passée. Ces annonces auront-elles des conséquences durables? Les lois du marché vont-elles au contraire, l’emporter sur les valeurs d’éthique et de responsabilité sociale? La période qui s’ouvre, sera, dans tous les cas, déterminante pour l’avenir de la reconnaissance faciale.
