[DOCU] – Sommes-nous devenus 7 milliards de suspects ?

La situation exceptionnelle de la pandémie encourage certains gouvernements à utiliser des applications de surveillance civile inédites. L’état de crise justifie sans doute le recours à des technologies de reconnaissance et de contrôle de la population, mais nous pouvons craindre de voir leur intégration se poursuivre même une fois la crise passée.

LE RISQUE D’UN NON-RETOUR

Malgré l’usage nécessaire de technologies avancées pour faire face à la crise sanitaire, il ne devrait pas y avoir de banalisation de ces usages, nous dit Martin Drago, juriste pour La Quadrature du Net. Certaines mesures exceptionnelles, comme l’usage de détection de la température du corps d’un individu, devraient rester exceptionnelles à la suite de la pandémie. 

Le risque d’un non-retour à un état de non-surveillance se fait sentir. Pour exemple, dès 2008, afin d’assurer la sécurité lors des Jeux Olympiques à Beijing, Xi Jinping, président de la Chine, met en place un vaste système de caméras de surveillance. 

« Xi Jinping met en place la première dictature numérique au monde.»

Alain Wang, sinologue ayant une double appartenance franco-chinoise.

Les installations utilisées pour les Jeux furent l’occasion d’intégrer un système national de surveillance qui est devenu permanent depuis ce temps, précise le sinologue Alain Wang. 

Les intérêts privés se mêlent aux « intérêts publics » du fait d’un quasi-monopole des sociétés Huawei, Dahua et HikVision, communément appelées les licornes chinoises. Les objectifs se brouillent et on ne sait plus exactement quels étaient les contours de la mission de départ, mais l’évolution chiffrée ne laisse aucun doute sur la volonté chinoise :

• 2013 – Année de l’investiture de Xi Jinping – La chine possède 100 millions de caméras de surveillance.
• 2020 – La chine possède 600 millions de caméras de surveillance – C’est 1 caméra pour 2 habitants.

La collaboration des tierces parties est rarement identifiée, et il est bien souvent impossible de retracer le chemin inverse dans l’implantation des productions algorithmiques. Est-ce possible de dénouer ce processus d’implémentation d’IA? Quelles sont les portes de sorties? Et même, y a-t-il des issues de secours à la systématisation et à l’utilisation des applications de reconnaissance des individus ?

UN POUVOIR JAMAIS ÉGALÉ

CScience IA vous propose, ici, un retour sur le documentaire produit par la chaîne ARTE, intitulé : Tous sous surveillance – 7 milliards de suspects, qui analyse la situation actuelle. Parfois alarmiste, le documentaire débute avec ce préambule: « Ça y est, nous y sommes, il aura fallu 50 ans pour que l’intelligence artificielle donne aux autorités un pouvoir jamais égalé. Celui de tout voir, tout entendre, partout, tout le temps ». 

« Un pouvoir jamais égalé de tout voir, tout entendre, partout, tout le temps ».

Tous sous surveillance – 7 milliards de suspects

Effectivement, le FBI aurait aujourd’hui la capacité d’identifier 50% de la population des États-Unis à partir d’une simple photo! Ainsi, « Au nom de la lutte contre le terrorisme, l’Europe, les États-Unis et la Chine, se sont lancés dans une course aux technologies de la surveillance » poursuit le narrateur du documentaire.

Aujourd’hui, les populations sont suivies, localisées et traquées. Les villes intelligentes offrent beaucoup de divertissements mais souvent au prix d’un contrôle plus accru. Des tests de surveillance et de justice prédictive ont par exemple été effectués à Nice (en France, ndlr) nous précise Martin Drago. Il craint que ces pratiques oppressantes ne deviennent permanentes.

UTILISER LE TEMPS COMME LIMITE

Bénédicte Jeannerod, directrice de la division France, Human Rights Watch, condamne le fait que des entreprises françaises exportent des technologies dans des pays qui ne respectent pas les Droits Humains. Des applications de surveillance, comme celle de Thalès, sont vendues à des pays qui pratiquent des politiques répressives. L’Égypte en est un exemple parlant.

De plus, la directrice dénonce le fait que la gestion des villes soit attribuée à des sociétés privées. Le public ne sait pas très bien comment fonctionnent les algorithmes. Par ailleurs, ce sont les banques publiques ou la Commission Européenne qui financent ces projets de villes intelligentes.

Afin d’assurer le respect des droits Humains, d’après Mme Jeannerod, les sociétés doivent :

• garantir la protection des données;
• s’appuyer sur le consentement des personnes concernées par leurs applications ;
• offrir un recours aux citoyens qui se sentiraient lésés ou abusés;
• limiter ces opérations dans le temps.

Les arguments justifiant l’importance de la limite dans le temps et de la nécessité de bâtir des portes de sorties sont développés plus en détail dans le documentaire.

CONCLUSION

On peut se demander si les avantages de ces systèmes de surveillance justifient bien les inconvénients qu’ils peuvent générer. Quel niveau de liberté serions-nous prêts à sacrifier en échange d’une meilleure sécurité publique ? Ces applications sont-elles les meilleures façons de lutter contre le terrorisme et la criminalité ?

Sachant que la justice prédictive est capable d’étendre son profilage jusqu’à autoriser une arrestation à partir de l’image d’une personne de dos, pouvons-nous en déduire que nous serions tous devenus de potentiels suspects ?

Ce documentaire nous donne un portrait balancé de différentes positions sur la question troublante du totalitarisme numérique. Bien que les propos s’adressent surtout à la population française, nous pouvons en tirer certaines leçons quant aux abus de telles pratiques. Nous vous invitons donc à le regarder, et à réfléchir aux enjeux soulevés.