Pour le meilleur contre le pire, l’IA doit être mis sous surveillance des citoyens

Formidable outil qui envahit notre vie quotidienne, l’IA présente des biais et des risques que les citoyens doivent appréhender pour en comprendre les enjeux. C’est le message délivré par Myriam Côté, conseillère stratégique en intelligence artificielle. Invitée par l’organisme AlphaNumérique, le 22 février 2022 dans le cadre d’un atelier virtuel, elle prône une littératie numérique responsable et éthique.

« Il faut s’adapter car tout est en train de changer », prévient Myriam Côté. Cheffe du bureau de Montréal de Volta Charging, leader de la recharge de voiture électrique, la docteure en IA (diplômée en France et au Québec) est une proche de Yoshua Bengio.

L’arrivée de l’IA est en train de bouleverser nos vies et aura encore un impact majeur dans les prochaines décennies, selon elle. Cette révolution, née en 1956 lors de la conférence de Darmouth, a fait de nombreux progrès ces dernières années. Dés lors que la machine passe le test de Turing ⁽¹⁾, elle est considérée comme intelligente. Depuis les années 2000, la multiplication des données disponibles et la puissance de calcul décuplée des machines ont permis un développement de l’IA sans précédent.

L’IA INGURGITE NOS DONNÉES POUR ALIMENTER NOTRE VIE QUOTIDIENNE

L’IA a fait une entrée, parfois non remarquée, dans notre vie quotidienne, alimentée par les masses de données des utilisateurs d’ordinateurs et de smartphones.
Dans l’industrie par exemple, l’IA aide au contrôle qualité des produits, avec des taux de réussite équivalents à l’œil humain. On a appris à la learning machine à reconnaitre le « bon produit » en lui montrant de nombreuses photos.

Sur Amazon, le modèle prédictif du géant du commerce en ligne, nous propose des produits basés sur notre historique de navigation et d’achat. L’assistant Google, avec son application de traduction, permet aujourd’hui à deux personnes parlant des langues différentes, de converser. La recherche d’itinéraire sur Google Map est alimentée par les millions de données des millions d’utilisateurs. Les cartes de fidélité des consommateurs permettent de capter les historiques d’achats vendus à prix d’or à des partenaires qui pourront proposer des achats très ciblés.

« Un diagnostic précoce, ça sauve des vies! » – Myriam Côté

Mieux encore, en médecine, l’IA sait aujourd’hui analyser des clichés de radiographie pour être capable de détecter des cancers alors même que l’œil humain ne les voit pas.

L’IA REPRODUIT LES INÉGALITÉS

Mais jusqu’ou aller ? « Ça nous tentes-tu de céder nos données à tout le monde », s’interroge la scientifique.
Au premier rang des controverses, la surveillance policière par reconnaissance faciale. De nombreuses villes dans le monde ont installé des caméras pour surveiller les activités louches, mais pour détecter également des individus recherchés grâce à la reconnaissance faciale.

« Jusqu’où veut-on laisser les machines nous observer pour avoir plus de sécurité ? » – Myriam Côté

Elle cite l’édifiant documentaire Netflix, primé à de nombreuses reprises, « Coded Bias », qui met en lumière le caractère biaisé des données ingurgitées par la machine. Majoritairement, l’algorithme reconnaît un homme à la peau blanche, et fait de nombreuses erreurs sur des femmes à la peau noire. D’ailleurs de nombreuses villes ont abandonné leur programme de reconnaissance faciale à cause des trop nombreuses erreurs.

L’exception reste la Chine qui a élaboré un système de surveillance de ses citoyens, du lever au coucher, pour alimenter le « crédit social » de chaque individu. Le « bon comportement » est récompensé et permet l’accès à l’université ou à un bon emploi, le « mauvais comportement » exclut de la société. « Le leadership de la Chine en matière d’IA m’inquiète beaucoup », lâche Myriam Côté.

L’autrice de ce documentaire, Joy Buolamwini, chercheuse au M.I.T, conclut que l’IA reproduit les inégalités sociales si les données sont biaisées et que les citoyens doivent y prendre garde. Elle rejoint le discours de Myriam Côté et affirme que l’IA doit servir à construire un modèle plus inclusif.

S’IMPLIQUER POUR UN DÉVELOPPEMENT ÉTHIQUE DE L’IA

C’est précisément le message de Myriam Côté : « Il faut garder son sens critique, donner son avis et s’éduquer », plaide la scientifique.
Elle cite la Déclaration de Montréal, qui édicte 10 principes pour le développement responsable de l’IA, dont un cadre éthique pour le développement et le déploiement de l’IA, et un développement inclusif, équitable et écologique de cette révolution technologique.
« Signez la Déclaration de Montréal! », s’exclame la scientifique.

Elle cite également Montréal comme plaque tournante de l’IA dans le monde : « Le monde entier vient chez nous, Yoshua Bengio a résisté aux sirènes de la Silicon Valley pour rester à Montréal, nous devons en être fiers ! »

Myriam Côté est persuadée que chaque citoyen a un rôle à jouer en participant aux tables rondes, aux prises de décision des gouvernements, en contribuant à la réalisation de projets bénéfiques pour tout le monde.
« Collectivement, nous devons mettre des balises avant, et non réagir après », recommande celle qui vante le modèle européen, qui « développe l’IA autour de l’humain ».

(1) https://intelligence-artificielle.com/test-de-turing/

En savoir plus: https://alphanumerique.ca/espace-public/

(crédit photo: Erik Mclean – Pexels.com)