L’UNESCO dévoile une norme mondiale sur l’éthique de l’intelligence artificielle

L’UNESCO, Organisation des Nations unies pour l’éducation, la science et la culture a présenté le 24 novembre la toute première norme mondiale sur l’éthique de l’intelligence artificielle (IA). Ce texte historique a été adopté par les 193 États membres de l’UNESCO au cours de la Conférence générale.

Selon l’UNESCO, l’intelligence artificielle peut aider des millions d’étudiants à terminer leurs études secondaires, à créer 3,3 millions d’emplois supplémentaires et aider à lutter contre la propagation et les conséquences de la pandémie de COVID-19.

Néanmoins, l’Organisation pointe aussi « les risques et des défis, liés à une utilisation malveillante ou à l’aggravation des inégalités et des clivages ». Partant du constat que l’IA est mondiale, un instrument global se devait de la réglementer.

« Ces nouvelles technologies doivent nous aider à relever les grands défis de notre monde actuel, tels que l’accroissement des inégalités et la crise environnementale, et non les aggraver. » – Gabriela Ramos, Sous-directrice générale de l’UNESCO pour les sciences sociales et humaines

UNE RECOMMANDATION RÉPONDANT AUX BIAIS DE L’IA

La norme universelle qui vient d’être adoptée par les États membres doit justement apporter une réponse aux biais induits par une utilisation non éthique de l’IA.

« Le monde a besoin de règles pour que l’intelligence artificielle profite à l’humanité. La Recommandation sur l’éthique de l’IA est une réponse forte. Elle fixe le premier cadre normatif mondial tout en donnant aux États la responsabilité de l’appliquer à leur niveau. » – Audrey Azoulay, Directrice générale de l’UNESCO

Après trois ans de travaux et discussions, les représentants des États membres de l’UNESCO se sont donc mis d’accord sur un texte ambitieux. Cette Recommandation, préparée par 24 experts internationaux se veut normative et mondiale.

QUE PRÉVOIT LA NORME MONDIALE DE L’UNESCO ?

Afin que les nouvelles technologies contribuent, elles aussi, à la réalisation des Objectifs de développement durable de l’ONU [appel mondial du 25 septembre 2015 à agir pour éradiquer la pauvreté, protéger la Planète et faire en sorte que tous les êtres humains vivent dans la paix et la prospérité à l’horizon 2030], la Recommandation de l’UNESCO prévoit :

– que chacun doit avoir accès aux enregistrements de ses données personnelles et doit être en mesure de les effacer ; la norme renforce également la capacité des organismes de réglementation à faire respecter ces dispositions.

– une interdiction explicite de l’utilisation de systèmes d’IA pour la notation sociale et la surveillance de masse. La Recommandation souligne que, lors de l’élaboration de cadres réglementaires, la responsabilité et l’obligation de rendre des comptes devraient toujours incomber aux êtres humains en dernier ressort et les technologies de l’IA ne devraient pas être dotées elles-mêmes d’une personnalité juridique.

– l’évaluation de l’impact éthique. De plus, la Recommandation encourage les États membres à envisager de mandater un responsable de l’éthique de l’IA indépendant ou un autre mécanisme pour superviser des audits et effectuer une surveillance continue.

Crédit Photo : UNESCO/Christelle Alix