Bientôt une norme ISO en IA… soucieuse des questions sociétales

À l’été 2023, une nouvelle norme ISO dédiée à l’intelligence artificielle (IA) verra le jour avec l’ambition de favoriser l’innovation tout en répondant aux préoccupations sociétales. Moov AI, une start-up montréalaise contribue à l’élaboration d’un guide d’application de cette norme, baptisée ISO IEC JTC 1/SC 42.

La création a toujours besoin de hasard.  « J’ai rencontré des membres du Conseil canadien des normes au cours d’un événement qui a eu lieu avant la crise liée à la COVID-19. J’ai compris à leur contact que ma start-up pouvait contribuer à l’élaboration d’une norme ISO en intelligence artificielle car Moov AI tente justement de démocratiser l’intelligence artificielle en accompagnant les entreprises dans leurs projets d’IA appliquée. »

Depuis, le trentenaire participe de façon assidue au groupe dit  ISO/IEC TS 5471 pour établir des standards qui seront appliqués au niveau mondial par les entreprises désireuses d’obtenir leur certification ISO en IA.

« L’équipe internationale, qui se rencontre en ligne mensuellement, regroupe une cinquantaine de personnes, décrit Olivier Blais. Nous travaillons ensemble sur le document TS 5471 qui sera disponible en français et en anglais. »

Les membres du groupe proviennent de tous horizons : Inde, Corée du Sud, Japon, États-Unis, Europe, Congo…  Ils sont aussi issus de métiers variés : la technologie pour la grande majorité, la qualité également, le droit…

« Cette norme est conçue avec la plus grande rigueur. Nous voulons être sûrs, avant d’émettre un document, qu’il sera utilisable par tout le monde quelle que soit la taille de l’entreprise ou l’endroit du monde où elle exerce… » – Olivier Blais, cofondateur de Moov AI

En 2023, une norme ISO en IA soucieuse des préoccupations sociétales Crédit photo : Pexels / Rodnae Productions-

L’objectif affiché par le jeune entrepreneur québécois est ambitieux : produire un document rigoureux qui s’applique même aux petites entreprises et qui prévienne les risques sociétaux inhérents à une mauvaise application de l’IA dans l’entreprise. Ainsi, le guide épousera le mouvement général qui façonne désormais le paysage de la normalisation informatique : outre la sécurité du système et sa fiabilité, la définition des exigences sur les considérations éthiques et sociétales devient incontournable. Aujourd’hui, nous ne nous contentons pas de nous concentrer sur la technique, sur certains risques éthiques prévisibles ou sur la sécurité.

« Dès la conception des guides, la qualité requiert que nous anticipions des biais que nous ne percevons, en général, qu’au moment de l’application. » – Olivier Blais, cofondateur de Moov AI

85% des projets de traitements de données (Data Science Process Alliance), y compris ceux qui font appel à l’intelligence artificielle, ne sont pas mis en production et, par conséquent, il est difficile de juger de leur réelle efficacité. Une statistique qui interpelle Olivier.
« Plus l’IA gagne en maturité et plus l’industrie va saisir l’importance d’avoir des standards pour les bonnes pratiques. » 

« Dans notre guide, nous nous assurerons que les discriminations éventuelles n’apparaissent pas au moment de l’application car nous construisons une check-list précise que les entreprises devront respecter pour éviter de telles dérives. » Olivier Blais, cofondateur de Moov AI

Le jeune montréalais l’assure : une fois que la norme aura été largement adoptée par les particuliers ou clients et, naturellement, par les entreprises au premier chef, une « firme qui aura eu la certification sera davantage prise au sérieux. »

« La norme ISO IA va plus loin que la simple notion d’image de marque. Quand le Gouvernement va choisir un prestataire pour prioriser les files d’attente dans les hôpitaux, dans les transports ou pour façonner les passeports, il s’appuiera certainement sur des fournisseurs qui seront certifiés. »

En somme, la norme ne sera pas obligatoire mais il sera conseillé de l’obtenir.

Crédit Photo : Moov AI / Olivier Blais à droite

Laisser une réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *