MobiliT.AI : “L’IA de confiance”, un concept vedette au forum sur la mobilité et la sécurité

La troisième édition du forum MobiliT.AI réunit actuellement plus d’une trentaine de conférenciers et conférencières de partout autour du monde pour discuter des défis de l’intelligence artificielle dans les systèmes critiques. La confiance dans l’IA est au coeur des attentions. 

En mode hybride (en virtuel sur la plateforme Swapcard et en présentiel à la Salle des promotions du petit séminaire de Québec), MobiliT.AI offre jusqu’à demain soir jeudi des conférences sur l’IA dans le domaine de la mobilité dont l’aéronautique, l’aérospatial et les véhicules autonomes. Sont aussi abordés les enjeux du respect de la vie privée, de l’explicabilité de l’IA et… de l’IA de confiance. Un thème devenu indissociable des aspects plus techniques de l’IA.

“L’IA de confiance” au coeur des discussions

L’IA de confiance est un concept phare dans le cadre de cet événement. Présenté comme essentiel au développement et à l’adoption des systèmes de prise de décision critiques qui prévalent dans le domaine de la mobilité, le concept a été décortiquée par Philippe Molaret, directeur technique de Thalès, et Abdé Essaidi, vice-président exécutif de Axionable.

Selon lui, l’IA de confiance est au cœur des préoccupations des entreprises : 70 % d’entre elles se positionnent en faveur de la réglementation de l’IA, 30 % anticipent l’utilisation et la gouvernance de l’IA par des changements organisationnels, et 35 % sont en faveur de l’instauration d’un label maximisant la confiance dans les solutions à base d’IA. 

Philippe Molaret appuie l’idée que la confiance dans les systèmes d’IA est importante dans une foule de domaines et une multitude d’applications : la mobilité, dans les cas où les véhicules autonomes doivent par exemple savoir reconnaître des obstacles dans leur chemin et être capables de les éviter à temps, mais aussi les systèmes d’IA juridiques, qui ont un impact potentiellement négatif sur la réputation des personnes, ou dans le domaine de la santé, où d’importants risques sont liés à la prise de décision des machines.

Mobiliser les acteurs de la mobilité autour de ce concept

L’IA de confiance est présentée comme “holistique” et semble déjà une préoccupation de plusieurs acteurs de la mobilité. Les gouvernements ont le rôle de réglementer l’utilisation et les développements de l’IA, tandis que les auditeurs et les tiers de confiance créent et encouragent la création de certifications et de labels directement liés aux enjeux de confiance découlant de l’IA.

Les développeurs de solutions, pour répondre adéquatement aux besoins de leurs clients, doivent proposer des solutions d’IA robustes, performantes, éthiques et responsables : pour ce faire, elles démarrent des périodes d’amélioration continue et investissent dans la recherche et le développement à long terme. 

« La confiance, dans le domaine de l’IA, se définit par sept principes clés : les contrôles humains, la robustesse et la sécurité, la conformité et la gouvernance, l’explicabilité et la traçabilité, la diversité et l’équité, l’impact social et environnemental, et les responsabilités associées au traitement.»

– Abdé Essaidi, Vice-président exécutif, Axionable.

Pour M. Essaidi, l’application de ces principes dans les solutions, les services et les produits de l’IA font déjà état d’un retour sur investissement à court et à moyen terme. En s’assurant en amont de suivre une feuille de route d’IA de confiance, les questions posées en cours de développement diminuent, et l’efficacité opérationnelle est ainsi décuplée. De plus, un traitement objectif des risques lors du développement permet de mitiger ceux-ci de manière plus rapide et efficace.

Mettre de l’avant la responsabilité sociale des entreprises

La responsabilité sociale et économique appliquée par les entreprises permet de réfléchir plus tôt que tard à une utilisation intelligente des ressources énergétiques, tandis que l’adoption des solutions d’IA par les utilisateurs est beaucoup plus facile quand ces solutions sont faciles à expliquer.

Finalement, l’IA de confiance permettrait de faire rayonner l’image des entreprises aux employés potentiels et à celles et ceux qui œuvrent dans le domaine, pour qui les valeurs de l’entreprise sont très importantes. 

Les deux conférenciers sont unanimes : l’IA de confiance gagne actuellement un momentum certain, mais il faut s’assurer que les concepts qui la définissent convergent en des pratiques communes qui seront à la fois réalistes et réalisables pour tous.

Les conférences de MobiliT.AI se poursuivent les 18 et 19 mai. Le programme détaillé est disponible en ligne. 

Crédit Image à la Une : Ishan @seefromthesky / Unsplash