Un système d’aide à la décision (SAD) à base d’intelligence artificielle (IA) est un outil informatique qui peut analyser de vastes ensembles de données pour fournir des prédictions, qui seront ensuite analysées par un utilisateur afin de mettre en place une action. Dans l’industrie, ces systèmes s’imposent comme des leviers stratégiques, apportant des solutions dans divers domaines comme la manufacture, la logistique, la gestion du territoire ou encore la médecine. La disponibilité et la complexité croissantes des données dépassent parfois la capacité d’un humain seul à analyser une problématique, ce qui limite alors le traitement manuel de ces données. Ces enjeux soulignent alors la nécessité de concevoir des SAD adaptés.
Pour lire la chronique telle que parue initialement dans la revue animée et interactive LES CONNECTEURS :
Or, si l’IA apporte une aide précieuse, elle ne se substitue pas à la prise de décision humaine. Ce sont les experts qui interprètent les prédictions fournies et orientent les choix stratégiques, en s’appuyant sur l’IA pour optimiser leurs décisions.
Un cas d’usage pour mettre en lumière des enjeux de conception
Prenons l’exemple d’un coordonnateur d’étude clinique, qui aurait le mandat d’organiser une grande étude clinique. Il pourrait avoir recours à un système d’IA, avant même le début de l’étude, afin de prioriser les actions stratégiques et ainsi réduire les risques d’échec, optimisant alors le déroulement des travaux de recherche. Ces actions peuvent inclure l’acceptation ou le refus d’un contrat, ou encore l’ajustement du protocole de l’étude en fonction de risques jugés trop élevés. Ici, ce coordonnateur est assisté par un système d’IA qui peut analyser des centaines de variables décrivant l’étude proposée, en tenant compte de nombreux facteurs de risque que l’humain ne pourrait pas appréhender dans leur ensemble.
Un « cas d’usage » désigne une situation d’interaction entre un utilisateur et un système dans le but d’atteindre un objectif précis
Ce cas d’usage soulève des enjeux cruciaux en matière de conception de systèmes d’IA. Le premier relève de l’incertitude des causes d’échec : il s’agit de comprendre quels éléments influent sur le déroulement d’une étude clinique, à quel moment et pour quelles raisons. Le succès d’une étude clinique semble dépendre fortement des valeurs de quelques facteurs de risque clés, et le moindre changement subtil de ces derniers peut faire basculer une réussite vers un malheureux échec.
Le second est lié, comme pour tout système d’IA, à la qualification des données, visant à maximiser leur qualité et leur pertinence pour générer des prédictions fiables.
Enfin, le troisième enjeu est la nécessité absolue pour l’utilisateur de prendre des décisions en toute confiance. Dans ce contexte, il est essentiel de définir ce que signifie la confiance pour un système d’IA et comment celle-ci se manifeste à travers ses prédictions.
Quelques clés pour concevoir un système d’aide à la décision (SAD)
Garantir un haut niveau de confiance dans la conception d’un système d’aide à la décision nécessite l’application rigoureuse de bonnes pratiques à chaque étape du développement. La confiance est une qualité qui se construit progressivement, tout au long de la conception. Cette section expose quelques idées clés parmi l’ensemble des bonnes pratiques issues de l’expertise du Centre de recherche informatique de Montréal (CRIM).
- La première clé consiste à créer une synergie multidisciplinaire : experts du domaine d’affaires, spécialistes en IA, et utilisateurs finaux. Ce croisement des connaissances et des profils techniques permet de cerner avec précision les besoins d’affaires, en tenant compte des prérequis nécessaires aux méthodes d’intelligences artificielles nécessaires tout en assurant que le système est adapté aux utilisateurs.
- La seconde clé consiste à cartographier les besoins à travers une série d’analyses approfondies, en étudiant dans un premier temps l’importance du processus décisionnel vis-à-vis du domaine d’affaires : quels sont les éléments critiques, les enjeux implicites, et les répercussions possibles des décisions? Dans un second temps, en connaissance du processus décisionnel, une évaluation précise des requis en matière de confiance (également connue sous l’appellation d’IA de confiance) permet de traduire des besoins en fonctionnalités clés à intégrer dans le système d’aide à la décision. Ces fonctionnalités peuvent être conçues dans différents formats, comme une documentation technique du système, qui permet d’exposer les éléments de confiance, des outils d’explication des prédictions, ou encore des outils graphiques illustrant les choix décisionnels du système.
- La troisième clé consiste à adopter une méthode qui se déroule en plusieurs étapes, avec des objectifs clairs. D’abord, il s’agit de créer un modèle simple de notre outil (appelé SAD) pour mieux comprendre quelles données sont nécessaires et comment il doit fonctionner. Cela nous aide à nous assurer que l’outil répond vraiment aux besoins des utilisateurs. Pour garantir que le SAD est conforme aux attentes, il est primordial de planifier des cycles d’évaluation continue. Les utilisateurs finaux, en effet, sont les seuls à pouvoir juger de l’utilisabilité du système. Des retours réguliers permettent d’ajuster les fonctionnalités afin de maintenir leur pertinence, l’accessibilité et l’intuitivité. En adoptant ces pratiques, on crée un système non seulement performant, mais aussi digne de confiance et pérenne pour ses utilisateurs.
En somme, la conception de systèmes d’aide à la décision repose sur un équilibre délicat entre la puissance technologique de l’IA et la confiance des utilisateurs, fondée sur la transparence et la fiabilité des prédictions. Le cas d’usage que nous venons d’examiner, tiré du Livre blanc sur l’IA de confiance du CRIM, démontre que ces systèmes ne sont pas simplement des outils sophistiqués : ils redéfinissent le processus décisionnel en intégrant une expertise humaine accrue. Dans un monde où les données et les défis se complexifient, la conception des systèmes d’aide à la décision doit s’inscrire dans une vision éthique et collaborative au service d’une prise de décision plus éclairée.
Crédit Image à la Une : Microsoft Designe (IA)
