Les technologies utilisées dans les soins de santé sont de plus en plus avancées. L’intelligence artificielle commence à s’imposer dans ce milieu, notamment dans le diagnostic des cancers, de la peau et de la prostate. Cette intégration des machines dans le processus médical n’est toutefois pas à prendre à la légère. Elle soulève de nombreux enjeux éthiques qui doivent être étudiés. C’est d’ailleurs la mission que s’est donnée la Commission de l’éthique en science et en technologie au Québec. Décryptage.
Actuellement, l’IA touche plusieurs secteurs de la santé, tels que la recherche, l’organisation des soins, ainsi que les applications mobiles et les objets connectés. Par contre, les membres de la Commission ont préféré concentrer leur recherche sur l’IA dans la prestation des soins cliniques.
UN PROCESSUS COMPLEXE
La Commission est composée de 13 membres, dont un président. Ceux-ci proviennent des milieux de la recherche universitaire et industrielle, et possèdent une expertise en éthique. Ce groupe s’occupe de choisir les sujets étudiés, d’en évaluer la pertinence et de proposer des orientations possibles. Les idées proviennent des demandes d’un ministère, ou d’une proposition d’un conseiller ou d’un membre de la commission.
Ensuite, un professionnel au secrétariat met sur pied un comité de travail. « Nous les approchons. S’ils sont intéressés, ils vont accepter de participer bénévolement aux travaux. Normalement, un gros dossier comme celui-ci, qui va déboucher sur un avis d’une centaine de pages, ça va nécessiter environ sept ou huit rencontres avec le comité d’experts, » explique David Hughes, conseiller en éthique et professionnel au secrétariat pour ces travaux.
Les experts étudient principalement les enjeux éthiques soulevés par la question. Ils observent également si les lois connexes à ce sujet sont suffisantes. Ensuite, ils transmettent leurs recommandations aux membres de la Commission. Ceux-ci se basent sur ces suggestions pour rédiger l’avis final, publié et transmis aux ministères et institutions concernés.
UNE ÉTUDE SPÉCIALISÉE
L’intégration de l’IA dans les dispositifs médicaux permet d’appuyer plusieurs fonctions médicales. Celles visées par la réflexion du comité sont la prédiction, le diagnostic, le pronostic, et le choix thérapeutique.
M. Hughes donne comme exemple un modèle d’apprentissage profond créé par des chercheurs américains en 2019. Il serait capable de prédire, à partir d’une mammographie, si une patiente est susceptible de développer un cancer du sein au cours des cinq prochaines années.
La Commission s’intéresse surtout au domaine de l’oncologie. Elle englobe également les trois autres spécialités étudiées, soit la radiologie et la médecine nucléaire, la pathologie computationnelle, ainsi que la génétique médicale et la pharmacogénétique. « Ce sont les spécialités qui vont pouvoir le plus contribuer à de l’information pour les systèmes d’intelligence artificielle, » souligne le conseiller.
DES ENJEUX IMPORTANTS
Lors des travaux, M. Hughes proposera au comité six enjeux éthiques.
- La qualité: Elle inclue la fiabilité de l’IA ainsi que la sécurité des données. La neutralité est également importante, puisque des biais peuvent être introduits lors de la programmation ou l’entrainement des systèmes. Or, les données doivent être représentatives de la diversité de la population.
- L’autonomie des patients et des professionnels de la santé: Le détail des résultats obtenus par la machine n’est pas toujours clair pour le médecin. L’autonomie du patient est donc mise à l’épreuve lorsque celui-ci doit consentir à un traitement, sans connaître précisément les raisons qui le motivent. Il y a également une crainte de perdre l’aspect humain de la médecine si l’automatisation va trop loin.
- La relation patient-médecin : L’utilisation de l’IA remet en question la place du médecin dans la relation d’aide. Alors que certains estiment qu’il aura plus de temps pour le côté humain de son travail, d’autres craignent qu’il perde tout son temps à faire de la saisie de données.
- La responsabilité et l’imputabilité : L’IA peut d’abord nuire à la transparence, si par exemple, les médecins ne sont pas en mesure de comprendre et d’expliquer clairement les résultats obtenus par la machine. Le secret commercial peut également être problématique. En effet, il sera difficile pour les évaluateurs d’accéder aux algorithmes conçus par les fabricants. En cas d’accident, il sera aussi difficile d’attribuer la responsabilité. Elle implique beaucoup de facteurs et de personnes, autant chez les programmeurs que chez les professionnels de la santé.
- La justice: Le comité devra évaluer à quel point l’IA va contribuer à réduire ou accroitre les inégalités sociales et de santé. La machine permettra aussi de faire des profils de risque individualisés, grâce à des modèles de prédiction par exemple. Le système actuel mutualise les risques dans une assurance publique, mais ces profils pourraient faire changer ce fonctionnement. Par exemple, les personnes à risque pourraient payer plus cher que celles moins à risque.
- L’accès et la protection des données: Il est important de trouver un équilibre entre l’exploitation des données au bénéfice de la santé, et la protection des données et de la vie privée. En effet, l’IA est en mesure de prendre des renseignements anodins, et d’en déduire des informations sensibles. Elle est donc capable d’identifier des personnes dont les données étaient supposément anonymes. Ainsi, la question de la cybersécurité devient également essentielle.
UNE COMMISSION À VENIR
Reportés à cause de la pandémie, les travaux devraient débuter à l’automne. Pour l’instant, David Hughes a rassemblé des professionnels en IA et en gestion de soins, des médecins, des éthiciens et des juristes. « En ce moment, on a des grosses pointures connues. Mais je ne suis pas certain qu’ils vont être tous disponibles quand je vais repartir, » mentionne-t-il.
Les conclusions tirées lors des Commissions s’adressent normalement aux ministères provinciaux. Dans ce cas-ci, elles seront aussi utiles pour ceux qui évaluent et donnent leur approbation pour l’utilisation d’appareils et dispositifs médicaux, comme Santé Canada et l’INESSS.
