Les implications éthiques et potentielles de l’IA en psychiatrie moderne

Les implications éthiques et potentielles de l’IA en psychiatrie moderne

Dans un monde où l’IA change le visage de différents domaines de santé, tels que la psychiatrie, d’importantes questions sur les implications éthiques se posent. Au-delà des promesses des innovations se cachent des préoccupations cruciales quant à la protection des données, l’acceptabilité sociale et la voix des patients dans le processus de développement et d’utilisation des outils psychiatriques.

La doctorante en bioéthique à l’Université de Montréal, Josianne Barrette-Moran, explique en préambule que l’avènement des technologies, dont l’IA, a amené certains changements dans le domaine de la recherche en psychiatrie. « Si avant nous nous intéressions en tant que chercheur à une technologie à la fois. En ce moment, nous devons considérer que cela est rendu impossible, avec de gros serveurs qui encaissent un nombre infini de données. Nous devons en étudier plusieurs en même temps, et penser à leur interaction entre elles », remarque-t-elle.

Avec des objets connectés variés allant des téléphones aux ordinateurs en passant par les appareils électroménagers et des consoles de jeux vidéo, l’omniprésence de la technologie ajoute une grande quantité de données à analyser. Si celles-ci étaient rassemblées dans un même algorithme, un nombre grandissant d’observations pourrait être fait sur les comportements d’une personne afin d’obtenir des données de référence, surtout lorsque mis en comparaison avec l’état réel rapporté par cette personne.

« Il faut tout prendre avec un grain de sel, mais avec ces baselines, on pourrait quasiment en venir à prédire des comportements ou à prévenir certains symptômes, puis c’est ce qui est proposé, pour l’avenir proche. Mais il faut vraiment bien y penser, parce qu’il y a trop de chances de (se tromper) en route, donc il faut vraiment y réfléchir en amont, de façon éthique », précise Mme Barrette-Moran, qui s’intéresse dans ses recherches aux rôles intermédiaires des technologies dans l’expérience des utilisateurs.

Entre normes et réalités individuelles

Dans cette logique de prendre les résultats « avec un grain de sel », Mme Barrette-Moran nomme différents biais à prendre en compte en recherche et en développement de technologies en psychiatrie. Il peut y avoir un décalage entre le soi quantifié (dépeint par les données) et le soi ressenti.

Ce décalage provient du fait que les algorithmes sont souvent basés sur des comportements moyens et sur une idée de la norme.

« Quand on est quelqu’un de moindrement marginal et qu’on ne s’inscrit pas dans la moyenne, cela ne veut pas dire que notre expérience n’est pas digne d’intérêt, qu’elle n’est pas correcte ou qu’elle est malsaine. »

– Josianne Barrette-Moran, doctorante en bioéthique à l’Université de Montréal

Elle donne l’exemple des applications qui surveillent et pistent le cycle menstruel. Les données mises dans l’algorithme de ces plateformes peuvent présupposer des cycles de 28 jours, altérant l’expérience des certains utilisateurs n’ayant pas un cycle de cette longueur prédéterminée. Pour plusieurs, les algorithmes liés à des normes entraînent la réception de conseils décalés ou qui ne s’appliquent pas à l’utilisateur.

« Dans cet exemple, la personne risque de se désabonner puis arrêter d’utiliser l’application, Dans des programmes de psychiatrie, il y a la question de l’adhérence. Est-ce que la personne va continuer ses soins? Est-ce qu’elle va croire que c’est nécessaire, que c’est utile, que c’est pertinent? Il faut s’arranger pour que oui », insiste la chercheuse.

Le potentiel de l’IA en psychiatrie

Les technologies présentes en aide psychiatrique prennent différentes formes. Si, pour le moment, les agents conversationnels sont l’une des formes d’IA les plus prédominantes en la matière, il n’est pas impossible d’imaginer qu’un jour, l’IA pourrait être appelée à réagir et peut-être même à intervenir.

Métavers et santé globale : miser sur la technologie, la prévention, l’éthique et la durabilité

Grâce à l’IA, il est possible d’avoir de plus amples données d’analyse comportementales ou psychiques fournies par des objets connectés et par de nouvelles solutions qui « analysent en temps réel les expressions faciales, les attitudes posturales et les caractéristiques acoustiques pouvant identifier la souffrance psychique

Cette pluralité grandissante de données a un fort impact. « (Avant), les thérapeutes et les chercheurs se fiaient à ce qui était rapporté dans leurs interactions avec leurs usagers et leurs patients. Alors qu’aujourd’hui, avec le phénotypage numérique, ils pourraient avoir accès à des journées complètes de données. Cela pourrait vraiment changer le visage de la recherche en psychiatrie. »

Éthique et techno-invasion

Même si les technologies sont prometteuses quant au côté préventif en psychiatrie, un sentiment de techno-invasion est néanmoins rapporté chez différents utilisateurs alors que différents objets connectés sont perçus comme intrusifs. Avec le développement rapide de l’IA et de la mégadonnées, ou «big data», dans divers domaines de la santé, la question éthique du consentement et de la protection des données redouble d’importance.

Josianne Barrette-Moran recommande d’adopter pour cela une approche plus participative auprès des patients, comme « faire des tables rondes sur l’acceptabilité sociale, la désirabilité, les risques et les bénéfices perçus (est important). Un patient ne va pas voir les mêmes risques et bénéfices qu’un psychiatre, donc c’est important d’avoir l’autre côté de la médaille. »

Selon elle, ces discussions avec les patients, qu’elles soient anonymisées ou non, favorisent l’émergence de réponses authentiques dépassant les préjugés. Comprendre les délimitations entre « l’utile, l’intrusif et l’acceptable, (éclaire quant) aux compromis que les communautés concernées sont prêtes à faire au nom de la technologie en psychiatrie. »

Crédit Image à la Une : Priscilla Du Preez, Unsplash