Alors que les tendances sexistes et racistes de l’intelligence artificielle (IA) sont de plus en plus connues, un nombre grandissant de chercheurs demandent à ce que les biais de cette technologie contre les personnes en situation de handicap (PSH) soient reconnus. Bien que souvent habilitantes, les innovations dédiées aux PSH les placent parfois dans une position vulnérable dans une société peu adaptée à leur réalité.
Le nombre de PSH dans le monde varie selon ce qui est inclus dans sa définition, mais varie généralement entre 10 et 20 % de la population mondiale. Selon le 2017 Disability Status Report de l’Université Cornell, le taux d’emploi chez les PSH est proche de 37 %, contre 79 % pour le reste de la population. Cet écart serait amplifié par l’IA.
La professeure associée à la Virginia Tech, Ashley Shew, explique que « toutes les données qui existent sur le monde reflètent les biais du monde contre les PSH ». Un sondage du Society of Human Ressource Management révélait en février 2022 que 79 % des employeurs utiliseraient de l’IA ou de l’automatisation dans leurs pratiques de recrutement. Ces méthodes accentueraient les risques de discrimination à l’emploi pour les PSH, souligne la professeure lors de l’événement Disrupting Disruptions: the Feminist and Accessible Publishing and Communications Technologies Speaker and Workshop Series de ce 7 mai.
Comprendre le capacitisme technologique
Le capacitisme est une forme de discrimination basée sur la capacité ou l’incapacité d’un individu. Ce système définit la valeur d’une personne selon des concepts sociétaux, dont « la normalité, la productivité, la désirabilité, l’intelligence, l’excellence et la forme physique », selon l’autrice Talia A. Lewis.
Le capacitisme technologique, ou « technoableism », « est souvent lié à l’idée que les PSH désirent certaines interventions précises, sans les consulter. C’est aussi croire qu’ils seront plus habilités par des outils ou approches technologiques ou médicaux», indique Mme Shew.
Les changements climatiques amplifient les problématiques liées aux situations de handicap, malgré l’avènement des technologies qui, au premier regard, semble prometteur. Les personnes déjà atteintes d’un handicap risquent d’être encore plus marginalisées. Les PSH sont d’ailleurs quatre fois plus susceptibles de mourir en cas de catastrophe.
La technologie qui augmente les capacités est vue comme inhérente à l’amélioration de la qualité de vie des PSH. Mais cette dépendance peut les mettre en difficulté dans différents cas de crises : « Lorsque nous parlons à des personnes cyborg ou en situation de handicap qui utilisent la technologie, nous réalisons leur vulnérabilité dans un contexte particulier, étant liées à des réseaux, à des systèmes de maintenance particuliers qui les laissent souvent tomber », met en garde Ashley Shew.
La technologie pour les PSH : entre habilitante et limitante
La perception de la technologie comme un incontournable positif pour les PSH les rend aussi moins prudents face à un marché dont la principale motivation est souvent financière. Les données et la santé des PSH tombent dans les mains « d’entreprises qui ne se soucient pas de vos intérêts fondamentaux et qui sont en partie soumises à l’intérêt du marché, des actionnaires, déplore la professeure. Certaines font faillite et ne vous aident plus avec ce que vous avez acheté, qui a souvent coûté très cher. Vivre avec et dépendre des technologies nous rend vulnérables. »
Les fermetures de ces firmes entraînent des conséquences majeures pour certaines PSH. En 2022, la compagnie Second Sight Medical Products a cessé de travailler sur ses implants oculaires. Résultat : Lesdits implants sont devenus obsolètes. En cas de bris, impossible de les faire réparer. Parmi les 350 patients, plusieurs ont d’ailleurs perdu leur vision artificielle. Le retrait de la technologie peut amener des complications médicales, des coûts élevés et de fortes douleurs, ce que précise le magazine technologique IEEE Spectrum dans un article.
Un cas similaire a eu lieu en Inde avec des implants cochléaires. Un programme indien avait permis à des familles vivant sous le seuil de la pauvreté d’avoir accès à ces technologies. Quelques années plus tard, quand la compagnie a choisi de ne plus soutenir les produits, certains parents n’avaient plus les moyens d’acheter de nouveaux implants, et n’avaient pas appris le langage des signes à leur enfant, qui est redevenu sourd. « On parle d’abandon programmé (planned abandonment), où des PSH qui ont pris un produit se retrouvent dans un état pire qu’auparavant », dénonce Ashley Shew.
Un produit innovant, même si elle change la vie d’individus, peut être retiré du marché avec peu de préavis, sans alternative de rechange. Pour exemple, une Australienne, a qui on a retiré contre son gré un implant cérébral qui réduisait son taux de crise d’épilepsie. Cela lui a laissé d’importantes séquelles, et soulève des questions quant aux droits fondamentaux liés à la santé.
« Nous devons ralentir notre course vers des choses plus technologiques, surtout lorsque nous avons échoué à maintes reprises dans ce domaine auparavant. »
– Ashley Shew, professeure associée à la Virginia Tech
La dépendance à l’électricité peut aussi être un risque pour les PSH. Durant l’Action de grâces de 2019, la compagnie Dewcom a connu une panne de courant majeure. Les patients, qui dépendent de la technologie pour gérer leur diabète et mesurer leur taux de glycémie, n’ont pas été correctement informés du problème.
Vers une vision plus holistique
La technologie ne peut être la seule solution pour répondre aux défis auxquels font face les PSH. Un regard plus large et un changement de perception au sein de la société, qui n’est pas adaptée aux PSH, sont plus que nécessaires. Le constant besoin de créer des gadgets innovants pour les PSH est une réponse à une société capacitiste qui n’a jamais été construite ou pensée en fonction de ces différences.
« Nous devons centrer les PSH comme existantes dans le futur, où le handicap n’est pas une limite. Mais cela ne suffit pas. Nous devons anticiper les données dont nous disposons et la manière dont elles dénaturent souvent les personnes handicapées, leur font défaut et les mettent dans des positions très précaires. Nous devons ralentir notre course vers des choses plus technologiques, surtout lorsque nous avons échoué à maintes reprises dans ce domaine auparavant », conclut Ashley Shew.
Crédit Image à la Une : Marcus Aurelius – Pexels
