Éthique et intelligence artificielle : la nécessité de faire une pause

Éthique et intelligence artificielle : la nécessité de faire une pause

Dans un monde en perpétuelle évolution technologique, il apparaît parfois nécessaire de s’interroger sur le besoin de ralentir. La pandémie mondiale n’a pas été sans rappeler à tout un chacun ce besoin fondamental de faire une pause.

L’intelligence artificielle qui repose sur un ensemble de systèmes imitant l’intelligence humaine, a connu ces dernières années, une véritable révolution. Considérée comme l’un des pôles de développement majeur au Québec, la recherche en IA est un domaine en plein essor. Outre les nouvelles avancées scientifiques majeures, l’IA soulève des questions éthiques face à l’utilisation de technologies qui laisse présager des transformations importantes au sein de sphères professionnelles aussi diverses que variées.

L’intelligence artificielle, un équilibre entre vices et vertus

L’éthique de l’intelligence artificielle se caractérise par trois grandes composantes parmi lesquelles on trouve le conséquentialisme, la déontologie et l’éthique de la vertu.

L’audace, le courage ou encore la compassion sont des vertus que l’on retrouve en IA. Et comme toutes choses, elles doivent aussi avoir des limites de façon à encadrer le développement d’une IA responsable et d’éviter l’apparition de ce qu’on appelle un vice.

« Il est parfois impossible de faire l’inventaire de toutes les situations potentielles qui pourraient arriver en IA, ce qui peut rendre compliqué le fait d’établir des cadres éthiques. C’est le cas par exemple des voitures autonomes », explique Patricia Gautrin, candidate au doctorat en éthique de l’IA à l’AlgoraLab.

L’implantation de vertus en IA pose alors la question des scénarios du pire, qui selon Patricia Gautrin, sont des éléments essentiels de l’éthique de l’IA.

«  Comment l’IA est-elle capable de nous changer en tant qu’individu, conditionné ou non ? Comment cela peut nous faire penser différemment ? Si l’on prend l’exemple d’un GPS, c’est assez frappant de constater qu’on perd une certaine capacité à concevoir notre espace. Si l’on observe les enfants venus au monde alors que l’IA était déjà omniprésente, on peut s’apercevoir qu’ils ont une façon différente d’appréhender la réalité et les technologies mais aussi leur identité personnelle  »

– Patricia Gautrin, Candidate au doctorat en éthique de l’IA à l’AlgoraLab

Vers une éthique de l’intelligence artificielle

Patricia Gautrin est également l’auteure d’un livre intitulé « PAUSE, pas d’IA sans éthique » qu’elle définit elle-même comme une introduction à ses travaux de recherche.

« Je m’intéresse notamment à la compassion. Je cherche à savoir comment on peut la définir, quels sont les indicateurs qui peuvent la caractériser et quelles sont ses limites. Ce sont des recherches en développement actuellement. Ce qui m’intéresse surtout c’est de traduire la vertu comme telle de façon à être capable de l’opérationnaliser et de l’intégrer dans un système », raconte Mme Gautrin.

Des robots psychologues aux bracelets connectés en passant par les peluches pour aider à lutter contre l’anxiété, l’IA trouve de plus en plus sa place dans les usages du quotidien. Science récente, l’IA est une discipline transverse qui combine des domaines tels la politique, la philosophie ou encore l’éthique de la guerre. Si l’IA représente un atout pour le développement d’innombrables applications dans nos sociétés, elle soulève également autant d’enjeux auxquels l’éthique fondamentale s’intéresse.

Patricia Gautrin. (photo: Priscilla Freschu)

Dans la première partie de son livre, l’auteure s’attache à décrire les impacts de l’IA sur la société, qu’ils soient sociologiques, politiques ou bien psychologiques. Elle s’interroge sur les effets de toutes les applications de l’IA dans nos perceptions et nos rapports à l’environnement.

« Comment l’IA est-elle capable de nous changer en tant qu’individu, conditionné ou non ? Comment cela peut nous faire penser différemment ? Si l’on prend l’exemple d’un GPS, c’est assez frappant de constater qu’on perd une certaine capacité à concevoir notre espace. Si l’on observe les enfants venus au monde alors que l’IA était déjà omniprésente, on peut s’apercevoir qu’ils ont une façon différente d’appréhender la réalité et les technologies mais aussi leur identité personnelle », confie Patricia Gautrin.

L’IA modifie profondément les façons dont nous apprenons, nous vivons et les façons dont nous travaillons. Pour Patricia Gautrin, l’humanité est amenée à se transformer tout autant que la société se transforme de manière numérique.

« Nous allons posséder une identité numérique à part entière, un dossier médical numérique. Nous sommes devenus numérique », raconte Patricia Gautrin.

Faire une pause, une notion nécessaire pour sensibiliser et prendre conscience face à l’IA

En IA, il existe toutes sortes de recherches allant des nouvelles applications dans un nombre toujours croissant de secteurs, aux travaux effectués sur les humanoïdes ou les cyborgs. Il est important de rappeler que le principe de l’IA n’est pas de remplacer l’intelligence humaine.

« Il existe encore aujourd’hui, une très grande liberté en éthique de l’IA. Il est crucial de se questionner sur le développement d’approches vigilantes et éthiques se rapportant aux droits humains avant tout. Des regroupements internationaux, comme les Nations-Unis par exemple, y réfléchissent, de façon à parler un langage commun », explique Patricia Gautrin.

Ainsi, dans la deuxième et la troisième partie de son livre, Patricia Gautrin invite chacun des acteurs de la recherche en IA à faire une pause et à poser le cadre essentiel à une bonne évolution de l’IA, sans laquelle, les sociétés ne peuvent avancer à présent.

Patricia Gautrin rappelle que « ce n’est pas parce qu’on est embarqué dans un mouvement et qu’on choisit une direction, qu’il faut y aller à toute allure ».

La couverture convie le lecteur à s’interroger en mettant en avant le doigt d’un enfant et celui d’une intelligence artificielle, suggérant le besoin de faire une pause pour les générations futures.

« Faire une pause, c’est prendre conscience de la vitesse d’un mouvement et de voir à quel point les choses sont en train de changer. Faut-il encore prôner la vitesse alors que les choses vont déjà à toute allure », conclut Patricia Gautrin.

Crédit Image à la Une : Priscilla Freschu