[ANALYSE] De quoi un cyborg peut-il être responsable?

Le cyborg n’est pas un androïde, ni un humanoïde, il est un humain augmenté mécaniquement. Il n’est pas non plus un objet de la science-fiction, il existe réellement et fera bientôt partie de notre quotidien. La cybérologie est déjà enseignée dans certaines universités. 

L’humain augmenté par l’intelligence artificielle peut automatiser ses propres fonctions cérébrales. Il modifie ses performances intellectuelles et les rend accessibles pour l’apprentissage machine. Ainsi, que ce soit sous forme d’implants ou de prothèses, le transhumanisme semble être bien présent.

« Pour l’instant, l’objectif est de contrôler un téléphone intelligent par la pensée, mais la technologie pourrait s’étendre à d’autres dispositifs de façon à créer une cognition surhumaine.»
Elon Musk

LA MACHINE COMME EXTENSION DE L’HUMAIN

Le cyborg est la réalisation concrète de la technologie comme extension de l’individu. La production d’outils et d’innovations technologiques n’est plus considérée comme une production externe à nous. Le cyborg est un prolongement de soi. Pour la morale, l’externalisation des technologies a permis de justifier, en quelques sortes, l’innocence de la technique. Cependant, Bruno Latour, professeur émérite associé au médialab de Sciences Po (France), nous amène à réfléchir sur cette fausse distinction entre fins et moyens.

Il montre d’une part que les moyens technologiques ont changé les fins initialement posées. Les fins représentent les valeurs contenues dans nos objectifs, autrement dit, les intentions. Le progrès nous fait dériver car nous nous modifions à travers lui.

« Pas plus que la technique, la morale n’est humaine, en ce sens qu’elle proviendrait d’un humain déjà formé et maître de soi.»

Bruno Latour

D’autre part, il nous explique pourquoi les questions morales sont au centre des technologies. Il évoque le fait que nous avons voulu être maîtres et possesseurs de la nature ; mais nous ne possédons pas cette maîtrise complète.

LA PLACE DE L’ÉTHIQUE

Pour les questions morales, si la technique est un prolongement de soi, les objets techniques doivent avoir des visées moralement bonnes. Mais, comme les fins initiales sont constamment altérées par les moyens techniques, il faut être en mesure de revoir les objectifs de départ. L’éthique a le devoir d’évaluer les valeurs incluses dans les systèmes afin d’en connaître les modifications.

On entend souvent, lors d’un scandale, que (par exemple) l’intention de départ n’était pas d’en arriver à une arme de guerre. Évaluons donc comment les intentions sont modifiées au fur et à mesure des innovations.

« Les transhumanistes présument que ce qui rend les décisions légitimes, c’est qu’elles reflètent les valeurs et les priorités de leurs décideurs.»
Susan B. Levin – Professeure en sciences humaines – Smith College. 

Les objets technologiques ne peuvent plus être innocents car ils sont une extension de nous-même. Par ailleurs, le fabricant ne peut pas porter tout le fardeau des conséquences négatives de son produit. Le produit suit une trajectoire indéfinie. Alors, dans cette zone grise, tout est permis. Mais l’absence de lois ne doit pas conduire à des désastres humanitaires.

Admettons, par exemple, que la seule valeur et priorité d’un fabricant soit l’utilitarisme. Son produit serait alors légitime tout simplement parce qu’il maximise les biens matériels de la société, sans égard aux autres conséquences. Cela pose la question de la responsabilité. Et si nous parlons de responsabilité en intelligence artificielle, il faut comprendre que nous devons établir des normes dans un contexte évolutif.

DES EXEMPLES DE CYBORGS

LA SANTÉ

Les techniques pour soigner les amputés de guerre ont évoluées grâce aux techniques cybernétiques. Les commandes du cerveau sont automatisées et augmentées par des algorithmes. Les amputés bénéficiant de ce type de prothèses retrouvent la marche, la préhension de leur main ou bien d’autres fonctions corporelles.

Un des premiers Cyborgs se nomme Neil Harbisson (voir image en titre). Cet homme est né avec la maladie de l’achromatopsie. Il s’agit d’une carence complète de la vision des couleurs. En tant que cyborg, il est aujourd’hui capable de les apercevoir. Un “oeil”, appelé eyeborg, lui est implanté. Grâce à des variations d’ondes musicales, il peut interpréter les couleurs. Il entend les nuances et il lui arrive même – sans jeu de mots – de rêver en couleurs.

Un autre cyborg précurseur est Jesse Sullivan. C’est un amputé de guerre ayant perdu son bras. Aujourd’hui, grâce à une main bionique connectée à son système nerveux, ce “cyborg” peut contrôler son bras à partir de son propre cerveau. Jesse Sullivan parvient même à sentir le chaud, le froid et même la pression physique de son poignet amputé.

« Des singes, connectés, sont capables de penser ensemble et de coopérer sous contrôle.»
Jessica Hamzelou

On va même jusqu’à une forme de télépathie grâce aux implants. Des expériences ont été faites sur des animaux et sont maintenant en cours sur des humains pour “relier” plusieurs cerveaux ensembles.

UN OUTIL DE GUERRE

Bien sûr le milieu militaire est en avance sur ces technologies. Alors que des droïdes sont développés en vue de devenir autonomes, des procédés visant à augmenter la puissance d’un humain suivent la même évolution.

À Davos, au dernier Forum Économique, une discussion sur l’avenir des cyborgs a soulevé des questions éthiques. Il était question d’implants rétiniens augmentant le sens de la vision des soldats. Les premières questions éthiques concernaient avant tout la liberté individuelle des soldats. La principale question qui en est ressorti est celle de l’intégrité individuelle.

« Parmi les interrogations concernant les cyborgs il y a celle de leur arrivée sur les champs de bataille.»

Yohan Demeure

Bien que cette question soit importante pour les soldats, il faut également se questionner sur les impacts sociaux reliés à l’élaboration de tels cyborgs de guerre. Par exemple, la question de savoir qui porterait la responsabilité des actions était totalement absente lors de cet échange.

CONCLUSION

La technique n’est pas tenue responsable des conséquences qu’elle entraîne, mais les objets techniques, eux, le deviennent. Un humain possédant un implant lui permettant de lire les informations d’un autre cerveau devient plus qu’un humain ordinaire. C’est pourquoi sa moralité également devra être augmentée.

 

BIBLIOGRAPHIE

Demeure, Yohan, La prochaine étape pour l’homme : l’ère du cyborg, Sciencepost, juin 2017.

Forum Économique 2020, When Humans Become Cyborgs.

Hamzelou, Jessica, We will soon be able to read minds and share our thoughts, NewScientist, dec 2016.

Latour, Bruno, La fin des moyens, Réseau, 1999.

Levin, Susan, Playing to lose: transhumanism, autonomy, and liberal democracy, Oxford University Press’s, janvier 2021.

Musk, Elon, Elon Musk says humans must become cyborgs to stay relevant. Is he right?, The Guardian.

 

 

 

 

 

Laisser une réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *