Dans son plus récent essai, l’auteur Martin Gibert (Voir son steak comme un animal mort, 2015) s’intéresse aux enjeux éthiques liés à la programmation des différentes intelligences artificielles qui nous entourent. Entretien.
Le hasard fait-il si bien les choses?
En 1967, la philosophe Philippa Foot invente le désormais fameux dilemme du tramway:
Un tramway sans frein va tuer cinq travailleurs. Il est possible de détourner le tramway sur une autre voie. Malheureusement, il s’y trouve un autre travailleur voué à une mort certaine si on l’enclenche. Faut-il quand même le faire?
Cinquante ans plus tard, la question théorique se transforme en véritable enjeu de programmation. Une voiture autonome dotée d’une capacité d’analyse accélérée devra-t-elle happer l’enfant ou le vieillard si celle-ci se retrouve dans un accident inévitable? Que décide-t-on dans un tel contexte?
Parmi les approches suggérées, il y a celle du hasard; à savoir, programmer une décision randomisée afin d’éviter de déterminer la valeur d’une vie dans ce contexte d’accident hypothétique.
“Dans certaines situations, on ne sait pas c’est quoi la bonne chose à faire.” nuance Martin Gibert. “Quand on est face à un dilemme, le hasard paraît une bonne procédure de décision. Ce n’est pas nécessairement la bonne action, mais une procédure de décision envisageable.”
FAIT SAILLANT: Le département des Transports aux États-Unis a établi la valeur d’une vie à neuf millions de dollars. Toujours bon à savoir.
L’usine à trombone, cette boîte de Pandore
“Il n’y a pas de rapport entre l’intelligence d’une entité, qu’elle soit humaine, non-humaine, artificielle, entre le niveau de cette intelligence et les objectifs qu’elle cherche à atteindre,” explique le chercheur en éthique. “On pourrait avoir une super-intelligence avec des objectifs complètement stupides.”
L’intelligence artificielle nous expose aux limites même de la notion d’intelligence. Un robot voué à la création de trombones serait-il prêt à remplir l’univers de trombones, si telle est sa mission? Les humains peuvent-ils servir de matière première pour la confection de trombones? L’intelligence interdira-t-elle à ses créateurs de la débrancher si ce geste interrompt la raison d’être du manufacturier têtu? Il faut envisager tous les possibles même s’ils ne sont pas plausibles.
“C’est pas si simple de contrôler une super-intelligence.” explique l’auteur. “Par définition, elle va penser plus vite et plus loin que les humains qui l’ont construit au départ. Comment contrôler une chose beaucoup plus intelligente que soi?”
Éviter les “robots biberonnés au patriarcat”
Le milieu des technologies est souvent décrit comme un boys club, et afin d’éviter la reproduction d’injustices, Martin Gibert revendique la diversité au sein des équipes de programmation.
L’auteur donne l’exemple de Google qui a modifié les résultats lorsqu’on recherche “CEO” (PDG) dans sa barre de recherche, afin de représenter autre chose qu’un homme blanc en cravate.
On ne veut pas qu’un programme reproduise du data biaisé, si celui-ci normalise l’iniquité salariale parce que celle-ci est répertoriée sans appel à modification dans nos bases de données.
“Ce n’est pas une fatalité. Mais ça prend du temps à le corriger dans le monde et dans l’algorithme”, explique Martin Gibert.
D’Artistote à Aristotle
Il n’y rien d’hypothétique dans la notion d’une coexistence avec l’intelligence artificielle, comme le démontrent nos utilisations d’Alexa, de Siri, du controversé Artistotle ou de Nao le robot. Les robots sont ici, et il faut envisager un rapport moral à leur égard.
Faire la morale aux robots est une lecture rapide, pertinente et actuelle qui prend quand même le temps de nous donner du contexte en matière d’intelligence artificielle.
Il s’agit d’une lecture humaine et rigoureuse de l’état des choses en matière d’intelligence artificielle, avec des raisonnements clairs quant aux façons d’envisager la route à prendre (avant que la voiture ne décide de notre destination à notre place).
“Faire la morale aux robots, une introduction à l’éthique des algorithmes” de Martin Gibert, publié chez Atelier 10.
