En pleine guerre froide, parler d’espace déchaîne les passions. Tandis qu’Américains et Soviétiques se disputent la première place dans les étoiles, les réalisateurs en dirigent sur leur plateau de tournage. Aussi, le cinéma fabrique des mythes à partir d’intelligences artificielles destructrices…Et c’est une recette qui marche! En réalité, les robots peuvent-ils vraiment nous mener à notre perte? Réponse à travers une science-fiction au gabarit inquiétant posant des perspectives morales avancées par Isaac Asimov.
Avec une décennie d’écart, Ridley Scott et Stanley Kubrick arborent leur talent dans des productions à la fois intemporelles, réalistes et sensorielles. Ici, le cinéma va proposer un scénario dont la trame rime avec drame. Et les robots sont au coeur de ces complots à l’encontre de l’être humain. Alors conscience de soi ou suivi des directives? Sylvie Lainé et Jean-Louis Trudel, auteurs de science-fiction, se joignent à ce dilemme pour illustrer les attentions des réalisateurs.
POINT DE NON-RETOUR
Le huitième passager
Image: Alien
En 2122, un vaisseau de commerce, le Nostromo, transporte sept personnes en hibernation. L’ordinateur de bord “Maman” interrompt le cours du voyage après l’interception d’un signal sonore un tantinet nébuleux. Toute transmission indiquant la possibilité d’une “origine intelligente” doit faire l’objet d’une recherche. Malgré certaines oppositions, l’équipage s’aventure sur le planétoïde d’où le message survient.
L’expédition tourne au fiasco lorsqu’une entité organique extra-terrestre attaque un officier. L’androïde Ash, resté alors à bord du vaisseau, viole le protocole de quarantaine en permettant au malheureux de monter à bord. La suite, on la connaît. Au moment où l’officier passera le sas, c’en est fini pour tout le monde. Pourquoi le vaisseau et Ash ont-ils mis en péril les autres membres de l’équipage?
Ordre spécial
Sylvie Lainé, Professeur en Sciences de l’information et de la Communication à l’Université Lyon 3 explique sa version des faits. Premièrement, si “Maman” a pour directive essentielle de récupérer des formes de vie extraterrestre, elle obéira. En outre, si le laboratoire qui l’a programmée a décidé que la survie de l’équipage était moins importante que la collecte de l’alien, ce n’est sûrement pas à l’IA que cela posera un problème.
« Je ne crois pas que des IA puissent avoir de volonté propre. (…) Les lois d’Asimov ne sont pas implémentées dans les IA actuelles qui n’ont pas de dilemmes moraux.» – Sylvie Lainé, Professeur en Sciences de l’information et de la Communication – Université Lyon 3
D’autre part, Sylvie Lainé parle de comportements langagiers qui évoluent grâce à un apprentissage. Tout comme Alan Turing le prédisait, l’intelligence artificielle adopte donc une attitude par simple imitation. Elle s’exprime en phrases et en consignes sans avoir un projet qui leur soit personnel.
LES FONDAMENTAUX D’ASIMOV
Les codes de la robotique
Image: Isaac Asimov
Connu pour ses nombreux recueils qui forment Le Grand Livre des Robots, Isaac Asimov imagine trois lois dites “inviolables” censées protéger les Hommes. En effet, ces lois fondatrices représentent la base de ses intrigues. Et “le jeu d’Asimov consiste alors à imaginer des situations révélant des failles de ces trois lois.” (sources Wikipédia).
Première Loi :« Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger. » ;
Deuxième Loi :« Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi. » ;
Troisième Loi :« Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième Loi. »
(source : Les Robots, Isaac Asimov, éditions J’ai Lu, traduction de C.L.A., 1967)
Recadrer les éléments
Image: Jean-Louis Trudel par Louise Leblanc
Jean-Louis Trudel, (Petit Guide de la science-fiction au Québec – 2017) partage son idée sur le parcours de l’écrivain prolifique. Isaac Asimov aurait commencé à écrire sur les robots après avoir vu le robot (Elektro) créé pour l’Expo universelle de 1939-1940 à New York. Asimov a immensément extrapolé en présentant des IA essentiellement, capables de suivre des instructions complexes.
«Les lois d’Asimov ne sont pas des vérités de la nature. Elles représentent les garde-fous que les êtres humains ajoutent à leurs créations techniques.» – Jean-Louis Trudel, auteur et critique de science-fiction
Selon Jean-Louis Trudel, dans plus de 90% des cas, si on élabore une IA, on les munira certainement de dispositifs de sécurisation. Évidemment, la science-fiction s’intéressera aux 10% restants pour imaginer des histoires dans lesquelles rien ne se passe comme prévu. Et Asimov lui-même a écrit plusieurs histoires où on découvrait des exceptions aux trois lois.
L’OEIL OMNIPRÉSENT
Hal 9000
Peu avant la conquête de la Lune, Stanley Kubrick fixe un nouveau chef d’œuvre sur la pellicule. Plutôt malmené par la critique, Odyssée 2001 restera pourtant dans les anales cinématographiques. À la fois innovant et perfectionniste, le cinégraphe ne lésine pas sur les séquences contemplatives.
En route pour Jupiter, cinq astronautes partagent une mission avec Hal 9000, “la quintessence de l’intelligence cybernétique” sur Discovery One. Ce cerveau analytique de recherche et de liaison est un ordinateur capable de reproduire, donc imiter, la plupart des opérations du cerveau humain. Lors d’une interview, il affirme porter une grande part de responsabilité dans cette aventure: “j’appartiens à une série d’ordinateurs perfectionnés” – sans complexe et heureux de collaborer avec les humains.
Organiser une vendetta ?
Image: Hal 9000 – Odyssée 2001
L’entité organisée est donc capable de réaction émotionnelle, car elle formule sa part de fierté. Cependant, lorsqu’un dialogue remet en question son infaillibilité, l’IA voit rouge: “a t-il conscience qu’il a commis une erreur?” Malgré les précautions prises par les deux astronautes pour ne pas être entendu, l’oeil du robot réussit à lire sur leurs lèvres. Suite à l’interception de cette conversation, Hal 9000 refuse d’obéir et met en péril les deux interlocuteurs.
L’un des deux sauve sa vie et débranche définitivement l’IA. La machine prend conscience de sa “mort” immédiate et déclare avoir peur – “je sens mon cerveau se vider”. Dans ce cas, l’ordinateur de bord fait la preuve d’une IA poussée car il montre des signes émotionnels. Ce qui n’est pas le cas dans Alien où l’action est fomentée par une organisation humaine.
LES MYTHES DE L’INTENTION
Alexandre Stopnicki décrypte quelques idées reçues de la robotique qui font couler de l’encre et vibrer la toile. Sur le site du MBA MCI, le directeur pédagogique affirment que les résultats en terme d’innovations sont très prometteurs mais que la conquête des machines sur le monde est tout simplement une utopie. Avec le Deep Learning, une partie de l’IA est en mesure d’apprendre par elle-même notamment grâce aux stratégies statistiques, mathématiques et algorithmiques. Mais les résultats ne pas aussi performants que dans les films de science-fiction. Dans notre entrevue, Jean-Louis Trudel reprend les dires du directeur en soulignant le manque de preuve de conscience et de capacité critique dans ces systèmes. Et d’ajouter :
«Il est néanmoins possible d’imaginer que des algorithmes complexes fixant certains buts à l’action de robots ou d’IA aient des conséquences inattendues. » – Jean-Louis Trudel, auteur et critique de science-fiction
Toutefois, pour vouloir « prendre le contrôle », il faut être capable de conceptualiser une notion de « pouvoir » ou de « domination », ce qui exige un niveau d’intelligence supplémentaire. Par ailleurs, le développement de robots meurtriers n’est guerre rassurant. Là encore, c’est la main de l’homme qui prime en désignant des cibles spécifiques.
Durant la guerre civile libyenne, le drone autonome STM Kargu-2 était sur le terrain. Au micro de France 24, Bruno Martins, spécialiste des technologies militaires au PRIO, explique que ce type de drone est capable “de voler en escadrille sans être dirigé à distance”, puis d’identifier une cible “en fonction de sa signature électronique ou thermique.”
Pour sûr, une nouvelle ère attend les militaires mais, jusqu’où va t-on donner carte blanche à un droide ?
