[LIVRES] – L’INTELLIGENCE HUMAINE ET ARTIFICIELLE SELON OLLIVIER DYENS

[LIVRES] – L’INTELLIGENCE HUMAINE ET ARTIFICIELLE SELON OLLIVIER DYENS

La Terreur et le sublime d’Ollivier Dyens a été nommé dans la liste préliminaire pour la catégorie Essai 2020 des Prix des libraires du Québec.  Le texte optimiste et enthousiaste relève davantage du manifeste que de l’essai. L’auteur, fasciné par les questions technologiques depuis 25 ans, se questionne sur la notion d’intelligence humaine et artificielle, et anticipe la prolifération de Centaures de Kasparov dans le paysage du 21ème siècle. Entrevue. 

“Je voyais les avancées profondes en intelligence artificielle, avec cette dichotomie traditionnelle,” explique Ollivier Dyens. “D’un côté, les marchands de l’espoir et de l’autre, les prophètes de malheur. L’IA se promène toujours entre les deux. Si on considère l’IA comme comme un espace de possibles, ça nous permet de dépasser les limites biologiques du cerveau” poursuit-il.

C’est quoi, l’intelligence?

Un.e programmeur.e tente de concevoir un algorithme qui permet à un robot virtuel d’avancer d’un point A vers un point B de façon efficace. L’algorithme produit un modèle virtuel d’une tour qui s’effondre, plutôt que d’une forme humaine qui serait capable de marcher. 

L’anecdote relatée par Janelle Shane dans une baladodiffusion de The Atlantic (vers 16:20) sert à illustrer le caractère potentiellement novateur de l’application des intelligences artificielles. 

Cette tour effondrée ressemble un peu au mouvement 37 effectué par le programme AlphaGo lors de son deuxième match victorieux de Go contre le champion du monde Lee Sedol. Le mouvement n’a pas été anticipé par des humains, mais les experts ont immédiatement admis qu’il s’agissait d’un geste créatif, intelligent, et vraisemblablement inhumain. 

Collaborer avec l’intelligence artificielle, c’est devoir s’attendre à ce que des solutions entièrement contre-intuitives pour des humains soient envisagées dans nos prises de décision. 

Des Centaures?

Dans son essai, Ollivier Dyens extrapole sur le concept des Centaures développé par Gary Kasparov, champion du monde des échecs battu par le programme DeepBlue d’IBM en 1996. 

Tant qu’à jouer à Dieu,  faisons-le bien, avec compassion, de façon claire et équilibrée, en tenant compte des complexités environnementales, politiques et sociologiques.

  • La terreur et le sublime, p.137 

Le géant des échecs a par la suite organisé des tournois ou des équipes mixtes d’humains et de robots jouaient contre d’autres équipes avec des distributions similaires. Ces collaborations ont mené à des nouvelles stratégies en échecs, et Ollivier Dyens y voit un potentiel où on peut intégrer les technologies, et l’intelligence artificielle, pour mener vers une nouvelle étape dans l’évolution humaine. 

Les limites de la peur

Je pense qu’il y a une résistance au monde humain-machine parce qu’on a peur que ça nous mène à Terminator. Ce qui me semble un peu exagéré.

  • Ollivier Dyens

Selon l’auteur, la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle est limitée par ses propres appréhensions face aux progrès de la technologie. 

Une des objections de l’auteur, c’est l’idée de placer l’humain comme arbitre distinguant le bien du mal. C’est pas comme si nous étions le modèle par excellence de retenue,” explique-t-il. “Pas besoin de machines pour réaliser les massacres et les génocides à travers l’histoire.”

Ollivier Dyens paraphrase ainsi Kevin Kelley, chef fondateur de Wired, affirmant qu’au final la technologie a apporté beaucoup plus de bien dans le monde qu’elle n’a généré de mal intrinsèque. 

Il ne s’agit pas d’une course contre la machine. Une telle course est perdue d’avance. Il s’agit d’une course avec la machine. 

  • Kevin Kelly

Plutôt que de craindre les dérives, Ollivier Dyens préconise une approche proactive qui maximise la recherche et le développement, alliant les démarches techniques aux considérations éthiques, afin d’intégrer au maximum l’intelligence artificielle dans le quotidien, tout en étant acteur des décisions potentielles des algorithmes. 

“La Terreur et le Sublime”, Humaniser l’intelligence artificielle pour construire un nouveau monde – 240 pages, Éditions XYZ