L’élan que connaissent les innovations démocratisées de l’intelligence artificielle, tels que les robots conversationnels et les générateurs d’images, depuis les deux dernières années, n’en est pas à ses premières polémiques. Or, cette fois-ci, c’est le milieu de la recherche et du développement lui-même qui tire la sonnette d’alarme. Ce tournant historique n’est rien pour rassurer le public quant aux risques liés aux retombées de l’IA.
Les avancées hâtives et fulgurantes de l’intelligence artificielle, dont est issu ChatGPT-4, n’ont visiblement pas été anticipées avec autant de prévoyance qu’espérée.
Une pétition demandant un moratoire
Une pétition lancée par le Future of Life Institute, signée par de nombreuses sommités de l’intelligence artificielle, dont Yoshua Bengio et Elon Musk, circule et fait parler d’elle dans tous l’écosystème de l’innovation. Les 2800 signataires comptés à ce jour se disent inquiets quant aux « graves risques pour la société et l’humanité » que comporte, selon eux, le développement des robots conversationnels et de l’IA. Ils demandent de suspendre la recherche dans le domaine pendant six mois afin de se donner le temps d’assurer la mise en place d’un encadrement du développement de cette technologie, pour le bien collectif.
« Je ne pense pas que la société est prête à faire face à cette puissance-là, au potentiel de manipulation, par exemple, des populations, qui pourrait mettre en danger les démocraties. »
– Yoshua Bengio, fondateur et directeur scientifique de Mila
Ils y dénoncent notamment le fait que les laboratoires d’IA se soient lancés, au cours des derniers mois, dans « une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable ».
« Je ne pense pas que la société est prête à faire face à cette puissance-là, au potentiel de manipulation par exemple des populations qui pourrait mettre en danger les démocraties », a lancé en point de presse le chercheur émérite, fondateur et directeur scientifique de Mila, Yoshua Bengio. « Il faut donc prendre le temps de ralentir cette course commerciale qui est en route », a-t-il précisé, « comme nous l’avons fait pour l’énergie et les armes nucléaires ».
L’écosystème perplexe
Si la demande est saluée par nombre d’innovateurs, elle génère des avis mitigés : « C’est comme (de) dire, on a découvert le feu, ne l’utilisons pas pendant six mois parce qu’on risque de se brûler. Il faut plutôt s’y plonger et apprendre à l’utiliser. Il y a une énorme opportunité, juste dans des technologies pour démystifier le vrai et du faux. Aussi, il ne faut pas négliger le côté économique d’une telle campagne de presse. Les compétiteurs de Microsoft et OpenAi voient ceci comme une réelle menace à leurs écosystèmes », commente sur les réseaux sociaux Phil Kyprianou, président de HUBBVEE, agence offrant des services d’e-commerce.
Or, tel que le remarquait l’avocat associé du cabinet Robic, Vincent Bergeron, spécialisé en droit de la propriété intellectuelle et des technologies, au tournage de l’émission C+Clair sur l’IA de confiance, la technologie a toujours une longueur d’avance sur les lois. À ne pas manquer, l’épisode sera offert en visionnement gratuit sur la plateforme de CScience dès le 31 mars, et abordera les enjeux de l’éthique, de la confiance et de l’encadrement de l’IA en compagnie d’experts.
À lire également :
https://www.cscience.ca/2023/03/21/intelligence-artificielle-lurgence-de-se-doter-dune-gouvernance-de-lia/
[credi]Yoshua Bengio (Archives CScience)[/credit]
