Des films de science-fiction en passant par les manchettes dans les médias, l’évolution de l’intelligence artificielle (IA) apporte son lot de peurs et d’incompréhensions. Quels sont les mythes sur l’IA ancrés dans notre conscience collective? – Testez vos connaissances.
Grady Booch, chef de la recherche scientifique, Génie logiciel, division Recherche chez IBM.
Grady Booch est considéré comme l’un des quatre pères fondateurs de la révolution d’Internet. On lui doit en partie le Langage de Modélisation Unifié (UML).
Sur un ton décontracté, il discutait des idées reçues sur l’IA, dans le cadre de l’événement C2 International – C2 Montréal 2021, la semaine passée.
Vrai ou faux, selon vous?
No. 1 – L’IA POSSÈDE UN RAISONNEMENT INDÉFECTIBLE
« Faux, explique Grady Booch. Un système d’intelligence artificielle se définit simplement comme un système qui raisonne et qui apprend ou enseigne. Dans sa fonctionnalité d’apprendre ou d’enseigner, l’IA a démontré qu’elle peut s’adapter et évoluer dans le monde. De plus, l’IA connait du succès dans les raisonnements inductifs et déductifs.
Par contre, l’IA a beaucoup de progrès à faire dans son raisonnement abductif, dans les liens de causalité et dans ce qui nous apparait comme le simple bon sens. Le raisonnement par abduction consiste à remonter du singulier au général. Il n’aboutit pas à une vérité, mais apporte une hypothèse probable qu’il y a lieu d’explorer et de vérifier par l’observation ou l’expérience. Lorsque cette limite sera franchie, un système pourra construire des théories sur le monde ou sur son propre système et agir en fonction de ces théories. Nous n’en sommes pas là. »
No.2 – LES ENTREPRISES DEVRAIENT INTÉGRER L’IA PARTOUT
« FAUX, dit-il. À mon avis, l’utilisation de l’IA doit rester juste et noble. Si on veut inventer des armes ou bâtir un système de reconnaissance faciale dans l’intention de sortir l’humain de la boucle, on doit faire attention. Les systèmes d’IA ont des limites. On ne peut pas faire n’importe quoi. Il y a des biais à la fois dans la construction des systèmes et dans les données qu’ils produisent. Ainsi, l’analyse préalable à la criminalité est intrinsèquement biaisée.
Se servir de la reconnaissance faciale dans les épiceries pour catégoriser chaque client qui entre dans le magasin dans le camp des bons ou celui des dangereux. Est-ce que c’est ce que nous voulons, par exemple ? – La réponse est : ça dépend. Si j’étais en Chine, je dirais oui, parce que ça fait partie de l’éthique de ma culture. La surveillance n’est pas seulement acceptée, elle est désirée pour des raisons de sécurité. Aux États-Unis, je dirais non, parce que c’est considéré comme une invasion de la vie privée. Les conversations sur l’éthique sont importantes à avoir. »
No.3 – L’IA N’EST PAS PROFITABLE
« FAUX. Les retombées pour les entreprises sont réelles. Pour capitaliser sur l’IA, mieux vaut cependant se poser deux questions en amont : 1- Qu’est-ce qui pourrait être automatisé dans un système pour améliorer la qualité ou la précision sans dénigrer la présence humaine (augmenter l’intelligence humaine ou la répliquer) ? Par exemple, les freins sur une voiture contiennent une forme d’IA qui apporte de la valeur. Ils apprennent un peu sur notre façon de conduire et ils permettent à notre système de navigation de réagir plus vite, sans avoir à y penser et sans nous remplacer. 2- L’autre question serait : qu’est-ce que je peux faire pour augmenter la capacité des humains à prendre de meilleures décisions plus vite et à pouvoir expliquer les décisions, par exemple en les informant mieux? »
No.4 – L’IA, C’EST TROP COMPLIQUÉ
« FAUX. De nos jours, c’est tellement facile de démarrer un petit projet d’intelligence avec toutes les ressources en Open source. Je mentore actuellement des étudiants du secondaire qui font des projets incroyables sur Raspberry Pi ou avec Jetson Nano. La technologie est là pour le faire sans avoir besoin d’un professeur.
Pour les compagnies numériquement avancées, la prochaine phase sera maintenant d’inventer leur système qui intégrera différentes composantes en IA. »
No.5 – ÇA PREND TOUJOURS PLUS DE DONNÉES
« FAUX. Le mantra de la communauté IA est souvent : on collecte toutes les données possibles et on les triera par la suite. Cette approche récolte souvent trop de bruit et demande beaucoup d’énergie pour recueillir un signal. Pendant ce temps, on passe à côté de trouvailles que nous aurions pu faire.
Avoir plus de données, en particulier pour les entreprises, n’est pas toujours la meilleure option. Une surcharge d’informations nuira aux opérations. Il vaut mieux partir avec une problématique et des intentions pour cibler ce que l’on veut monitorer et améliorer. »
No.6 – LES BANQUES DE DONNÉES SONT UNE BONNE SOLUTION
« VRAI, mais attention aux biais! Entrainer des systèmes IA sur de larges modèles visuels peut entrainer des biais raciaux, sans parler des enjeux de privauté. Même chose pour les larges modèles de langage. On peut faire des choses incroyables avec GPT-3, mais ce n’est toujours pas un système qui comprend et il comporte aussi des biais. Comme la majorité des données recueillies au cours des derniers 4 ou 5 ans proviennent d’Internet. Elles font ressortir les biais d’Internet et s’appuient sur une perspective plutôt occidentale. Les chatbots peuvent s’avérer racistes envers les musulmans, par exemple.
Les larges systèmes de données sont des instantanés pris sur une courte période. Sans curation, toutes les données sont égales. Des énormités peuvent alors être prises comme des vérités. »
No.7 – L’APPRENTISSAGE PROFOND EST LA SEULE SORTE D’IA
« FAUX. L’apprentissage profond – qui retient beaucoup l’attention de nos jours – n’est qu’une infime partie de ce que nous faisons en IA et en informatique. Il y a différentes sortes d’IA. L’apprentissage non profond, l’approche statistique, l’approche basée sur la connaissance.
Les néophytes pourraient commencer par voir la différence entre l’apprentissage-machine supervisé et non supervisé puis faire la comparaison avec l’apprentissage profond. »
No.8 – IA N’A PAS ENCORE DE RÉALISATIONS CONCRÈTES EN ENTREPRISE
« FAUX. Il y a tellement de solutions IA sur le marché que l’avantage compétitif n’est pas d’avoir ces outils, c’est de trouver la meilleure manière de les intégrer dans l’entreprise.
Quelques exemples d’utilisation : Si vous avez beaucoup d’information sur vos clients, vous avez des données qui pourraient vous permettre de mieux interagir avec eux et de leur faire des recommandations. Amazone est un pionnier dans ce domaine. Pour les centres d’appels, les conversations machine (chatbots) peuvent détecter l’intention du client qui éprouve des problèmes. »
No.9 – L’ÉTHIQUE GLOBALE N’EST PAS RÉALISTE
« FAUX, mais il y a du chemin à faire! Le règlement général sur la protection des données (General Data Protection Regulation) issu du Parlement et du Conseil de l’Union européenne a émis des politiques qui pourraient bénéficier aux autres pays. Le Vatican et The Partnership on AI (auquel IBM est associé) abordent aussi les questions éthiques. Chaque pays devrait participer à cette conversation.∗
La bonne nouvelle, c’est que les nations sont toutes fondées sur le sens de la dignité humaine. C’est la suite qui reste floue. Ce n’est pas facile, mais au moins nous en parlons. Nous vivons un moment historique excitant dans le monde de l’informatique actuellement parce que nous avons fait de grandes percées en IA. On voit plein d’occasions pour répondre aux besoins. Alors, il ne faut pas avoir peur de fonder la prochaine multinationale ou de transformer notre entreprise avec l’IA. »
No.10 – L’HUMAIN SERA BIENTÔT DÉPASSÉ PAR LA MACHINE
« POSSIBLE, mais ça se fera avec nous. La vitesse à laquelle les idées, les innovations et les inventions émergent grâce à l’IA est sans précédent historique et perturbe visiblement la nature humaine. D’éminents chercheurs dont l’astrophysicien britannique Stephen Hawking, Vernor Vinge et Raymond Kurzweil ont avancé que le développement de l’IA complet pourrait mettre fin à la race humaine.
Je ne sais pas ce qu’est l’intelligence autre que ce que je mesure avec l’intelligence humaine, conclut Grady Booch. Alpha Go ou Deep Blue ont été appliqués pour battre des humains au jeu de Go ou aux échecs. Alpha Go a d’ailleurs créé toute une commotion, parce qu’il s’est montré créatif en explorant plus qu’un humain ne pourrait.
Personnellement, je ne crois pas en la théorie de la singularité (hypothèse selon laquelle l’invention de l’IA déclencherait un emballement de la croissance technologique d’ici 2045 qui induirait des changements hors de notre contrôle). Je pense qu’il y aura une coévolution entre l’informatique et les humains. On ne pourra pas le voir parce qu’on sera dedans. »
—–
∗ NOTE DE L’AUTEUR: Au Canada, le Conseil consultatif canadien sur l’intelligence artificielle a créé un groupe de travail sur la sensibilisation du public, en partenariat avec CIFAR et AlgoraLab (Université de Montréal). Dialogue Ouvert propose une série d’ateliers régionaux virtuels visant à mieux comprendre les perceptions du public à l’égard de l’IA. Inscription : https://lnkd.in/dNe-HCv
