[VOX JEUNESSE] L’intelligence artificielle peut-elle commettre des erreurs?

CScience IA a rencontré le jeune Victor Marchand, un artiste en herbe de 11 ans. Nous lui avons parlé des outils dits intelligents et des erreurs que ceux-ci peuvent commettre. Victor est bien conscient du rôle du concepteur et de celui joué par la qualité des données. Puis, il s’aperçoit, au cours de l’entrevue, que l’ambiguïté reste un défi de taille pour cette intelligence artificielle. Voyons ce que ce jeune esprit pense de l’erreur machine.

Victor : « Pour moi, oui, l’intelligence artificielle peut commettre des erreurs puisqu’elle est créée par des humains. On sait que nous commettons tous des erreurs. Donc, quelqu’un peut se tromper en produisant un algorithme. La moindre erreur va alors mener à un bug. Aussi, il y a les données qu’il faut regarder. »

« Si quelqu’un intègre de mauvaises données, cela peut créer des erreurs. »

CScience IA : « Le dernier point que tu soulèves est important. Nous récoltons les données informatiques à plusieurs endroits et de plusieurs manières. Nous pouvons les receuillir sur les réseaux sociaux, comme celui de Facebook. Penses-tu qu’avec ces données-là on peut faire un portrait sans faute d’un individu, comme pourrait le faire un robot qui interprète les Curriculum Vitae des gens? Aussi, y vois-tu un danger pour notre vie privée?

Victor : « Personnellement, je ne trouve pas cela dangereux. Mais certaines personnes, mal intentionnées, pourraient hacker le système et récolter des données personnelles. »

« Aussi, les données récoltées peuvent ne rien vouloir dire sur la personne. »

Si un jour, une personne fait une bêtise, puis qu’ensuite elle met des images de celle-ci sur ses réseaux sociaux, ça ne veut pas pour autant dire qu’il s’agit de sa personnalité et que c’est ce qu’elle fait dans la vie. Il peut y avoir des erreurs d’interprétation.

Mais d’un autre côté, si tout ça est bien contrôlé, ça pourrait fonctionner. »

CScience IA : « Admettons que nous soyons certains qu’il n’y ait pas d’erreur humaine dans les systèmes et que les données recueillies soient de bonnes données. Penses-tu que la machine puisse encore commettre des erreurs ?

Victor : « Eh bien, mon hypothèse est la suivante : je vote oui et ensuite je vote non, car je ne sais pas quoi répondre. »

CScience IA : « Dans l’apprentissage machine, l’intelligence artificielle apprend par elle-même à reconnaitre des images. Certains logiciels de reconnaissance faciale ont commis des erreurs importantes. Devant une image ambiguë, l’algorithme n’arrive pas forcément à obtenir une réponse parfaite et tranche, selon le premier critère qui se présente à lui. Comme le soleil qui était rouge dans le ciel, ce soir. On peut interpréter cette couleur par la présence de nuages ordinaires, mais il s’agissait de nuages produits par la fumée des grands feux de forêt en Ontario. On est face à une image ambiguë. Que penses-tu de ces erreurs d’interprétation ?

Victor : « Oui, alors si l’intelligence artificielle n’a jamais vu une chose et qu’elle prend une décision, elle peut risquer de commettre des erreurs. Les outils de guerre seraient dangereux, si on imagine une Révolution des Robots. »

CScience IA : « Maintenant, je te repose la question: l’intelligence artificielle peut-elle commettre des erreurs ?

Victor : « Oui, elle peut commettre des erreurs.

« Avec tout ce qu’on a vu, si l’intelligence artificielle reconnait mal quelque chose, elle pourrait se tromper. »

La situtation peut être grave avec les téléphones qui s’ouvrent grâce à la reconnaissance faciale. Quelqu’un de mal intentionné (je reviens à cette personne) peut trouver des erreurs dans le logiciel et se faire passer pour nous. Ça, c’est très dangereux ! »

___

CScience IA remercie chaleureusement Victor Marchand et l’agence Les Zallumés pour cette collaboration.