Le CRIM se penche sur l’impact de l’IA dans la désinformation

Ce mercredi, le CRIM présentait une Journée Techno autour de la désinformation à l’ère de l’intelligence artificielle (IA). Cet événement a réuni des experts du monde universitaire, des médias et des affaires dans les locaux du CRIM.

Chacune des présentations proposées abordait un aspect des nouvelles problématiques soulevées par la réalité médiatique et technologique actuelle et à venir : fausses nouvelles générées par des algorithmes, vidéos modifiés, falsification de la voix.

Une variété d’intervenants réunis autour de cet enjeu

L’étudiant au doctorat à l’Université Laval, Nicolas Garneau, a décrit les récentes innovations dans la génération automatique de contenu textuel et les impacts positifs et négatifs que pourraient avoir ces technologies, que ce soit pour le soutien à la rédaction, l’amélioration des agents conversationnels (chatbots) de service à la clientèle ou la génération automatique de texte autour d’un thème choisi ou selon le style d’un auteur ciblé.

Jahangir Alam, chercheur en traitement automatique de la parole au CRIM, a pour sa part décrit la problématique complexe que constitue la conception de systèmes de biométrie vocale et d’authentification par la voix qui détectent efficacement les tentatives d’usurpation, avant de comparer deux techniques d’anti-usurpation existantes : l’approche modulaire et l’approche de bout en bout.

Pour Eric Granger, professeur au département de génie des systèmes et au Laboratoire d’imagerie, de vision et d’intelligence artificielle (LIVIA) à l’École de technologie supérieure, le potentiel qu’offrent les nouveaux capteurs de signaux audiovisuels dans le domaine de la reconnaissance et du suivi vidéo dans un réseau distribué de caméras est “impressionnant”.

Mohamed Dahmane, chercheur en vision par ordinateur au CRIM, a décrit le fonctionnement du deepfake vidéo, cette technique qui utilise l’IA pour générer de fausses vidéos où les visages de personnes peuvent être modifiés ou interchangés pour leur faire porter de nouveaux discours.

Antoine Normand, président-directeur général chez BlueBear, a présenté les tendances mondiales actuelles dans le secteur du contenu visuel illégal, notamment dans la pornographie juvénile où le deepfake joue un rôle de plus en plus marqué, ainsi que les défis que cette nouvelle réalité pose pour les enquêteurs.

Enfin, Pascal Lapointe, journaliste et rédacteur en chef à l’Agence Science-Presse, a rappelé que la naissance des fausses nouvelles “date de bien avant l’ère de l’IA”.

Source: CRIM