L’IA pour contrôler le contenu sensible diffusé en direct sur le web

L’IA pour contrôler le contenu sensible diffusé en direct sur le web

C’est bien connu, le contenu partagé sur les réseaux sociaux est aussi dense qu’il est difficile à contrôler. Si l’intelligence artificielle (IA) permet aux géants du web de mieux modérer et surveiller ce qu’ils diffusent, l’enjeu du direct pose un défi de taille : comment éviter le partage de contenu sensible ou à caractère criminel sur les plateformes de réseaux sociaux?

L’éviter? Utopique pour l’instant. Mais en réduire la portée, ça, c’est possible, grâce à l’IA.

Une quantité de contenu insondable à filtrer

Chaque minute, ce sont plus de 510 000 commentaires, 293 000 statuts et 136 000 photos qui sont publiés sur le réseau social Facebook. Au moment de la rédaction de l’article, plus de 3,5 millions d’utilisateurs regardent des vidéos en direct sur Twitch, une plateforme populaire auprès des gamers. Si depuis le 14 mai dernier, cette dernière essuie de vives critiques, c’est parce qu’il a fallu à ses équipes au moins deux minutes pour interrompre le direct de la fusillade de Buffalo, dont plusieurs extraits avaient déjà eu le temps de circuler entre-temps, comme c’est souvent le cas du contenu violent publié soit par l’auteur des actes, soit par les témoins des événements.

Collaborer avec la police pour nourrir la data

« Des signalements concernant les activités qui s’opèrent sur les réseaux sociaux, ça, on en reçoit », de confirmer à CScience IA le Sergent Stéphane Tremblay, des communications à la Sûreté du Québec. Car si les plateformes de médias sociaux s’enrichissent sur le compte du « live streaming », elles s’exposent aussi au risque de retransmettre du contenu sensible, incluant des viols, suicides et autres crimes. Heureusement, grâce à l’IA et à la collaboration des autorités, elles ont aussi la possibilité de développer de nouveaux outils pour limiter les dégâts. En entraînant leurs algorithmes à comprendre et reconnaître du contenu audiovisuel, elles peuvent même aider à faire de la surveillance d’activités terroristes, et éviter la parution de contenu pornographique.

En 2019 par exemple, Facebook avait annoncé qu’elle ferait appel aux forces de l’ordre du Royaume-Uni et des États-Unis pour entraîner ses outils d’intelligence artificielle à empêcher la diffusion en direct d’attaques menées par des extrémistes. Des images filmées par les caméras corporelles portées par des policiers de Londres, lors de leurs entraînements, avaient alors été fournies au réseau social pour alimenter et enrichir sa banque d’images, et permettre à Facebook de reconnaître des vidéos de personnes commettant des actes de violence par arme à feu.

Une consommation accrue

« L’étendue des plateformes importantes justifie une modération de leur contenu, impliquant aussi une intervention humaine qui soit bien faite. Chaque jour, des milliards de publications apparaissent sur Facebook, Twitter et Youtube. Rien que sur Facebook, sur une base quotidienne, on compte plus de trois millions d’éléments dénoncés par les utilisateurs ou repérés puis ôtés par l’intelligence artificielle », explique Paul M. Barrett, Directeur adjoint du Centre des droits de l’homme et de la justice globale à la faculté de droit de l’Université de New York.

Parmi les types de contenus les plus populaires auprès de toutes générations confondues, on compte le contenu diffusé en direct, proposé notamment par Facebook, Youtube, Instagram, Tik Tok et Twitch. Au Canada, on estime à 23.8% la proportion d’utilisateurs qui consomment du contenu en direct sur les réseaux sociaux, révèle une récente étude de l’entreprise Online Business Canada, qui se spécialise en création d’outils et de ressources pour les acteurs du monde des affaires et du commerce électronique.

« Nos vies s’articulent autour d’internet bien plus qu’on le pense, et ce n’est pas près de changer. »

– Melody Mckinnon, gestionnaire de contenu marketing

« On parle de 31.8 millions de Canadiens qui utilisent en moyenne six différents réseaux sociaux, et qui y passent 1h53 chaque jour, en moyenne, relate Melody Mckinnon, gestionnaire de contenu marketing. L’analyse de la data concernant l’usage des médias sociaux a été brouillée par les deux dernières années de pandémie, mais après une si longue période, certaines des nouvelles habitudes qui y ont été développées vont demeurer. Nos vies s’articulent autour d’internet bien plus qu’on le pense, et ce n’est pas près de changer. »

Il faut donc espérer que les outils de l’IA sur lesquels reposent les réseaux sociaux pourront, en s’améliorant avec le temps, en plus de reconnaître à la source, lors du téléversement, les vidéos à caractère sensible, reconnaître les profils à surveiller et les discours haineux lors des directs, afin d’alerter les autorités disposées à servir les intérêts de la population et à assurer sa sécurité.

Sur le thème de la surveillance :

Crédit Image à la Une : Jean Grégoire, Unsplash