Les algorithmes : la nouvelle arme pour combattre l’exploitation sexuelle

Des chercheurs montréalais ont développé un algorithme qui est en mesure de reconnaître les activités de traite des personnes, afin de combattre l’exploitation sexuelle en ligne.

C’est une équipe de l’Institut québécois d’intelligence artificielle (Mila), de l’Université McGill et de la Carnegie Mellon University (CMU) aux États-Unis qui est à l’origine de ce modèle d’IA capable de détecter avec une précision allant jusqu’à 85 % les annonces proposant du trafic sexuel.

InfoShield a été entraîné à partir de données extraites de vraies annonces placées sur le web et sur des données publiques, disponibles entre autres sur la plateforme Twitter.

En effet, la publicité en ligne est l’une des utilisations les plus courantes de la technologie à des fins de traite des personnes, selon les chercheurs.

De plus, les activités organisées en ligne peuvent être détectées en raison des formulations similaires et des doublons parmi les annonces, explique-t-on.

Ainsi, l’algorithme vise à « repérer des millions de publicités et de mettre en évidence les points communs entre les annonces », selon Christos Faloutsos, professeur à l’école d’informatique de CMU.

Les similitudes détectées dans les annonces n’ont pas été publiées par l’équipe de chercheurs, afin de protéger les victimes d’exploitation sexuelle.

Cependant, ceux-ci ont révélé que les données d’entraînement collectées sur Twitter proviennent de « bots », des comptes automatisés, qui répètent eux aussi le contenu publié sur le média social.

À l’instar d’une annonce pour la traite des êtres humains, un tweet provenant d’un bot peut être repris en apportant de légères modifications à leur contenu.

Selon la professeure Reihaneh Rabbany, membre académique principal de Mila, professeure adjointe à l’école d’informatique de McGill et titulaire de la Chaire en IA-Canada CIFAR, dans les deux cas, soit les bots sur Twitter ou les publicités pour le trafic des personnes, l’objectif est de repérer les activités organisées.

« La majorité des victimes sont annoncées en ligne et n’ont aucune influence sur la formulation des annonces publiées par leur exploiteur, qui contrôle généralement quatre à six victimes à la fois » – Reihaneh Rabbany, membre de Mila, professeure adjointe à l’école d’informatique de McGill et titulaire de la Chaire en IA-Canada CIFAR

Ainsi parmi les tweets, InfoShield a obtenu de meilleurs résultats que les autres algorithmes de pointe pour la détection des bots.

Selon l’Organisation internationale du Travail, environ 4,8 millions de personnes sont victimes de la traite à des fins d’exploitation sexuelle, une industrie mondiale dont la valeur est estimée à 99 milliards de dollars.

La situation est tout aussi grave au Canada, car selon les données de Statistique Canada, plus de 1 700 cas de trafic d’êtres humains ont été signalés par les services de police canadiens entre 2009 et 2016, dont la quasi-totalité des victimes est formée de femmes et de filles (97 %).

Crédit photo: Pexels/Anete Lusina