Des images explicites de Taylor Swift générées par l’IA font scandale

Des images explicites de Taylor Swift générées par l’IA font scandale

Un déluge de fausses images pornographiques générées par l’intelligence artificielle de la chanteuse américaine Taylor Swift a circulé sur les réseaux sociaux le mois dernier. La star de la pop envisage actuellement une action en justice.

La chanteuse est la dernière victime du phénomène du revenge porn, également connu sous le nom de pornodivulgation ou vengeance pornographique, mais cette fois impliquant l’intelligence artificielle. En effet, une vague de fausses images explicites de la superstar est apparue sur les réseaux sociaux à la fin du mois de janvier. L’une d’entre elles a même été visionnée plus de 47 millions de fois avant d’être définitivement supprimée de la plateforme X, anciennement connue sous le nom de Twitter.

Néanmoins, cette brèche marque une nouvelle étape dans la problématique de la vengeance pornographique, celle de l’hypertrucage d’images compromettantes.

Aujourd’hui, Taylor Swift envisage une action en justice. Mais contre qui ou quoi exactement ?

L’arrivée de l’intelligence artificielle et son accessibilité nous obligent à revoir notre cadre législatif face à la montée d’une technologie aussi puissante. Pourtant, dans l’univers juridique, le décalage entre les avancées technologiques et l’encadrement législatif en inquiète plus d’un, et ce, depuis plusieurs années.

C’est ce qu’affirme Pierre Trudel, juriste et professeur en droit à l’Université de Montréal : « D’un point de vue juridique, l’intelligence artificielle, on en parle depuis très longtemps, car elle vient prendre en défaut nos lois et de façon radicale. »

Alors, en termes de lois, sommes-nous complètement dépassés par cette révolution technologique ?

Deepfake et dérapages : Nicki Minaj veut « supprimer internet »

Le fléau canadien

Le harcèlement sexuel en ligne fait des ravages depuis l’avènement des médias sociaux et, chaque année, des milliers de cas de vengeance pornographique sont enregistrés au pays ainsi que dans le monde entier.

La pornodivulgation consiste à partager du matériel compromettant et explicite sur internet sans l’autorisation ou le consentement de la personne visée, à titre de vengeance.

Un portrait au Canada et en France

Malgré les diverses campagnes de sensibilisation sur le sujet, cette forme de sextorsion reste un problème de taille au Canada et ne cesse de s’accroître. En effet, selon une étude réalisée par la plateforme Cyberaide.ca, le nombre de signalement enregistré en 2021 aurait augmenté de 58% par rapport à l’année précédente. Cela inclut une hausse de 94 % chez les jeunes et de 44 % chez les adultes. Néanmoins, les personnes les plus touchées par le phénomène sont les femmes puisque celles-ci représentent 90% des victimes enregistrées.

En France, une étude menée du 22 au 26 octobre 2023 par l’Ifop pour Lemon.fr auprès d’un échantillon de 990 répondants révèle quatre jeunes hommes sur dix ont déjà dénigré une ancienne conquête pour nuire à sa réputation, contre 14% des jeunes femmes.

Un comportement qui mène souvent au  délit du revenge porn, sanctionné lourdement – deux ans de prison et 60.000 euros d’amende encourus – en France.

« On a affaire à une technologie qui génère des risques absolument phénoménaux pour la dignité humaine (…) C’est le prix à payer pour avoir continué de reporter à plus tard, dans la plupart des pays démocratiques, ce travail essentiel de mise à niveau des lois. »

– Pierre Trudel, juriste et professeur en droit à l’Université de Montréal

Dans les premiers temps du revenge porn, et jusqu’à très récemment, les gens étaient encouragés à éviter de se mettre délibérément dans des situations propices à ce genre de harcèlement, par exemple, en prenant des photos ou des vidéos intimes avec leur partenaire.

Mais avec l’essor fulgurant de l’intelligence artificielle des derniers mois, ce type de prévention ne suffit plus à remédier au problème.

En effet, l’IA permet désormais, de manière accessible et particulièrement réaliste, de prendre une simple photo non explicite et de la rendre pornographique.

Selon Pierre Trudel, ce puissant processus technologique marque un tournant crucial : « On a affaire à une technologie qui génère des risques absolument phénoménaux pour la dignité humaine (…) C’est le prix à payer pour avoir continué de reporter à plus tard, dans la plupart des pays démocratiques, ce travail essentiel de mise à niveau des lois. »

La loi de la jungle

Internet est régulièrement décrit comme une sorte de « Far West » numérique, sans lois ni frontières. Mais avec l’avènement de l’intelligence artificielle, cet univers ressemble de plus en plus à une jungle, où tout est permis et où les plus forts règnent en maîtres.

C’est pourquoi il est si nécessaire de réformer radicalement notre système juridique.

En effet, malgré certaines mesures législatives, comme le droit à l’image et à la vie privée dans le Code civil du Québec, par exemple, les ressources ainsi que la vitesse technologique offertes par l’intelligence artificielle dépassent largement celles du système judiciaire.

Depuis longtemps déjà, les experts en droits de l’homme exigent à la classe politique de procéder à des mises à jour considérables pour contrer les tendances technologiques irrépressibles afin de protéger leurs citoyens.

D’après M. Trudel, le décalage entre les lois et la technologie numérique ne fait que s’accroitre : « pendant très longtemps et encore aujourd’hui, les décideurs politiques s’imaginent que tout peut évoluer, sauf les lois. »

« On continue d’appliquer les lois comme au 19ième et 20ième siècles à des réalités qui concernent le 21ième siècle. Cela met en évidence le caractère complètement absurde de cette lenteur avec laquelle les lois s’appliquent. »

– Pierre Trudel, juriste et professeur en droit à l’Université de Montréal

Selon lui, le processus juridique est dépassé et obsolète face aux problèmes générés par l’intelligence artificielle. « On continue d’appliquer les lois comme au 19ième et 20ième siècles à des réalités qui concernent le 21ième siècle. Cela met en évidence le caractère complètement absurde de cette lenteur avec laquelle les lois s’appliquent. »

Alors pourquoi nos élus sont-ils si réticents à redresser nos lois et notre système juridique ? Selon Pierre Trudel, ce sont les lobbies du secteur de l’intelligence artificielle qui font obstacle à certaines décisions : « les groupes de pression veulent qu’on enlève des réglementations et qu’on leur facilite la tâche. Les ministres changent les lois pour leur plaire, mais rarement pour les adapter à une réalité. »

Une coordination sans frontières

Cependant, dans un cas comme celui de Taylor Swift, il est difficile de discerner qui ou quoi est directement responsable d’un tel acte ; est-ce la personne qui a publié les photos ? Le modèle d’IA qui a généré l’image ? Ou la plateforme numérique, qui a laissé le contenu pornographique circuler sans contrainte ?

Ce questionnement met en évidence la complexité de la problématique et le besoin urgent d’instaurer des mesures de protection, et ce à l’échelle mondiale. Mais comment exactement ?

Selon Pierre Trudel, ce n’est pas juste une question de loi. Il explique : « Ce qui manque, c’est un mécanisme beaucoup plus efficace pour faire en sorte qu’une personne tierce, un juge par exemple, puisse intervenir en ligne. Les États doivent aussi s’équiper pour agir en réseau. »

L’objectif principal d’un tel réseau est d’établir une coopération et une ligne de communication entre les différents intervenants, tels que la police et des groupes communautaires, mais à l’échelle internationale.

Pierre Trudel, comme d’autres experts du domaine, estime qu’il est nécessaire d’introduire une réglementation stricte sur les modèles d’intelligence artificielle avant qu’ils ne soient mis à la disposition du grand public. Similaire au processus de commercialisation des médicaments.

« Cela supposerait une concertation entre les États. C’est un très grand défi, mais ça serait la réglementation idéale. »

Crédit Image à la Une : Steve Johnson (Unsplash, image libre de droit, et Growtika (Unsplash)

Les victimes des dérives de l’intelligence artificielle