La création assistée par l’intlligence artificielle peut-elle faire bon ménage avec l’éthique? C’est la réflexion menée par Roxanne Lachapelle et les experts qu’elle a rencontrés dans le cadre de ce reportage.
CHOM5KY vs CHOMSKY
Tout juste une semaine avant le lancement de son œuvre CHOM5KY vs CHOMSKY : une curieuse conversation sur l’intelligence artificielle (IA), l’Office national du film du Canada (ONF) a tenu le 30 août un panel portant sur l’éthique de l’usage de l’IA en art. Des acteurs issus des milieux de la technologie et de la philosophie ont discuté de la relation particulière qui se dessine entre « l’humain créatif et l’utilisation d’une IA générative ».
CHOM5KY vs CHOMSKY : une curieuse conversation sur l’intelligence artificielle est une expérience collective de réalité virtuelle, au cours de laquelle quatre personnes entretiennent une conversation unique et interactive avec une entité artificielle, inspirée du philosophe et historien Noam Chomsky. Il s’agit du premier projet qui sera présenté à l’Espace ONF, à Montréal.
https://www.cscience.ca/2023/08/18/chom5ky-vs-chomsky-une-exploration-ludique-en-vr-de-lintelligence-artificielle/
L’œuvre se veut amorcer une discussion sur l’IA, et aider le public à mieux comprendre le fonctionnement de cette technologie : « L’entité CHOM5KY se veut un guide, qui est peut-être un peu mieux placé que d’autres pour nous montrer les rouages du système (d’IA), puisqu’elle est elle-même une IA. En même temps, elle est là pour nous rappeler qu’il y a peut-être des choses particulièrement chouettes du cerveau humain qui sont encore très mal comprises et très difficiles à imiter ou émuler », avance Sandra Rodriguez, créatrice de l’œuvre.
Pour Mme Rodriguez, ce projet est aussi une façon de modifier le regard que l’on porte sur l’IA. « On est souvent pris dans un discours qui nous vante les mérites d’une technologie à venir qui va tout changer dans nos vies, mais qu’on arrive mal à comprendre. En tant que citoyen, on se trouve pris entre la menace d’un avenir qui est inévitable et un sentiment de pas assez comprendre la conversation pour pouvoir en faire partie », soulève l’artiste.
L’entité CHOM5KY croise différents systèmes conversationnels, certains génératifs, d’autres plus contraints, qui s’inspirent des traces numériques de Noam Chomsky. Même si les entrevues de M. Chomsky sont libres de droits, le philosophe a tout de même été contacté lors de la conception de l’œuvre, par souci d’éthique.
Créativité, droit d’auteur et IA : un mélange dangereux
Par généralisation et entraînement des données basées sur des traces numériques, différents systèmes parviennent à imiter le travail de peintre ou d’écrivain, s’appropriant, d’une certaine manière, la créativité des artistes. « Ce qui est particulièrement déroutant, c’est que l’IA nous force à faire évoluer des catégories qui étaient bien établies jusqu’à maintenant, dont les notions de propriété intellectuelle et de droits d’auteur », constate Jocelyn Maclure, professeur de philosophie à l’Université McGill.
« Ce qui est particulièrement déroutant, c’est que l’IA nous force à faire évoluer des catégories qui étaient bien établies jusqu’à maintenant, dont les notions de propriété intellectuelle et de droits d’auteur. »
– Jocelyn Maclure, professeur de philosophie à l’Université McGill
« Est-ce que le droit à la propriété intellectuelle et le droit d’auteur sont suffisants pour protéger les créateurs? Ça ne semble pas être le cas pour le moment », poursuit-il. Si certaines technologies compliquent le minage et le moissonnage de données, les solutions technologiques sont pour le moment insuffisantes pour préserver les droits des artistes.
Avoir le consentement de la part des artistes pour utiliser leur travail est crucial, mais n’est pas du tout une pratique répandue pour le moment, se désole Sasha Luccioni, chercheuse en IA éthique et durable à HuggingFace. Ce constat est particulièrement inquiétant dans un contexte où « des compagnies disent de moins en moins comment elles récoltent leurs données, comment elles entraînent leurs algorithmes, avec combien de gens, etc. Malheureusement, je trouve qu’au lieu de prôner la transparence, qui mènerait à une régulation, on reste dans le secret », déplore-t-elle.
À l’ère où les IA paraissent toujours plus humaines et où les frontières entre virtuel et réalité se brouillent, notamment en raison de la tendance intuitive à attribuer des caractéristiques humaines aux technologies, « il va falloir qu’on trouve des moyens de rendre tout ça transparent, que l’on sache lorsque nous sommes face à des données créées par des IA ou que nous interagissons avec des IA », croit M. Maclure.
https://www.cscience.ca/2023/08/31/les-victimes-des-derives-de-lintelligence-artificielle/
L’IA, est-ce de la « vraie » intelligence?
Lorsqu’une personne, placée devant une machine, parvient de moins en moins à dire si elle s’adresse à une IA ou à un humain, que reste-t-il pour distinguer l’humain de la machine? Est-ce dire que la technologie serait maintenant dotée d’une intelligence humaine?
En marge de ce débat complexe, M. Maclure rappelle que même si l’IA parvient à nous flouer en adoptant des caractéristiques similaires à l’humain, un traitement technologique de données est bien différent des processus cognitifs humains. « Se focaliser seulement sur les réponses de l’IA, sur leurs données de sortie, est-ce suffisant pour dire que la machine pense? Plusieurs, dont moi, pensent que non, ça ne rend pas la machine humaine (…) Ces machines sont bonnes pour prédire ce qui suit à une certaine question, mais on est très loin de l’intelligence et de la créativité humaine. »
« On est souvent pris dans cette dichotomie où l’on reçoit un discours comparatif : on peut peut-être reconnaître que les machines font des choses très bien, mieux que l’humain, mais ça ne veut pas dire qu’elles ont atteint un niveau d’intelligence (humaine) », ajoute Sasha Luccioni. Ainsi, même si les machines parviennent à réussir des tests complexes pour les humains, dont des examens académiques, par exemple, leur succès ne se mesure pas aux capacités de l’intelligence humaine.
Sandra Rodriguez rappelle que si les machines parviennent avec une facilité accrue à s’adapter aux tests humains, le contraire est tout aussi vrai. Par envie que les outils technologiques nous aident à simplifier des tâches, à économiser du temps, l’humain s’adapte aux machines en formulant différemment ses questions pour qu’un agent conversationnel le comprenne mieux, en faisant rentrer nos horaires dans des cases d’agenda numérique, entre autres.
« On aide les systèmes à s’améliorer parce qu’on s’améliore à rentrer dans les systèmes. Ce n’est pas nécessairement bénéfique pour nous, en tant qu’humains. On agit de plus en plus comme des machines pour qu’elles remplissent la promesse qu’on leur a souhaitée. Ça diminue notre créativité, ou du moins le “output”, on est de plus en plus “formatables” dans nos réponses et on s’attend de plus en plus que les réponses d’autrui soient formatées », souligne Mme Rodriguez. Elle croit aussi que ce phénomène rend encore plus difficile de reconnaître la présence d’IA et de technologies, alors que l’humain adopte des comportements similaires à ceux des machines.
L’art comme jeu éducatif
À travers ses différents projets en tant qu’artiste, Sandra Rodriguez observe la constance suivante : peu importe la nouvelle technologie annoncée, le discours qui l’entoure demeure similaire. « Ça s’en vient, ça sera un ouragan, un raz-de-marée, vous n’êtes pas prêts. Vous n’avez pas de capacité d’action ou d’agir, mais ne vous inquiétez pas, cette technologie sera pour votre bien », imite-t-elle.
Face à ce discours alarmiste, Mme Rodriguez croit qu’il s’agit du meilleur moment pour jouer avec ces outils technologiques et aider le public à les comprendre, sans tomber dans une approche moralisatrice ou ennuyeuse. « Le public sait déjà qu’il va devoir s’assoir, comprendre des concepts complexes, comprendre le danger de ces outils, apprendre qu’il ne devrait pas accepter certains paramètres sur des réseaux sociaux, etc. On se fait dire beaucoup de choses sur ce qu’on devrait faire ou non, et ce n’est pas une éducation évidente », avance l’artiste, qui croit que le mariage entre l’art et la technologie s’avère être avenue éducative hautement pertinente et efficace.
« Les œuvres de création ne vont pas tout résoudre, mais au moins, elles nous permettent d’avoir un moment comme citoyen, comme collectivité, pour nous poser des questions que l’on ne nous pose jamais. On nous demande si nous sommes ‘pour ou contre’, mais le positionnement est peut-être plus loin et complexe que cela. »
– Sandra Rodriguez, créatrice de l’œuvre CHOM5KY vs CHOMSKY : une curieuse conversation sur l’intelligence artificielle
Selon elle, des projets de création comme CHOM5KY vs CHOMSKY : une curieuse conversation sur l’intelligence artificielle permettent de se réapproprier les bases d’outils technologiques, sans forcément les comprendre de fond en comble, et de s’offrir un instant de réflexion. « C’est un petit moment hors du temps qu’on crée, où l’on invite les gens à s’arrêter et à réfléchir à ce qu’ils croient, à ce qu’ils veulent conserver et à ce qu’ils ont peur de perdre. Tout à coup, quand on a ces connaissances en main, on se sent un peu plus capable de se positionner face à tous les questionnements sur le développement des technologies. »
S’il n’existe aucune solution miracle pour sensibiliser le public aux enjeux liés à l’IA, Sandra Rodriguez souhaite que les projets d’art soient un pas dans la bonne direction. « Les œuvres de création ne vont pas tout résoudre, mais au moins, elles nous permettent d’avoir un moment comme citoyen, comme collectivité, pour nous poser des questions que l’on ne nous pose jamais. On nous demande si nous sommes ‘pour ou contre’, mais le positionnement est peut-être plus loin et complexe que cela », conclut-elle.
L’événement CHOM5KY vs CHOMSKY : une curieuse conversation sur l’intelligence artificielle sera présenté du 6 septembre au 15 octobre 2023 à l’Espace ONF, à Montréal. Pour en apprendre davantage sur cette expérience et pour réserver vos billets :
https://evenements.onf.ca/evenements/chomsky/?_gl=1*qccej4*_ga*MTY4OTE4OTQwOS4xNjkzNDU2MTEz*_ga_FWEE75SK6L*MTY5MzQ5MTc3Mi4yLjAuMTY5MzQ5MTc3Mi4wLjAuMA..*_gcl_au*NDgwMDE0OTcuMTY5MzQ1NjExMw..*_ga_0CLQ31X8KS*MTY5MzQ5MTc3NC4yLjAuMTY5MzQ5MTc3NC42MC4wLjA.*_ga_EFC1FZYYCZ*MTY5MzQ5MTc3NC4yLjAuMTY5MzQ5MTc3NC42MC4wLjA.*_ga_EP6WV87GNV*MTY5MzQ5MTc3NC4yLjAuMTY5MzQ5MTc3NC42MC4wLjA.
Crédit Image à la Une : Les panélistes de la conférence « La création assistée par l’IA: défis et enjeux éthiques ». De gauche à droite: Sandra Rodriguez, artiste et conceptrice de l’œuvre, Sasha Luccioni, chercheuse en IA éthique et durable à HuggingFace, Jocelyn Maclure, professeur de philosophie à l’Université McGill.
