Le 26 février 2021 se jouait la pièce de théâtre : AI: when a robot writes a play, écrite à 90% par GPT-2, une IA de la société Open AI. Stéréotypes sexistes, violence et sexe étaient au rendez-vous. Rien d’étonnant puisque l’IA s’est inspirée de tout ce que les humains produisent en ligne. CScience IA a eu la chance de s’entretenir avec Martine Delvaux, autrice entre autres du Boys Club et récipiendaire du Grand Prix du livre de Montréal, qui nous a donné son point de vue d’écrivaine et de féministe sur la question des IA.
Pour l’écrivaine, l’IA est-elle une compétition ou un outil ?
Depuis le début, la technique est là pour nous aider à créer. Il faut cesser de penser que la création est une chose qu’on fait ex nihilo. Ça n’est pas de la magie et ça n’est pas non plus irremplaçable. Ça m’évoque tous les débats sur le plagiat : la peur de plagier, la peur d’être plagié, comme si on était porteur d’une création éminemment originale, voire originelle ! Les déconstructionnistes l’ont dit : il n’y a pas de point d’origine; on est que dans de la répétition, dans de la reproduction.
La création pourrait-elle l’emporter sur le créateur?
Je n’ai pas peur d’être remplacée par une IA même si, en même temps, je me dis que ça va certainement arriver. L’IA c’est de la répétition en boîte : prendre, accumuler et fabriquer à partir de ce mode de répétition. Ça me paraît donc plutôt à l’image de ce qu’on fait en tant qu’humain, avec une touch peut-être de moins, mais qui sait ?
Pour A. Bello, auteur d’Ada, « […] une IA pourrait nous faire ressentir plus finement que n’importe qui le clapotis d’un ruisseau […] parce qu’elle aurait lu plus de descriptions que nous […] ». Qu’en pensez-vous?
Est-ce qu’écrire est une affaire de mémoire ? Le préjugé, c’est qu’on écrirait bien parce qu’on aurait lu des tas de choses qui seraient dans nos têtes et qu’on ferait le tri parmi les différentes techniques pour choisir la meilleure. Mais on n’écrit pas comme ça! On est fort de l’histoire littéraire, on est fort de l’histoire de l’art, on est fort de l’histoire de la danse, mais on bricole les choses aussi. On n’est pas juste dans une accumulation de connaissances qu’ensuite on met en forme. Ça pose aussi la question de l’originalité : la mémoire infinie des IA arriverait à créer une histoire originale, parce que jamais écrite ? Mais elle a déjà été écrite ! Elle n’a juste pas été écrite de cette manière…
Les machines peuvent présenter des biais sexistes. La militante est-elle étonnée?
Le milieu de la machine et des sciences informatiques est masculin. Si on lui additionne le cash et le pouvoir politique, on obtient un immense boy’s club qui se reproduit de manière tentaculaire depuis toujours. Tranquillement, des femmes s’y inscrivent. Plusieurs sont de grandes penseuses de l’IA. Elles existent, elles enseignent et on les connaît, mais il reste que le domaine est masculin. Les hommes vont créer ces formes d’IA et reconduire leur propre biais sans jamais s’en rendre compte. Il faudrait des gardiennes du ressenti féministe et des personnes attentives aux biais par rapport aux questions de race, aux questions de capacitisme.
Comment comprendre ces biais?
C’est toute la question du privilège : à qui ces techniques sont-elles destinées ? Qui va s’en servir ? Qui va y avoir accès ? Certainement pas la mère monoparentale qui vit dans un quartier défavorisé. C’est aussi en ça que l’I.A. nous permet de poser des questions importantes. Siri ne reconnaît pas certaines commandes de femmes en péril. Comment est-elle donc programmée? Qui décide? L’idée du robot nous force aussi à interroger les limites du consentement : Est-ce qu’il y a toujours une violence à caractère sexuel avec un robot? Ainsi, dans la série Humans, un homme ajoute un vagin à un robot femme afin d’avoir des relations sexuelles avec elle et de l’abuser. L’épisode ne nous permet pas de comprendre si le robot se rend compte qu’elle a été violée. Ça donne matière à réflexion…
Vous êtes mère d’une adolescente. Les différents usages des I.A. vous rassurent-ils ou vous préoccupent?
L’IA est l’une des choses qui m’inquiètent le moins pour ma fille. Ce qui les attend est déjà terrible! J’aime mieux compter sur le fait que l’IA permette d’avoir, par exemple, des pompiers robots! Ce qui me fait peur, c’est ce que les gens en situation de pouvoir peuvent faire avec ces technologies. Ce qu’ils font avec un gun ou avec un robot me procure la même peur. C‘est inquiétant parce que le robot, c’est le bourreau parfait, celui qui ne sent absolument rien et qui peut y aller à fond dans la douleur causée à l’autre. D’un autre côté, remplacés par des robots, tous les vétérans, tous ces hommes démolis par la guerre ne reviendront plus amputés, traumatisés. Aussi, si on veut réfléchir à ces questions, il faut le faire de façon nuancée. Il n’y aura pas un oui ou un non, il va toujours y avoir des entrecroisements.
crédit photo: Éléonore Delvaux-Beaudoin