Les questions éthiques en lien avec l’utilisation de l’intelligence artificielle sont nombreuses, et ce, dans plusieurs sphères de nos vies. Mais qu’en est-il lorsque l’IA se taille une place dans notre vie privée, et même dans nos rencontres amoureuses ?
Les applications de rencontre peuvent utiliser l’IA de plusieurs façons. L’une des plus connues, Tinder, se tourne vers cette technologie pour assurer la sécurité de ses abonnés. Afin de valider l’identité d’un utilisateur, l’IA peut comparer une photo prise en temps réel avec les photos existantes du profil. Elle peut également repérer certains messages inappropriés.
De son côté, l’application Say Allo fait appel à l’apprentissage automatique continu, basé sur la thérapie cognitivo-comportementale. « Elle utilise l’apprentissage automatique pour offrir une analyse beaucoup plus précise, fondée sur l’historique des comportements de l’utilisateur, et pas uniquement sur les critères autorapportés de ce que l’on recherche, » explique Dave Anctil, chercheur à l’Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique.
Cette analyse permet à Say Allo de construire un modèle de compatibilité. Ainsi, elle cible des personnes ressemblant à celles que l’abonné aime, et élimine celles qu’il aime moins.
ATTENTION AUX DONNÉES
L’utilisation de l’IA dans les applications de rencontre entraîne toutefois certains enjeux éthiques. En effet, cette technologie collecte et traite une quantité importante de données sur chacun des abonnés.
« Quand les gens interagissent entre eux, ils n’hésitent pas à fournir des données franches. Évidemment, ils vont essayer de paraître sous leur meilleur jour. Les données sont alors d’assez bonne qualité, » souligne Martin Gibert, chercheur en éthique à l’Université de Montréal.
En plus de la géolocalisation, les informations recueillies peuvent provenir de la biométrie, soit le modèle numérique du visage, ou de la psychométrie, soit le comportement, l’attitude, et les traits de personnalité.
Le premier enjeu concerne donc la collecte et la marchandisation de ces informations personnelles et confidentielles. « Il y a des chercheurs qui pensent que beaucoup des applications de rencontre sont en fait simplement des industries qui visent à colliger des données très précises sur les utilisateurs. […] Il y a très peu de transparence sur ce commerce qui se fait un peu dans le dos des utilisateurs, » mentionne M. Anctil. Ces profils détaillés sur chacun des abonnés ont une valeur commerciale importante, notamment pour les publicités ciblées.
OUI, JE LE VEUX
Et pourtant, les utilisateurs acceptent de partager ces données lors de leur inscription. La validité de ce consentement au plan éthique et légal est toutefois discutable. En effet, il doit d’abord être libre, c’est-à-dire donné sans y être forcé. Or, les personnes qui s’inscrivent à ces applications à la suite d’une rupture amoureuse ou d’un célibat prolongé ne sont pas nécessairement dans les meilleures dispositions pour prendre des décisions libres.
Les abonnés doivent également bien comprendre la situation afin de donner un consentement éclairé. Par contre, les conditions d’utilisation ne permettent pas forcément de bien saisir ce qui va advenir des données recueillies. « Les entreprises le savent. Ils demandent à des avocats spécialisés d’écrire ces déclarations de consentement, et ils sont écrits dans un jargon qui n’est pas accessible pour le commun des mortels, » souligne M. Anctil.
Finalement, le consentement doit être continu. En effet, un abonné qui possède un compte depuis plusieurs années ne se souviendra pas nécessairement des conditions d’utilisation. Idéalement, celui-ci devrait avoir la possibilité de consentir à nouveau.
UNE QUESTION DE DROIT
Les données recueillies par les applications de rencontre posent d’autres enjeux par rapport aux droits de l’utilisateur. Pour la majorité des applications, toutes ces informations recueillies ne sont jamais détruites, même lorsqu’une personne supprime son compte. Elles sont donc stockées et partagées indéfiniment. Il s’agit d’un problème éthique si leur utilisation dans le futur cause des préjudices. Les abonnés devraient avoir le droit à l’oubli, c’est-à-dire de demander d’effacer toutes les données les concernant.
Le droit à l’intimité soulève aussi un problème éthique lorsqu’il est question des applications de rencontre. « On peut révéler des informations qu’on ne dévoilerait pas ailleurs, en ayant l’illusion qu’on est dans un espace intime et protégé, mais ce n’est pas le cas, » explique M. Anctil. Il souligne également que peu de systèmes, mis à part les applications de rencontre, disposent d’autant d’informations privées.
Lorsqu’il y a de la vidéo impliquée, certains systèmes de reconnaissance faciale sont même en mesure de reconnaître des émotions de base. Ils peuvent également faire des liens entre le texte et la reconnaissance visuelle du visage pour déterminer les états psychologiques, normalement considérés privés.
L’IA QUI PREND SON TEMPS
Malgré tous ces enjeux éthiques, l’utilisation de l’IA dans les applications de rencontre n’est pas toujours négative. L’application AIMM en est d’ailleurs un bon exemple. Dans ce cas, l’IA agit comme un assistant virtuel programmé pour assister les abonnées dans leur quête amoureuse. Axé sur des relations à long terme, l’assistant utilise l’apprentissage automatique et prend son temps.
La première semaine, au lieu de faire des rencontres, l’utilisateur répondra à plusieurs questions. Celles-ci permettront à l’assistant de dresser un profil psychorelationnel. Ensuite, lorsqu’il est temps de faire des rencontres, l’assistant jouera le rôle d’intermédiaire. Ainsi, au lieu de laisser les deux personnes discuter directement, il parlera graduellement de l’un et de l’autre, jusqu’à ce que les personnes démontrent de l’intérêt.
« J’ai l’impression que ce modèle-là, d’un point de vue relationnel et d’un point de vue éthique en lien avec le bien-être, c’est l’avenir de l’utilisation de l’IA et de l’apprentissage automatique dans les applications de rencontre, » mentionne M. Anctil.
MISER SUR LA TRANSPARENCE
Somme toute, les deux chercheurs s’entendent pour dire qu’une utilisation responsable de l’IA dans les applications de rencontre est possible. Il suffit d’être plus transparent avec les utilisateurs, et d’avoir de meilleures lois afin de protéger leur droit à la vie privée. En effet, la législation canadienne quant à la protection des données confidentielles est loin d’être suffisante.
« Il faut avoir une perspective de l’éthique qui n’est pas d’empêcher cette technologie d’exister, parce qu’elle est très utile et importante pour des millions d’utilisateurs. Le rôle de la société, c’est de trouver des régulations qui protègent la vie privée et le droit à l’intimité, » conclut M. Anctil.