[ANALYSE] Les enjeux éthiques de la prise de décision autonome

La prise de décision (decision-making) pour un individu met en jeu sa liberté face au choix. En élaborant un certain nombre d’hypothèses, je choisis de prendre telle décision plutôt qu’une autre. Je fais mon choix en fonction de critères personnels moraux ou économiques.

Comme je suis un(e) agent(e) libre, mon choix n’est pas déterminé par un destin particulier, ni même par la prédiction d’une suite de comportements sans faille. Mon choix peut-être effectué par une impulsion, une décision réfléchie, un consentement involontaire ou encore une obligation déguisée.

AUTONOMIE DES DÉCISIONS

La prise de décision peut être anodine et sans réel impact ou bien elle peut mettre en jeu la vie de plusieurs personnes. Guidées par plusieurs facteurs, internes ou externes, elle est rarement parfaite. Mon choix peut être influencé par mes émotions passagères, par mon expérience de vie, par ma religion, par mon parti politique, par mon éducation et la liste est longue. La décision que je prends m’appartient, je suis autonome.

L’éthique est la partie de la philosophie qui étudie les fondements de la morale. Pour analyser ces fondements, l’éthique utilise des exemples concrets de situations problématiques et tente de montrer les impasses et les risques face à nos choix. C’est en étudiant la complexité des dilemmes que cette science élabore des principes qui découleront en lois.

ANALYSE DES DILEMMES

Un dilemme intéressant est celui du conducteur de train. Le conducteur doit choisir de diriger son train sur la voie de droite ou bien sur la voie de gauche. Sur la voie de droite, il risque d’écraser plusieurs personnes. Sur la voie de gauche, il risque d’écraser un enfant. Le conducteur doit choisir entre sauver un enfant ou bien sauver le maximum de personnes. Le dilemme est réel car le conducteur aura un poids sur la conscience, celui d’avoir fait un choix partiellement bon.

Dans un conflit armé, choisira-t-on d’épargner le plus d’enfants possible ou bien d’anéantir une des têtes dirigeantes de la position ennemie?

Dans un tel dilemme, l’intelligence artificielle semble être d’un recours inespéré. Le conducteur, c’est-à-dire, l’agent artificiel, prendra sa décision selon le programme qui le compose. Il n’éprouve aucun doute moral. Il n’aura aucune hésitation. Son processus n’est pas ralenti et il tranche pour la voie qui répond le mieux aux exigences de son code. Le système n’aura pas, à l’instar de l’individu, à vivre avec le fardeau de son choix. L’automatisation de la prise de décision devient alors une marque de progrès.

AUTONOMIE ET PRISE DE DÉCISION

À partir du moment où ils font des choix, les systèmes intelligents prennent des décisions. La prise de décision automatisée est le processus de prise de décision effectué par des systèmes automatisés, sans aucune implication humaine. Ces décisions sont basées sur des données factuelles, des profils numériques ou encore des données inférées.

Les algorithmes ne sont pas autonomes de la même manière que je suis autonome. La part morale de leur choix n’affecte par leurs décisions.

Cette part est programmée alors que, pour moi, elle est dépendante de différents facteurs qui me concernent et qui varient entre les individus. Les systèmes intelligents sont plus autonomes que nous car ils ne sont pas affectés par le doute moral, mais moins autonomes que nous car leur décision était programmée à l’avance, c’est-à-dire qu’elle est entièrement déterminée. Les systèmes intelligents sont autonomes car ils sont capables de sentir le monde et de sélectionner une action spécifique en lien avec leur contexte actuel. Mais, les opérateurs qui guident cette action sont modifiés par la suite, selon le contexte.

CHOIX ET CLASSIFICATION

Il y a plusieurs étapes lors du déploiement d’un système. Par exemple, un modèle peut avoir besoin des exigences d’interprétabilité. Dans une analyse de faisabilité, il n’y a aucune garantie que la population type ayant servi dans la conception d’un modèle d’apprentissage machine corresponde à la population qui affectera, plus tard, le déploiement du système. La généralisation ne se fait pas toujours de la meilleure façon. Le choix des opérateurs n’est pas toujours analysé dans son ensemble. Les prises de décision automatisées font nécessairement face au risque de plusieurs biais. Au moment du processus de conception de systèmes, il faut prêter une attention particulière au principe de classification car il détermine le choix des catégories qui vont opérer les actions, c’est-à-dire le choix des opérateurs. La prise de décision en IA est donc un sujet primordial à aborder en éthique de l’intelligence artificielle.

 

BIBLIOGRAPHIE

Harini Suresh, John V, Guttag, A Framework for Understanding Unintended Consequences of Machine Learning, MIT

ICO, What is automated individual decision-making and profiling?, UK’s independent body set up to uphold information rights

Bryson, Joanna J., 2019, “The Past Decade and Future of Ai’s Impact on Society, in Towards a New Enlightenment: A Transcendent Decade, Madrid: Turner – BVVA

Wachter, Sandra, Brent Mittelstadt, and Luciano Floridi, 2017, “Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation”, International Data Privacy Law.

5 Commentaires
Laisser une réponse

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *