Une IA prend-elle (toujours) les bonnes décisions ?

L’enjeu principal de l’éthique de l’intelligence artificielle est de fournir un cadre de valeurs solide. Il doit permettre aux décideurs, aux gens d’affaires et à tout autre acteur en IA de valider, en amont comme en aval, des bonnes intentions d’un système à l’aide de cibles et d’indicateurs clés.

C’est avec beaucoup d’optimisme qu’on peut voir aujourd’hui l’éthique émerger. C’est au profit de saines décisions en affaires mais également au profit d’une redéfinition de notre apport moral intrinsèque à ce que nous produisons. La technologie et, par extension, les algorithmes reproduisent les intentions que nous leur enseignons. Alors, comme on assiste à une intelligence augmentée, on constate également une augmentation des impacts de ces intentions sur nos vies.

“Lorsque les décisions sont automatisées par des systèmes d’IA, il est possible qu’une partie du bagage que les humains apportent au processus décisionnel soit éliminée.” – Bernard Marr

Plusieurs s’accordent aujourd’hui pour bâtir cette éthique sur la confiance. Mais comprenons-nous vraiment comment les systèmes d’intelligence artificielle prennent les décisions qu’ils prennent? Malgré un souci de transparence, des zones sombres (la fameuse boîte noire) persistent surtout dans l’apprentissage profond. C’est la raison pour laquelle l’intelligence artificielle a le devoir d’être explicable, d’autres diront interprétable et plus encore responsable.

“Le problème, c’est que même si nous voulons comprendre comment une décision a été prise en matière d’IA, nous ne pourrons peut-être pas obtenir d’explication.”– Bernard Marr

INTÉGRER LES ENJEUX DE DÉVELOPPEMENT DURABLE

L’éthique de l’intelligence artificielle doit fournir à l’industrie des outils quantitatifs précis afin de permettre la mesure des impacts sociétaux de cette technologie. Les Objectifs de Développement Durable (ODD) internationaux des Nations Unies semblent fournir un cadre solide et une formulation de ces valeurs sous forme d’indicateurs très significatifs.

Au cœur de l’Agenda 2030 de l’Organisation des Nations Unies, dix-sept objectifs de développement durable ont été fixés. Ils couvrent les enjeux de développement tels que le climat, la pauvreté ou l’égalité des genres. Le seizième objectif concerne les questions d’état de droit, de qualité des institutions, et de paix.

LES OBJECTIFS SEIZE ET DIX-SEPT

En examinant le cadre de valeurs proposé et les indicateurs d’impact reliés au seizième objectif, on y retrouve le rôle et la place de l’éthique. Nous pouvons clairement établir une application concrète de ce cadre pour l’éthique de l’intelligence artificielle. À l’intérieur de l’objectif seize, essentiellement centré sur la paix et la justice, on retrouve les indicateurs suivants:

État de droit et accès à la justice

16.3: Promouvoir l’état de droit aux niveaux national et international et donner à tous accès à la justice dans des conditions d’égalité

Corruption

16.5: Réduire nettement la corruption

Institutions exemplaires

16.6: Mettre en place des institutions efficaces, responsables et transparentes à tous les niveaux

Prise de décisions inclusive

16.7: Faire en sorte que le dynamisme, l’ouverture, la participation et la représentation à tous les niveaux caractérisent la prise de décision

Information et protection des libertés

16.10: Garantir l’accès public à l’information et protéger les libertés fondamentales, conformément à la législation nationale et aux accords internationaux

Politiques non discriminatoires

16.b: Promouvoir et appliquer des lois et politiques non discriminatoires pour le développement durable

Par ailleurs, l’objectif dix-sept propose de renforcer les moyens de mettre en œuvre un partenariat mondial pour le développement et le revitaliser. Les Nations Unies mettent à jour régulièrement leurs données. Ils ont développé l’indicateur 17.18 qui propose de mesurer la fiabilité des données.

Données fiables

17.18 : Améliorer la disponibilité de données fiables

Ce cadre érigé à l’international a l’avantage d’offrir des indicateurs à valeur internationale. Sous la définition d’objectifs clairs il engage les acteurs d’aujourd’hui à se rendre responsables de leurs produits technologiques et systèmes informatiques pour la prochaine décennie. L’intelligence artificielle gagnerait à suivre un cadre aussi bien défini que celui des Nations Unies. Elle pourrait ainsi s’engager à atteindre des objectifs clairs de transparence et de protection des individus en vue du bien durable des sociétés.