Éthique de l'intelligence artificielle
Avec son mandat unique, l'UNESCO mène depuis des décennies des efforts au niveau international pour veiller à ce que les sciences et les technologies se développent avec des garde-fous éthiques solides.
Qu'il s'agisse de recherche génétique, de changement climatique ou de recherche scientifique, l'UNESCO a établi des normes mondiales pour maximiser les avantages des découvertes scientifiques, tout en minimisant les risques, afin qu'elles contribuent à un monde plus inclusif, plus durable et plus pacifique. Elle a également identifié des défis majeurs dans des domaines tels que l'éthique des neurotechnologies, l'ingénierie climatique et l'internet des objets.
L'essor rapide de l'intelligence artificielle (IA) a créé de nombreuses opportunités au niveau mondial, qu'il s'agisse de faciliter les diagnostics de santé, de permettre des interactions humaines par le biais des réseaux sociaux ou de créer des rendements au niveau du travail grâce à l'automatisation des tâches.
Toutefois, ces changements rapides soulèvent également de profondes préoccupations éthiques. Celles-ci découlent du potentiel des systèmes d'IA à intégrer des biais, à contribuer à la dégradation du climat, à menacer les droits de l'homme et bien d'autres choses encore. Ces risques associés à l'IA ont déjà commencé à s'ajouter aux inégalités existantes, causant un préjudice supplémentaire à des groupes déjà marginalisés.
Dans aucun autre domaine, la boussole éthique n'est plus pertinente que dans celui de l'intelligence artificielle. Ces technologies polyvalentes sont en train de remodeler notre façon de travailler, d'interagir et de vivre. Le monde est appelé à changer à un rythme sans précédent depuis le déploiement de la presse à imprimer il y a six siècles. La technologie de l'IA apporte des avantages majeurs dans de nombreux domaines, mais sans garde-fous éthiques, elle risque de reproduire les préjugés et les discriminations du monde réel, d'alimenter les divisions et de menacer les droits de l'homme et les libertés fondamentales.
Quatre valeurs fondamentales
Une conception dynamique de l'IA
La Recommandation envisage les systèmes d’IA comme des systèmes capables de traiter les données et l’information par un processus s’apparentant à un comportement intelligent.
Ce point est crucial car le rythme rapide de l'évolution technologique rendrait rapidement obsolète toute définition fixe et étroite, et rendrait irréalisables des politiques évolutives.
Une approche de l'IA fondée sur les droits de l'homme
Des domaines d’action stratégique
Les domaines d’action stratégique définissent clairement les orientations que les États membres peuvent prendre en faveur d'une évolution responsable de l'IA.
Si les valeurs et les principes sont essentiels à la mise en place d'une base pour tout cadre éthique de l'IA, de récents mouvements dans le domaine de l'éthique de l'IA ont souligné la nécessité d'aller au-delà des principes de haut niveau vers des stratégies pratiques.
C'est précisément ce que fait la Recommandation en définissant onze domaines d’action stratégique.
Mise en œuvre de la Recommandation
Women4Ethical AI
Women4Ethical AI (Réseau des femmes pour une IA éthique) de l'UNESCO est nouvelle plateforme collaborative visant à soutenir les gouvernements et les entreprises dans leurs efforts pour assurer l’égalité des genres à la fois dans la conception et le déploiement de l’IA. Les membres de cette plateforme contribueront à l'avancement de toutes les dispositions éthiques contenues dans la Recommandation de l’UNESCO.
Cete plateforme réunit des expertes reconnues issues du monde universitaire, de la société civile, du secteur privé et d'organismes de régulation du monde entier. Elles y partageront leurs recherches et contribueront à l'élaboration d'un référentiel de bonnes pratiques. La plateforme favorisera le développement d’algorithmes et de sources de données non discriminatoires, et incitera les filles, les femmes et les groupes sous-représentés à participer à l'IA.
Conseil des entreprises pour l'éthique de l'IA
Le Conseil des entreprises pour l'éthique de l'IA est une initiative de collaboration entre l'UNESCO et des entreprises opérant en Amérique latine qui sont impliquées dans le développement ou l'utilisation de l'intelligence artificielle (IA) dans divers secteurs.
Le Conseil sert de plateforme aux entreprises pour se réunir, échanger des expériences et promouvoir des pratiques éthiques au sein de l'industrie de l'IA. En travaillant en étroite collaboration avec l'UNESCO, il vise à garantir que l'IA est développée et utilisée dans le respect des droits de l'homme et des normes éthiques.
Actuellement coprésidé par Microsoft et Telefonica, le Conseil s'est engagé à renforcer les capacités techniques en matière d'éthique et d'IA, à concevoir et à mettre en œuvre l'outil d'évaluation de l'impact éthique prévu par la recommandation sur l'éthique de l'IA et à contribuer à l'élaboration de réglementations régionales intelligentes. Grâce à ces efforts, il s'efforce de créer un environnement compétitif qui profite à toutes les parties prenantes en Amérique latine et promeut l'utilisation responsable et éthique de l'IA.
