IA et État de droit : renforcement des capacités pour les systèmes judiciaires

Cliquez ici pour vous inscrire : Judges.org/ai-rol 

Le cours en ligne ouvert à tous (MOOC) sur l'IA et l'État de droit est un cours d'introduction qui engage les acteurs judiciaires dans une discussion globale et opportune autour de l'application de l'IA et de son impact sur l'État de droit.

Structuré autour de six modules, il analyse les opportunités et les risques liés à l'adoption croissante des technologies d'IA dans les systèmes judiciaires et l'impact de l'IA sur l'administration de la justice, notamment en ce qui concerne les droits de l'homme, l'éthique de l'IA et les questions de gouvernance.

Le cours est développé par l'UNESCO et The Future Society, avec le soutien de Cetic.br|NIC.br, du Collège national de la magistrature et d’IEEE SA. Il a été rendu possible grâce aux aimables contributions du Programme multidonateurs sur la liberté d'expression et la sécurité des journalistes de l'UNESCO et de la Fondation Open Society.

À mesure que l'utilisation des technologies d'IA progresse, les systèmes judiciaires sont confrontés à des questions juridiques concernant les implications de l'IA pour les droits de l'homme, la surveillance et la responsabilité, entre autres. En outre, les systèmes judiciaires utilisent également des systèmes d'IA pour les processus de prise de décisions judiciaires, ce qui a suscité des inquiétudes quant à l'équité, la responsabilité et la transparence des décisions prises par des systèmes automatisés ou utilisant l'IA.

Le potentiel de l'IA est déjà exploré par de nombreux systèmes judiciaires, notamment le pouvoir judiciaire, les parquets et d'autres organes judiciaires spécifiques, dans le monde entier, dans le domaine de la justice pénale, en fournissant une assistance aux enquêtes et en automatisant/facilitant les processus décisionnels.

Néanmoins, l'utilisation de l'IA pose un large éventail de défis à relever : de la reconnaissance des modèles à l'éthique, en passant par les décisions biaisées découlant des algorithmes fondés sur l'IA, la transparence et la responsabilité. Les algorithmes d'auto-apprentissage, par exemple, peuvent découler de certains ensembles de données (décisions antérieures, images faciales ou bases de données vidéo, etc.) qui peuvent contenir des données biaisées pouvant être utilisées par des applications à des fins criminelles ou de sécurité publique, conduisant à des décisions biaisées.

Compte tenu des développements rapides dans ce domaine, les défis et les opportunités liés à l'exploitation de l'IA dans le domaine de la justice et la manière dont les systèmes basés sur l'IA peuvent aider les acteurs judiciaires dans leurs rôles au sein de l'administration de la justice et pour traiter les cas impliquant l'IA ayant un impact sur les droits de l'homme doivent faire partie des discussions entre les parties prenantes de l'écosystème judiciaire.

Depuis 2014, l'UNESCO et ses partenaires forment des juges et des acteurs judiciaires à la liberté d’expression, l'accès public à l’information et la sécurité des journalistes, principalement par le biais de cours en ligne ouvert à tous (MOOC). Plus de 17 000 acteurs judiciaires ont été formés en Amérique latine, en partenariat avec la Cour interaméricaine des droits de l'homme, ainsi qu'en Afrique, où l'UNESCO s’est associée au Centre des droits de l'homme de l'Université de Pretoria, à la Commission africaine des droits de l'homme et des peuples, à la Cour africaine des droits de l'homme et des peuples et à la Communauté économique des États de l'Afrique de l'Ouest.

Ces formations améliorent la liberté d’expression, l'accès public à l’information et la sécurité des journalistes en renforçant les capacités des juges et des autres acteurs des systèmes judiciaires sur ces questions. Les cours fournissent aux acteurs judiciaires une vue d'ensemble des cadres juridiques internationaux et régionaux pertinents ainsi que des nouveaux défis posés par l'Internet et les autres technologies numériques.

Grâce à une meilleure compréhension et connaissance des normes internationales et régionales en matière de liberté d’expression et de sécurité des journalistes, les juges et les autres membres du système judiciaire peuvent mieux aligner leurs décisions sur les normes et les bonnes pratiques internationales et régionales sur ces questions.

Sur la base de l'expérience ci-dessus, l'UNESCO et ses partenaires développent le programme de renforcement des capacités des acteurs judiciaires concernant l'utilisation de l'IA par les tribunaux et les forces de l'ordre, ainsi que pour aborder les implications juridiques des décisions judiciaires en matière d'IA basées sur les normes internationales des droits de l'homme.

La nécessité d'impliquer les acteurs judiciaires dans les questions liées à l'IA a été reconnue lors de la table ronde d'Athènes sur l'IA et l'État de droit, co-organisée par l'UNESCO, lors des sessions du Forum sur la gouvernance de l'Internet consacrées à l'État de droit dans l'écosystème numérique, à l’occasion de l'enquête de l'UNESCO sur l'évaluation des besoins de renforcement des capacités en matière d'IA en Afrique et, notamment, par les participants à l'Initiative de l’UNESCO pour la formation des juges qui a impliqué plus de 17 000 opérateurs judiciaires.

Pour répondre à ces besoins, une formation en ligne prenant la forme d'un cours en ligne ouvert à tous (MOOC) est en cours d'élaboration, en coopération avec le CETIC, centre de catégorie 2 de l'UNESCO et l'IEEE, en réponse directe aux besoins exprimés par les États membres de l'UNESCO en Afrique, les juges et les autres parties prenantes.

Objectifs du cours en ligne :

1. Stimuler un dialogue participatif avec les opérateurs judiciaires sur les innovations liées à l'IA dans le système judiciaire et promouvoir la connaissance des innovations numériques dans le système judiciaire ;
2. Faciliter l'échange de connaissances et le partage d'expériences entre les opérateurs judiciaires sur l'intelligence artificielle, les normes existantes (droit contraignant ou non) dans le domaine, et ses implications pour les droits de l'homme ;
3. Mettre en lumière les études de cas et les bonnes pratiques existantes qui traduisent les principes éthiques en pratique, tant en termes d'utilisation de l'IA dans les systèmes judiciaires que dans les cas où l'IA a un impact sur les droits de l'homme.