La IA y el Estado de derecho: Fortalecimiento de capacidades para los sistemas judiciales

Inscríbase aquí: Judges.org/ai-rol 

El Curso Masivo Abierto en Línea (MOOC) sobre la IA y el Estado de derecho es un curso introductorio que involucra a los operadores judiciales en un debate global y oportuno sobre la aplicación de IA y su impacto en el Estado de derecho.

Estructurado en seis módulos, pone a disposición información sobre las oportunidades y los riesgos de la creciente adopción de tecnologías de IA en los sistemas judiciales y el impacto de la IA en la administración de justicia, particularmente en relación con los derechos humanos, la ética y la gobernanza de IA.

La UNESCO y The Future Society desarrollaron el curso con el apoyo de Cetic.br|NIC.br, el Colegio Judicial Nacional e IEEE SA. Esto fue posible gracias a las importantes contribuciones del Programa de Donantes Múltiples de la UNESCO sobre Libertad de Expresión y Seguridad de los Periodistas (MDP) y las Open Society Foundations.

A medida que avanza el uso de las tecnologías de IA, los sistemas judiciales se involucran en cuestiones legales relacionadas con las implicaciones de la IA con respecto a los derechos humanos, la vigilancia y la responsabilidad, entre otros. Además, los sistemas judiciales también utilizan sistemas de IA para los procesos de toma de decisiones judiciales que han planteado preocupaciones sobre la equidad, la rendición de cuentas y la transparencia en la toma de decisiones de parte de sistemas automatizados o habilitados mediante la IA.

Diversos sistemas judiciales actualmente exploran el potencial de la IA, como ser el poder judicial, los servicios de fiscalía y otros órganos judiciales especializados en el mundo entero y en el ámbito de la justicia penal, proporcionando asistencia de investigación y automatizando/facilitando los procesos de toma de decisiones.

Sin embargo, el uso de la IA plantea una amplia gama de desafíos que deben abordarse: desde el reconocimiento de patrones pasando por la ética, las decisiones sesgadas tomadas según algoritmos basados en la IA, la transparencia, hasta la rendición de cuentas. Los algoritmos de autoaprendizaje, por ejemplo, pueden ser entrenados mediante ciertos conjuntos de datos (decisiones anteriores, imágenes faciales o bases de datos de video, etc.) que podrían contener datos sesgados y que puedrían utilizarse con aplicaciones para fines penales o de seguridad pública, lo que conduce a decisiones sesgadas.

Si se considera los rápidos avances en este ámbito, deben formar parte de las discusiones entre las partes interesadas del ecosistema judicial todos los desafíos y oportunidades relacionados con el aprovechamiento de la IA en los sistemas judiciales y sus implicaciones para los derechos humanos y el estado de derecho.

Desde 2014, la UNESCO y sus socios han estado capacitando a jueces y actores judiciales sobre la libertad de expresión, el acceso público a la información y la seguridad de los periodistas, principalmente a través de cursos masivos abiertos en línea (MOOC). Más de 17.000 agentes judiciales recibieron capacitación en América Latina, en asociación con la Corte Interamericana de Derechos Humanos, así como en África, donde la UNESCO se asoció con el Centro de Derechos Humanos de la Universidad de Pretoria, la Comisión Africana de Derechos Humanos y de los Pueblos, la Corte Africana de Derechos Humanos y de los Pueblos y la Comunidad Económica de los Estados de África Occidental.

Estos cursos de capacitación profundizan la libertad de expresión, el acceso del público a la información y la seguridad de los periodistas al reforzar la capacidad de los jueces y otros agentes de los sistemas judiciales sobre estas cuestiones. Los cursos proporcionan a los agentes judiciales una visión general de los marcos jurídicos internacionales y regionales pertinentes, así como de los nuevos desafíos que plantean Internet y otras tecnologías digitales.

A través de una mejor comprensión y conocimiento de la normativa internacional y regional en materia de libertad de expresión y seguridad de los periodistas, los jueces y otros miembros del poder judicial pueden ajustar mejor sus decisiones a las normas y buenas prácticas internacionales y regionales sobre estas cuestiones.

Sobre la base de la experiencia anterior, la UNESCO y sus asociados están desarrollando el programa para fomentar la capacidad de los agentes judiciales en relación con el uso de la IA en los tribunales y por las fuerzas del orden, así como para abordar las implicaciones jurídicas de las decisiones judiciales de IA basadas en las normas internacionales de derechos humanos.

La necesidad de comprometerse con los actores judiciales en cuestiones relacionadas con la IA fue reconocida en la Mesa Redonda de Atenas sobre la IA y el Estado de Derecho, copatrocinada por la UNESCO, las sesiones del Foro de Gobernanza de Internet sobre el Estado de Derecho en el Ecosistema Digital, la Encuesta de Evaluación de las Necesidades de Creación de Capacidades de IA de la UNESCO en África y, en particular, por los participantes bajo el paraguas de la iniciativa de jueces de la UNESCO que involucró a más de 17.000 operadores judiciales.

A fin de responder a estas necesidades, este curso de capacitación en línea bajo formato de curso abierto masivo en línea (MOOC, por sus siglas en inglés) se desarrolla en cooperación con el centro CETIC de categoría 2 de la UNESCO y el IEEE como respuesta directa a las necesidades expresadas por Estados miembros de la UNESCO en África, jueces y otras partes interesadas.

Objetivos del Curso Online:

1. Propiciar un diálogo participativo con los operadores judiciales sobre las innovaciones relacionadas con la IA en el sistema judicial y promover el conocimiento de las innovaciones digitales en el sistema judicial,
2. Facilitar el intercambio de conocimientos y experiencias entre los operadores judiciales sobre inteligencia artificial, normativa y estándares existentes (legislación vinculante y no vinculante) en la materia, así como sus implicaciones para los derechos humanos,
3. Destacar los estudios de caso existentes y las mejores prácticas que traducen los principios éticos a la práctica, tanto en términos del uso de la IA en los sistemas de justicia, como en los casos conciernentes a la IA afectando los derechos humanos.