Ética de la inteligencia artificial
Gracias a su singular mandato sobre bioética, la UNESCO ha liderado durante décadas los esfuerzos internacionales para garantizar que la ciencia y la tecnología se desarrollen dentro de un marco ético.
Ya se trate de la investigación genética, del cambio climático o de la investigación científica, la UNESCO ha elaborado normas universales para maximizar los beneficios de los descubrimientos científicos, minimizando al mismo tiempo los riesgos a la baja, garantizando su contribución a un mundo más inclusivo, sostenible y pacífico. También ha identificado retos fronterizos en ámbitos como la ética de la neurotecnología, la ingeniería climática y el Internet de las cosas.
El rápido auge de la inteligencia artificial (IA) ha generado nuevas oportunidades a nivel global: desde facilitar los diagnósticos de salud hasta posibilitar las conexiones humanas a través de las redes sociales, así como aumentar la eficiencia laboral mediante la automatización de tareas.
Sin embargo, estos rápidos cambios también plantean profundos dilemas éticos, que surgen del potencial que tienen los sistemas basados en IA para reproducir prejuicios, contribuir a la degradación del clima y amenazar los derechos humanos, entre otros. Estos riesgos asociados a la IA se suman a las desigualdades ya existentes, perjudicando aún más a grupos históricamente marginados.
En ninguna otra especialidad necesitamos más una “brújula ética” que en la inteligencia artificial. Estas tecnologías de utilidad general están remodelando nuestra forma de trabajar, interactuar y vivir. El mundo está a punto de cambiar a un ritmo que no se veía desde el despliegue de la imprenta hace más de seis siglos. La tecnología de inteligencia artificial aporta grandes beneficios en muchos ámbitos, pero sin unas barreras éticas corre el riesgo de reproducir los prejuicios y la discriminación del mundo real, alimentar las divisiones y amenazar los derechos humanos y las libertades fundamentales.
Leer el mensaje completo de Gabriela Ramos
Cuatro valores fundamentales
Cláusula innovadora
Una comprensión dinámica de la IA
La Recomendación interpreta la IA en sentido amplio: son aquellos sistemas con capacidad para procesar datos de forma similar a un comportamiento inteligente.
Esto es crucial, ya que el rápido ritmo del cambio tecnológico dejaría obsoleta de forma repentina cualquier definición fija y estrecha, además de hacer inviables las políticas que se hubieran podido desarrollar de cara al futuro.
Un enfoque de la IA basado en derechos humanos
Políticas viables
Los ámbitos políticos clave dejan claros los campos de acción en los que los Estados miembros pueden avanzar hacia una evolución responsable de la IA.
Aunque los valores y principios son cruciales para sentar las bases de cualquier marco ético de la IA, los recientes avances en este campo han puesto de manifiesto la necesidad de ir más allá de los principios de alto nivel y avanzar hacia estrategias prácticas.
La Recomendación hace precisamente esto al establecer once ámbitos de acción política.
Aplicación de la Recomendación
Plataforma de expertas ‘Women4Ethical AI’ para avanzar en la igualdad de género
La plataforma de expertas ‘Women4Ethical AI’ (“Mujeres por una IA ética”) de la UNESCO es una nueva plataforma de colaboración destinada a apoyar los esfuerzos de gobiernos y empresas para garantizar que las mujeres estén representadas equitativamente tanto en el diseño como en la puesta en marcha de la inteligencia artificial. Los miembros de la plataforma también contribuirán al avance de todas las disposiciones éticas de la Recomendación de la UNESCO.
La plataforma reúne a 17 destacadas expertas del mundo académico, la sociedad civil, el sector privado y los organismos reguladores de todo el mundo. Compartirán investigaciones y contribuirán a un repositorio de buenas prácticas. La plataforma impulsará avances en algoritmos y fuentes de datos no discriminatorios, e incentivará a niñas, mujeres y grupos infrarrepresentados a participar en la IA.
Consejo Empresarial para la Ética de la IA
El Consejo Empresarial para la Ética de la IA es una iniciativa de colaboración entre la UNESCO y empresas que operan en América Latina y que participan en el desarrollo o el uso de la inteligencia artificial (IA) en diversos sectores.
El Consejo sirve de plataforma para que las empresas se reúnan, intercambien experiencias y promuevan prácticas éticas en la industria de la IA. En estrecha colaboración con la UNESCO, pretende garantizar que la IA se desarrolle y se utilice respetando los derechos humanos y los estándares éticos.
Actualmente copresidido por Microsoft y Telefónica, el Consejo se ha comprometido a reforzar las capacidades técnicas en materia de ética e IA, a diseñar y aplicar la herramienta de evaluación del impacto ético prevista por la Recomendación sobre la ética de la IA y a contribuir al desarrollo de normativas regionales inteligentes. A través de estos esfuerzos, se centra en crear un entorno competitivo que beneficie a todas las partes interesadas en América Latina y promueva el uso responsable y ético de la IA.
