El Parlamento Europeo aprobó este año el Reglamento de Inteligencia Artificial (en adelante, el Reglamento), por medio del cual se busca garantizar la seguridad y el respeto de los derechos humanos fundamentales, al tiempo que impulsa la innovación que ofrece la tecnología. Busca proteger derechos y principios fundamentales básicos como lo son la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la Inteligencia Artificial (IA). El Reglamento fija una serie de obligaciones para los desarrolladores de IA en función de sus riesgos potenciales y el nivel de impacto global que presenta.
Las nuevas normas prohíben ciertas aplicaciones de IA como por ejemplo los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de Internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial. También se prohíbe el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva (cuando se base únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas. El Reglamento asimismo prohíbe el uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad, salvo en situaciones muy concretas y bien definidas en la normativa.
Según la reglamentación europea, los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la Unión Europea sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos.
Los modelos de IA más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como realizar evaluaciones periódicas, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes. Además, agrega la reglamentación que las imágenes, contenidos de audio o de vídeo artificiales o manipulados («ultrafalsificaciones») deberán etiquetarse claramente como tales.
Por su parte, el Departamento de Seguridad Nacional (DHS) de Estados Unidos creó un Consejo integrado por los directores ejecutivos de OpenAI, Microsoft, Alphabet -empresa matriz de Google- y Nvidia, que asesorará al Gobierno sobre el papel de la IA. Este Consejo se concentrará en la búsqueda y aplicación de soluciones prácticas para garantizar el despliegue de esta tecnología y así contrarrestar las amenazas que puedan surgir de su mal uso. En particular en las infraestructuras críticas como lo son los sectores del transporte, los operadores de oleoductos y redes eléctricas, los proveedores de servicios de Internet y otros, para prevenir y prepararse para complicaciones relacionadas con la IA en los servicios que afectan a la seguridad nacional o económica, la salud pública o la seguridad.
En la República Argentina en el ámbito de la Subsecretaría de Tecnologías de la Información, se cuenta con el “Manual de Recomendaciones para la Inteligencia Artificial fiable”. Establece un marco conceptual y recomendaciones y principios para a implementación de Proyectos de IA. Su objetivo es brindar un marco legal para el desarrollo de la inteligencia artificial centrada en el ciudadano y sus derechos, concibiendo su aspecto social y estratégico, asegurando un óptimo funcionamiento de la prestación de servicios y un enfoque ético.
Estos tres casos referidos, el de la Unión Europea, el del gobierno de los Estados Unidos y el del Manual argentino ponen en evidencia la preocupación que generan eventuales desarrollos de la IA, y la importancia de estar a la vanguardia de métodos de protección de datos personales y de los derechos fundamentales de las personas.
Puede acceder al Reglamento y sus anexos haciendo click aquí.