La privacidad de datos y la ética son claves en la normativa sobre IA en el Perú.
Durante este mes, la Presidencia del Consejo de Ministros (PCM) recibe opiniones y comentarios sobre el proyecto de reglamento de la Ley N° 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país. Conoce en qué consiste esta propuesta y qué elementos serán claves en la regulación.
El 5 de julio del 2023 se publicó la Ley N° 31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país, y a inicios de mayo se prepublicó el reglamento para que hasta el 1 de junio se reciban aportes de la ciudadanía, academia, empresa y sector público sobre la normativa.
La propuesta de reglamento detalla las obligaciones de las entidades públicas en la implementación de sistemas basados en inteligencia artificial, los cuales clasifica de acuerdo con su nivel de riesgo. Además, establece medidas para su adecuado uso y desarrollo, a fin de asegurar el respeto por los derechos humanos, la seguridad y la ética.
De acuerdo con el documento, el reglamento de la ley de promoción de inteligencia artificial determina principios rectores para su uso, que prioriza la protección de la dignidad humana, sostenibilidad, educación, seguridad, transparencia, y enfatiza en la supervisión humana.
El Dr. Glen Rodríguez, jefe del laboratorio de inteligencia artificial y robótica de la Universidad Nacional de Ingeniería (UNI), dijo a la agencia Andina que una regulación de la IA es importante para el desarrollo de esta tecnología en todos los ámbitos.
«(En las leyes) deberían trabajar juntos legisladores, políticos y los expertos tecnológicos en IA, que pueden salir de universidades o de los gremios profesionales para que estas leyes sean más justas y, sobre todo, para que sean regulaciones que se puedan llevar a cabo en la vida real, que no queden en el papel», sostuvo.
Como se recuerda, en el 2021, la PCM anunció el diseño de la Estrategia Nacional de Inteligencia Artificial en marco de la Política Nacional de Transformación Digital. Además, se convocó a un comité de expertos integrado por empresas, investigadores y docentes de universidades nacionales (incluyendo la UNI) y privadas. Sus ejes estratégicos buscan la formación del talento, así como el uso de la IA para el desarrollo de un modelo económico, infraestructura tecnológica y de datos, así como el respeto de la ética.
La estrategia también comprende la creación del Centro Nacional de Innovación e Inteligencia Artificial y el Centro Nacional de Computación de Alto Rendimiento. Estos espacios se concretarán con la próxima publicación del reglamento final, luego de la consulta pública.
En ese sentido, el investigador de la UNI también destacó la importancia de colocar al ciudadano como la máxima prioridad en la normativa.
«Lo primero es proteger al ciudadano de a pie en sus necesidades diarias, en salud, seguridad, transporte, en la privacidad de datos, en su derecho a lainformación para evitar los fake news», agregó el docente universitario.
Al respecto, el proyecto de reglamento de ley de IA incluye un subcapítulo dedicado a la privacidad de datos. En ese sentido, se reitera que es la Autoridad Nacional de Protección de Datos Personales es la autoridad encargada de velar por el adecuado uso de los datos personales cuando son utilizados en el uso y/o desarrollo de la inteligencia artificial, así como fiscalizar y sancionar el incumplimiento de la Ley de Protección de Datos Personales y su reglamento a este respecto.
Finalmente, el experto de la UNI también reiteró que la normativa debe establecer lineamientos de uso de la IA en el sector público, sobre todo teniendo en cuenta los riesgos que podrían haber en casos militares, así como en marco de la ética.
De acuerdo con el proyecto de reglamento, los algoritmos, modelos y datos procesados en el desarrollo de sistemas basados en inteligencia artificial que hayan recibido subsidios o apoyo del Estado se publican en la Plataforma Nacional de Datos Abiertos y en la Plataforma Nacional de Software Público Peruano para su uso abierto y público.
Además, en su capítulo V, se especifica que la Secretaría de Gobierno y Transformación Digital debe coordinar con el Instituto Nacional para la Calidad (Inacal) la aprobación de Normas Técnicas Peruanas que adopten estándares técnicos mediante los cuales opere una efectiva transmisión de conocimientos en la materia y que resulten idóneos para las condiciones vigentes en el país.
¿Cuándo se prohíbe el uso de sistemas de inteligencia artificial en el Perú?
La ética es un punto clave del proyecto de reglamento de ley de inteligencia artificial. Precisamente, en el capítulo IV se establece el «uso ético» de la IA, considerando equipos multidisciplinarios, así como seguir normas técnicas y evitando el sesgo.
Por otro lado, el capítulo III, determina niveles de riesgo de un sistema basado en inteligencia artificial en el Perú. La calificación de riesgo «inaceptable» es considerada una prohibición de uso en el territorio nacional. En ese caso, un sistema de IA es calificado como inaceptable si modifica el comportamiento de una persona o genera un efecto perjudicial. Además, la lista de riesgos se puede actualizar con una resolución.
Los ciudadanos pueden llenar este formulario con sus aportes para el reglamento de ley que promueve la inteligencia artificial.
Fuente: Agencia Andina
Acerca del autor
