Consulta pública del Reglamento de la Ley de IA en Perú: avances y desafíos clave

La Secretaría de Gobierno y Transformación Digital (SGTD) ha publicado una nueva versión del Reglamento de la Ley N.º 31814, Ley de Inteligencia Artificial, abriendo una consulta pública del 25 de noviembre al 6 de diciembre.

Aspectos destacados

• Inclusión del sector privado: El Reglamento extiende su aplicación al sector privado al integrarlo dentro del Sistema Nacional de Transformación Digital.
• Clasificación de riesgos: Las aplicaciones de IA se categorizan en riesgos inaceptables, altos, medios y bajos, con lineamientos obligatorios para el sector público y referenciales para el privado.
• Prohibición de aplicaciones de riesgo inaceptable: Se prohíben aquellas que generen discriminación, sesgos culturales o estigmatización, entre otros.
• Definiciones ampliadas: Se incluyen conceptos detallados como innovación abierta, ciudadanía digital, software y tecnologías emergentes (Blockchain, Big Data, Cloud Computing).
• Supervisión limitada por la SGTD: La supervisión de la Autoridad se restringe a las aplicaciones de IA clasificadas como de "riesgo alto."
• Eliminación de centros especializados: Se descarta la propuesta de crear centros nacionales de innovación y computación de alto rendimiento.

Desafíos y controversias

• Supervisión amplia y poco clara: Indecopi asume la supervisión de aplicaciones de IA dirigidas a consumidores y de aquellas de "riesgo inaceptable", pero sin un marco definido para procedimientos o alcances, lo que podría generar incertidumbre para empresas y usuarios.
• Ambigüedad en la definición de "riesgo inaceptable": Aunque se prohíben aplicaciones que generan discriminación o sesgos, los criterios para identificar estas situaciones no están claramente establecidos, lo que puede dar lugar a interpretaciones regulatorias inconsistentes.
• Regulación de contenido generado por IA: Se elimina la regulación de "deepfakes," pero se exige etiquetar toda información pública generada en Perú mediante IA. Si bien la medida busca transparencia, podría ser difícil de implementar, especialmente en plataformas digitales de gran escala.
• Alcance extraterritorial: Toda información generada fuera de Perú, pero accesible en el país, estará sujeta a la legislación local si es reportada como "potencialmente engañosa". Esto podría generar conflictos legales internacionales y desincentivar la oferta de servicios globales en el país.
• Cargas adicionales para el sector privado: Se exige la adopción de medidas como encriptación, auditorías y otras medidas de seguridad. Aunque necesarias, estas disposiciones podrían implicar altos costos y limitar la innovación, especialmente en pequeñas y medianas empresas.

Otras disposiciones adicionales

1. Asignar a INDECOPI la supervisión de riesgos de IA en el sector privado plantea desafíos significativos debido al amplio alcance que podría tener esta regulación sobre IA. Este enfoque genera incertidumbre, ya que no define con claridad los límites o parámetros específicos para la supervisión. Esto podría sobrecargar a INDECOPI con responsabilidades regulatorias que abarcan diversas aplicaciones de IA, incluyendo casos donde el riesgo real puede ser bajo o marginal. Creemos que es necesario delimitar el alcance de esta supervisión, evitando generalizaciones que puedan dificultar su implementación efectiva y desincentivar la innovación tecnológica. 
2. El requisito de etiquetado digital para contenido generado por IA, incluido en el reglamento, enfrenta desafíos significativos debido a la falta de claridad sobre su implementación (como el uso de marcas de agua o metadatos). Si bien la transparencia es esencial, las limitaciones técnicas de los sistemas de IA actuales dificultan controlar con precisión cómo los usuarios emplean el contenido generado, complicando la viabilidad del cumplimiento. Además, las exigencias del reglamento podrían implicar costos operativos elevados y representar una carga excesiva para pequeñas empresas y startups. Sin lineamientos claros, esto no solo podría frenar la innovación, sino también limitar el desarrollo de tecnologías de IA legítimas, particularmente entre empresas locales.