TMC Legal bytes | Noviembre 2024

La Secretaría de Gobierno y Transformación Digital (SGTD) ha publicado una nueva versión del Reglamento de la Ley N.º 31814, Ley de Inteligencia Artificial, abriendo una consulta pública del 25 de noviembre al 6 de diciembre.

Entre los aspectos destacados se encuentran:

• Inclusión del sector privado: El Reglamento extiende su aplicación al sector privado al integrarlo dentro del Sistema Nacional de Transformación Digital.
• Clasificación de riesgos: Las aplicaciones de IA se categorizan en riesgos inaceptables, altos, medios y bajos, con lineamientos obligatorios para el sector público y referenciales para el privado.
• Prohibición de aplicaciones de riesgo inaceptable: Se prohíben aquellas que generen discriminación, sesgos culturales o estigmatización, entre otros.
• Definiciones ampliadas: Se incluyen conceptos detallados como innovación abierta, ciudadanía digital, software y tecnologías emergentes (Blockchain, Big Data, Cloud Computing).
• Supervisión limitada por la SGTD: La supervisión de la Autoridad se restringe a las aplicaciones de IA clasificadas como de "riesgo alto."
• Eliminación de centros especializados: Se descarta la propuesta de crear centros nacionales de innovación y computación de alto rendimiento.

Desafíos y controversias

• Supervisión amplia y poco clara: INDECOPI asume la supervisión de aplicaciones de IA dirigidas a consumidores y de aquellas de "riesgo inaceptable," pero sin un marco definido para procedimientos o alcances, lo que podría generar incertidumbre para empresas y usuarios.
• Ambigüedad en la definición de "riesgo inaceptable": Aunque se prohíben aplicaciones que generan discriminación o sesgos, los criterios para identificar estas situaciones no están claramente establecidos, lo que puede dar lugar a interpretaciones regulatorias inconsistentes.
• Regulación de contenido generado por IA: Se elimina la regulación de "deepfakes," pero se exige etiquetar toda información pública generada en Perú mediante IA. Si bien la medida busca transparencia, podría ser difícil de implementar, especialmente en plataformas digitales de gran escala.
• Alcance extraterritorial: Toda información generada fuera de Perú, pero accesible en el país, estará sujeta a la legislación local si es reportada como "potencialmente engañosa." Esto podría generar conflictos legales internacionales y desincentivar la oferta de servicios globales en el país.
• Cargas adicionales para el sector privado: Se exige la adopción de medidas como encriptación, auditorías y otras medidas de seguridad. Aunque necesarias, estas disposiciones podrían implicar altos costos y limitar la innovación, especialmente en pequeñas y medianas empresas.

Otras disposiciones adicionales:

1. Asignar a INDECOPI la supervisión de riesgos de IA en el sector privado plantea desafíos significativos debido al amplio alcance que podría tener esta regulación sobre IA. Este enfoque genera incertidumbre, ya que no define con claridad los límites o parámetros específicos para la supervisión. Esto podría sobrecargar a INDECOPI con responsabilidades regulatorias que abarcan diversas aplicaciones de IA, incluyendo casos donde el riesgo real puede ser bajo o marginal. Creemos que es necesario delimitar el alcance de esta supervisión, evitando generalizaciones que puedan dificultar su implementación efectiva y desincentivar la innovación tecnológica.
2. El requisito de etiquetado digital para el contenido generado por IA en el reglamento presenta desafíos, ya que no se especifica claramente cómo debe implementarse la etiqueta (por ejemplo, marca de agua, metadato). Aunque la transparencia es importante, las capacidades técnicas de los sistemas de IA actuales no permiten controlar con precisión cómo los usuarios aplican el contenido generado, lo que hace que el cumplimiento sea poco práctico. Por último, las demandas del reglamento podrían generar altos costos operativos y sobrecargar a pequeñas empresas y startups. Sin directrices claras, esto podría obstaculizar la innovación y dificultar el desarrollo de tecnologías legítimas de IA, especialmente para las empresas locales.

Prociencia, unidad ejecutora del Concytec, ha logrado avances significativos en el fortalecimiento de programas doctorales en el Perú, colaborando con cinco universidades a través de alianzas interinstitucionales. En 2024, se aseguraron recursos para 304 becarios durante los próximos tres años, garantizando la formación de investigadores altamente capacitados. Según su directora ejecutiva, Dora Blitchtein Winicki, la prioridad no solo es formar a doctorandos, sino también facilitar su inserción laboral mediante la colaboración con empresas e instituciones internacionales.

Para 2025, Prociencia planea ampliar su impacto mediante convocatorias que impulsen consorcios tecnológicos y redes de investigación. También se enfocará en mejorar oficinas de transferencia tecnológica y en fomentar proyectos vinculados a sectores clave como la agroindustria, textiles, y energías renovables. Además, continuará apoyando investigaciones básicas y experimentales, muchas de las cuales ya han generado patentes, con el objetivo de cerrar la brecha entre estas innovaciones y su comercialización efectiva.

Asimismo, se priorizarán áreas como salud, seguridad alimentaria, cambio climático, biodiversidad, TIC y economía circular. Prociencia busca acelerar la innovación en sectores estratégicos y fortalecer el vínculo entre la ciencia y la industria, destacando la importancia de una colaboración interdisciplinaria y multinivel para alcanzar un desarrollo sostenible y competitivo.

El médico psiquiatra José Miguel Garro Sánchez, jefe del Departamento de Adicciones del Hospital Hermilio Valdizán, alertó sobre los peligros que los cigarrillos electrónicos representan para la salud mental de los adolescentes. Aunque se promocionan como una alternativa menos dañina que el cigarro tradicional, el uso de estos dispositivos conlleva riesgos graves, especialmente en los jóvenes que están en pleno proceso de desarrollo neurológico. La nicotina, componente principal de estos productos, puede causar dependencia, ansiedad, depresión y otros problemas de comportamiento.

Garro explicó que los cigarrillos electrónicos generan una adicción a través de la liberación excesiva de dopamina, un neurotransmisor asociado con el placer. Esta alteración en el sistema de recompensa cerebral lleva a una dependencia psicológica y física, lo que refuerza el uso continuado de la sustancia. Además, destacó que el marketing dirigido a los adolescentes, que utiliza sabores atractivos y presentaciones llamativas, fomenta el consumo de estos productos, presentándolos como una opción "segura", a pesar de sus efectos adversos.

El especialista hizo un llamado a los padres y educadores para que informen a los jóvenes sobre los riesgos del vapeo y la adicción a la nicotina. Subrayó la importancia de educar sobre cómo funciona la adicción, ya que muchas veces se malinterpreta como un problema de comportamiento, cuando en realidad es una enfermedad que afecta tanto a la persona como a su familia. Además, recomendó buscar apoyo en los servicios de salud mental disponibles en establecimientos como el Hospital Hermilio Valdizán para tratar la adicción de manera adecuada.

El Ministerio de Relaciones Exteriores y Huawei presentaron el programa “Cultiva Talento Digital” en el Palacio de Torre Tagle, con el objetivo de capacitar a 20,000 peruanos en tecnologías digitales que mejoren su empleabilidad y competitividad. Este proyecto se deriva de un convenio de colaboración entre la Cancillería peruana y Huawei, firmado durante la visita de la presidenta Dina Boluarte a China en junio. La plataforma integrará los programas educativos de Huawei y otras iniciativas de capacitación coordinadas con la Cancillería, abarcando áreas como Inteligencia Artificial, 5G, Blockchain y Big Data.

El programa, que tendrá una duración de cinco años, busca fortalecer el talento digital en el país, preparando a los participantes para los desafíos del entorno digital actual. En el evento, el canciller Elmer Schialer destacó la importancia de esta cooperación en el contexto de la rápida evolución tecnológica global, asegurando que este tipo de iniciativas fomentarán la competitividad y productividad del Perú. Además, Huawei reconoció a los nueve estudiantes más destacados de su programa “Semillas para el futuro”, como parte de este esfuerzo conjunto.

Dentro de las acciones del convenio, se contempla la creación del Laboratorio de Entrenamiento del Talento TIC en la Universidad Nacional Mayor de San Marcos, en colaboración con Huawei. Este centro brindará formación tanto a estudiantes universitarios como a profesionales del sector privado y público, contribuyendo al desarrollo del talento tecnológico en el país. La ceremonia de lanzamiento también incluyó la presencia de figuras clave, como la rectora de San Marcos y el gerente general de Huawei Perú.

El Proyecto de Ley presentado por el congresista Américo Gonza Castillo propone la creación del Ministerio de Ciencia, Tecnología e Innovación en el Perú, con el objetivo de fortalecer la investigación científica, el desarrollo tecnológico y la innovación en el país. Esta nueva entidad tendría autonomía administrativa, económica, técnica y funcional, y sería responsable de coordinar políticas, formular estrategias y supervisar las iniciativas en ciencia y tecnología a nivel nacional. Su misión principal sería garantizar la competitividad educativa y el crecimiento económico mediante el fomento de la investigación y la innovación en todos los sectores.

Entre las funciones del nuevo ministerio, se destacan la creación y supervisión del Sistema Nacional de Ciencia, Tecnología e Innovación (Sinacti), así como el impulso de la investigación científica y la cooperación entre los sectores público y privado. Además, se encargará de la gestión de recursos financieros para los proyectos de investigación, la promoción de la transferencia tecnológica y la formación de profesionales altamente calificados en el ámbito científico y tecnológico. También tendrá un rol rector en la creación de normas y políticas relacionadas con la ciencia y la innovación, coordinando con otros sectores competentes y organismos internacionales.

El proyecto también establece funciones compartidas con los gobiernos regionales y locales, para implementar las políticas nacionales de ciencia y tecnología a nivel subnacional. El ministerio sería la autoridad técnica y normativa en este campo, con la potestad de normar, regular y fiscalizar las actividades de investigación y desarrollo tecnológico. Además, se define su estructura organizativa, que incluye una alta dirección y una serie de departamentos encargados de coordinar y evaluar las políticas y proyectos en ciencia y tecnología a nivel nacional.

La Ley N° 32159 establece estrictas regulaciones sobre el consumo de productos de tabaco, nicotina y sus sucedáneos para proteger la vida y la salud pública. En su Artículo 8, se prohíbe totalmente la publicidad, promoción y patrocinio de estos productos, tanto a nivel nacional como transfronterizo, sin importar el medio o la forma en que se realicen.

El Artículo 9 se centra en las restricciones específicas para la publicidad de productos de nicotina. Se prohíbe su promoción en medios de comunicación como televisión, radio y en establecimientos de salud o educación, así como dentro de un radio de 500 metros de centros educativos con menores de edad. Además, se prohíbe cualquier mensaje publicitario dirigido a menores, y los anuncios deben incluir una advertencia clara sobre la prohibición de venta a menores de 18 años y los riesgos del producto, destacando la advertencia en un 15% del espacio publicitario. También se limita el tipo de contenido, prohibiendo imágenes que asocien el uso de estos productos con el éxito, atractivo sexual o popularidad.

En resumen, esta ley busca reducir la exposición pública a los productos de tabaco y nicotina, especialmente entre los menores, mediante una regulación estricta de la publicidad y promoción, con énfasis en la prevención y protección de la salud pública.

El Proyecto de Ley presentado por el congresista Idelso Manuel García Correa tiene como objetivo establecer penas privativas de libertad para el delito de extorsión cibernética, con el fin de fortalecer la seguridad ciudadana y reducir la incidencia de este delito, que ya ha afectado a más de 15 mil personas en el país. La ley busca sancionar específicamente a aquellos que utilicen dispositivos electrónicos, sistemas informáticos y entornos digitales para acceder de manera no autorizada a la información privada de personas u organizaciones, con el fin de extorsionarles mediante amenazas u otros actos de intimidación para obtener ventajas económicas.

La propuesta modifica el artículo 200° del Código Penal, estableciendo que la pena para quienes cometan extorsión cibernética será de entre diez y quince años de prisión. Además, se sanciona a aquellos que, con la finalidad de facilitar la extorsión, suministren información confidencial obtenida en el ejercicio de sus funciones o proporcionen los medios necesarios para perpetrar el delito. También se establece una pena de entre cinco y diez años para quienes utilicen violencia o amenazas para obtener beneficios económicos o ventajas ilegítimas de autoridades o ciudadanos.

Por último, el proyecto incorpora el artículo 8-A en la Ley N° 30096, Ley de Delitos Informáticos, estableciendo de manera específica la pena privativa de libertad para el delito de extorsión cibernética. Esta modificación busca hacer frente a la creciente amenaza de la extorsión en el ámbito digital, protegiendo así los derechos de los ciudadanos y las organizaciones ante el uso indebido de la tecnología con fines delictivos.

El presidente de Rusia, Vladimir Putin, se comprometió a investigar las interrupciones y la disminución de velocidad en YouTube. Aunque críticos sugieren que estas dificultades son intencionales para limitar el acceso a contenidos críticos con el gobierno, las autoridades rusas culpan a Google por no actualizar el equipo necesario. La empresa propietaria de YouTube, Alphabet, y expertos tecnológicos rechazan esta explicación, afirmando que no existe un problema técnico.

A pesar de los reportes de fallos masivos en el servicio de YouTube en los últimos meses, el regulador ruso Roskomnadzor niega haber detectado alteraciones en su funcionamiento. Según el portavoz del Kremlin, Dmitry Peskov, las ralentizaciones están relacionadas con el incumplimiento de las leyes rusas por parte de Google. Sin embargo, YouTube sigue siendo una plataforma clave en Rusia, utilizada diariamente por más de 50 millones de personas, incluyendo voces de la oposición exiliada y medios de comunicación independientes.

El Departamento de Seguridad Nacional de EE.UU. presentó un marco de directrices para el uso de inteligencia artificial (IA) en infraestructuras críticas como redes eléctricas, sistemas de agua y transporte aéreo. Estas pautas, diseñadas con el apoyo de la Junta de Seguridad y Protección de la IA, buscan establecer estándares de seguridad y ética en la aplicación de esta tecnología en sectores clave. Según el secretario de Seguridad Nacional, Alejandro Mayorkas, el documento es flexible y se ajustará a los avances tecnológicos.

El marco sugiere que los desarrolladores evalúen los riesgos potenciales de la IA, prioricen valores centrados en los humanos y refuercen la privacidad de los usuarios. También destaca la necesidad de que las empresas de computación en la nube protejan sus centros de datos y realicen evaluaciones rigurosas de hardware y software. A su vez, los operadores de infraestructuras críticas deben mejorar sus protocolos de ciberseguridad para abordar riesgos específicos de la IA y garantizar transparencia sobre su uso.

Las directrices también abarcan recomendaciones para gobiernos estatales y locales. Aunque el marco refleja las políticas de la administración de Joe Biden, Mayorkas señaló que será decisión del próximo presidente, Donald Trump, determinar si se mantienen o modifican estas iniciativas. Esta estrategia se enmarca en los esfuerzos de EE.UU. para garantizar la seguridad y la ética en el creciente uso de la IA en sectores esenciales.

Roblox, la popular plataforma de videojuegos, anunció nuevas medidas de seguridad para proteger a usuarios menores de 13 años. La compañía eliminará de forma permanente la posibilidad de que estos usuarios envíen mensajes fuera de los juegos, aunque podrán seguir comunicándose dentro de las experiencias con consentimiento parental. Además, Roblox permitirá a padres y tutores gestionar cuentas de manera remota, controlar el tiempo de uso, las listas de amigos y los gastos.

Estas medidas llegan tras casos de abuso reportados en la plataforma, incluido un caso de 2022 donde Roblox fue demandado por facilitar la explotación de una niña en California. Turquía también bloqueó el acceso a Roblox en agosto debido a preocupaciones sobre contenido generado por usuarios. La compañía ahora introduce etiquetas de contenido descriptivas, clasificando las experiencias desde "Mínimo" hasta "Restringido" y limitando el acceso a usuarios según su edad y nivel de verificación.

Con estas restricciones, los menores de 13 años no podrán buscar ni jugar experiencias sin etiquetar, mientras que el contenido "Restringido" será accesible solo para mayores de 17 años con verificación de edad. Roblox busca así reforzar su compromiso con la seguridad infantil y la supervisión parental en un entorno digital que atrae a millones de usuarios globalmente.

La Cámara de Diputados de México aprobó la creación de la Agencia de Transformación Digital y Telecomunicaciones, que iniciará operaciones el 1 de enero de 2025. Aunque aún falta la aprobación del Senado, se espera que ocurra próximamente. La nueva agencia será liderada por José Merino y se encargará de diseñar y dirigir políticas de inclusión digital, gobierno digital y telecomunicaciones en la Administración Pública Federal.

Entre sus principales atribuciones están la promoción del uso de la identidad y ciudadanía digital, la integración de sistemas nacionales de identificación y la gestión de bases de datos interoperables con el Registro Nacional de Población. También regulará temas como datos abiertos, cobertura de telecomunicaciones en sitios públicos, desarrollo de software público, y definirá la capacidad satelital para garantizar servicios sociales y de seguridad nacional.

Además, supervisará la prestación de servicios de correos, telégrafos y radiotelegrafía, establecerá protocolos de seguridad de información, y formulará políticas de soberanía tecnológica. También podrá participar en foros internacionales, firmar convenios con entidades nacionales e internacionales, y emitir normativas necesarias para cumplir sus objetivos, convirtiéndose en un organismo clave para la transformación digital del gobierno mexicano.

La Comisión Europea ha señalado que Bluesky, una red social en rápido crecimiento, está violando las normativas del bloque al no cumplir con los requisitos de divulgación establecidos en la Ley de Servicios Digitales (DSA). A pesar de no ser considerada una Plataforma Muy Grande, Bluesky está obligada a publicar en su sitio web datos clave como el número de usuarios en la UE y su sede legal, algo que no ha hecho hasta el momento.

Debido a que Bluesky está por debajo del umbral de tamaño que requiere supervisión directa, la Comisión no ha contactado a la empresa, pero ha solicitado a los gobiernos de los 27 países miembros que investiguen su presencia en la región. Hasta ahora, Bluesky no ha emitido comentarios sobre la situación, lo que subraya posibles retos en su cumplimiento con las estrictas normativas digitales europeas.