TMC Legal bytes | Febrero 2024

El pasado martes 13 de febrero de 2024, el congresista Carlos Javier Zeballos Madariaga, del Grupo Parlamentario Podemos Perú, presentó el Proyecto de Ley N° 7033-2023/CR, "Ley que regula el desarrollo y uso de la Inteligencia Artificial (IA) en el Perú”. El proyecto de ley propone un marco general para el uso y regulación de la IA en el territorio nacional que se aplicará a todas las personas naturales o jurídicas que desarrollen, investiguen, innoven o utilicen IA en el Perú, independientemente de dónde se localicen sus servidores o desarrolladores.

El proyecto de ley va dirigido a los sistemas que utilicen IA, pero también establece algunas disposiciones para aquellas plataformas digitales que permitan a los usuarios navegar y descargar aplicaciones o sistemas basados en IA de cualquier tipo. Entre las obligaciones del proyecto de ley, destacan el proceso previo de verificación y certificación que garantice la calidad y seguridad antes de lanzar un sistema de IA en el Perú. También se crearía un registro que será administrado por el ente rector, la Secretaría de Gobierno y Transformación Digital (SGTD).

Además, el proyecto de ley propone principios como la privacidad, la transparencia, la responsabilidad y la equidad. Con ello, será necesario divulgar el funcionamiento y los algoritmos utilizados para permitir una posterior auditoría de los sistemas de IA y evaluación de su impacto. Además, habrá que ofrecer una garantía de la calidad y eficacia del sistema de IA.

Por lo tanto, también se necesitan medidas apropiadas para mitigar los riesgos identificados durante la evaluación de riesgos. Se deberá adoptar una evaluación periódica atendiendo a la clasificación de los riesgos según los niveles de riesgos existentes. Finalmente, se regularán las sanciones administrativas, penales y civiles sobre el uso y desarrollo de la IA.

El pasado viernes 02 de febrero de 2024, mediante la Resolución de Secretaría de Gobierno y Transformación Digital N° 001-2024-PCM/SGTD, se creó la "Alianza Nacional por una Internet Segura". Dicha alianza propone ser una red conformada por actores públicos, el sector privado, la sociedad civil organizada, la comunidad técnica y la academia con el objetivo de diseñar, implementar y ejecutar acciones e iniciativas que promuevan el uso seguro de internet, así como el desarrollo de contenidos sobre los riesgos en el entorno digital y las medidas para prevenirlos.

Por lo expuesto, cabe mencionar que la Alianza Nacional por una Internet Segura tiene un especial énfasis en los niños, niñas y adolescentes dentro del entorno digital. Gracias a lo anterior, se coadyuvará con la implementación de las políticas y lineamientos establecidos por una Comisión Especial encargada de proponer y definir lineamientos para promover el uso seguro y responsable de las TICs (Tecnologías de la Información y Comunicaciones) en el país. Siendo que, tal comisión fue creada mediante la Ley Nº 30254, "Ley de Promoción para el Uso Seguro y Responsable de las Tecnologías de la Información y las Comunicaciones por Niños, Niñas y Adolescentes".

Finalmente, cabe destacar que también se creó el canal digital “Internet Segura” en la Plataforma Digital Única del Estado Peruano para Orientación al Ciudadano, cuya dirección en internet es https://www.gob.pe/internetsegura. Tal canal busca ser un servicio digital que permita la difusión de contenidos digitales para promover la seguridad y confianza digital en los ciudadanos y las personas en general, con especial atención en niñas, niños y adolescentes. Además, será administrado por la Presidencia del Consejo de Ministros, a través de la Secretaría de Gobierno y Transformación Digital.

Un equipo de estudiantes de la Universidad Nacional Mayor de San Marcos busca mostrar que la tecnología puede ser una aliada clave para las lenguas indígenas. Para ello, un avatar llamado "Illary", que en quechua significa amanecer, viene desarrollando historias en idioma quechua que toma elementos de la cultura andino-peruana, valiéndose inclusive de imágenes creadas con un software programado también por tal equipo de la universidad y que también evocan la estética de los Andes peruanos. Para ello, Illary cuenta con un chat que se vale de la inteligencia artificial para que sus usuarios puedan interactuar y aprender el idioma quechua. Además, Illary cuenta con un noticiero en quechua y enseña esta lengua en la red social TikTok a través de vídeos didácticos.

Ante tal suceso, el profesor impulsor del proyecto, Carlos Fernández, señala que "para nosotros fue un estímulo, porque vimos que la inteligencia artificial era discriminatoria frente a las lenguas originarias, que no estaba hecha para eso, y la convertimos en un elemento importante para evitar la extinción de nuestras 48 lenguas nativas", explica a EFE el profesor impulsor de este proyecto, Carlos Fernández.

Así, el equipo de la universidad comenta que Illary viene aprendiendo otras lenguas indígenas locales, tales como el awajún o el aymara. Por ello, se espera que pronto puedan verse nuevas funcionalidades de Illary disponibles en tales idiomas locales.

El pasado jueves 08 de febrero de 2024, el congresista Alejandro Soto Reyes, integrante del Grupo Parlamentario Alianza Para el Progreso, presentó el Proyecto de Ley N° 07007/2023-CR, "Ley que Propone el Uso de la Tecnología Digital”. Esta iniciativa busca implementar el uso de tecnologías digitales; por ejemplo, a través de plataformas virtuales y otros medios similares, dentro del ámbito judicial y de la seguridad con la intención de asegurar un acceso más eficiente a la tutela jurisdiccional efectiva.

Con ello, tal iniciativa señala que su ámbito de aplicación va dirigido a la Policía Nacional del Perú, el Ministerio Público, el Poder Judicial el Tribunal Constitucional; quienes estarían obligadas a usar tecnologías digitales como plataformas virtuales, u otras similares, en todas las "diligencias, informes orales, audiencias y otros afines en todos los procesos judiciales". Lo anterior, por supuesto, sin perjuicio de todos los supuestos de excepción enlistados en el artículo 5 del proyecto de ley.

A la fecha, el proyecto de ley ya ha sido asignado a las comisiones de "Justicia y Derechos Humanos", y "Descentralización, Regionalización, Gobiernos Locales y Modernización de la Gestión del Estado"; por lo que se encuentra a la espera de ser estudiado y debatido por los miembros de tales comisiones.

En una entrevista para el diario oficial "El Peruano", Eduardo Luna Cervantes, director general de la "Dirección General de Transparencia Acceso a la Información Pública y Protección de Datos Personales", señaló que este año se espera aprobar el nuevo Reglamento de la Ley N° 29733.

Así, Luna indicó que “la actualización del Reglamento situará al Perú como un país que presenta un nivel adecuado de protección, un entorno seguro para el flujo de datos personales y el comercio nacional e internacional, y que se toma en serio este derecho fundamental”. También indicó que “cada organización que trata datos tiene que efectuar una evaluación de las medidas que necesita adoptar para su resguardo y minimizar los riesgos de una fuga o pérdida de la información.”

Finalmente, durante la entrevista se destacó que este año la autoridad se ocupará en la promoción de derechos ARCO. Por ello, este 2024 se realizará la tercera edición de la campaña ‘Yo cuido mis datos personales’. Para ello, se visitarán colegios públicos y privados para sensibilizar a niños y adolescentes sobre la necesidad de proteger sus datos personales en el entorno digital y en las redes sociales.

Google Bard ha permitido acercar a los usuarios a la experiencia de la inteligencia artificial; sin embargo, Google ha decidido reponteciar esta herramienta convirtiéndola en Gemini. Esta aplicación estará disponible en 40 idiomas, en 230 países y en los sistemas Android e iOS.

Adicionalmente, Google ha anunciado el lanzamiento de Gemini Advanced, una versión avanzada que mejora su capacidad de razonar, seguir instrucciones, codificar y colaborar creativamente.

Ambas herramientas son los modelos más grandes de inteligencia artificial que se encuentran abiertos al público, siendo los primeros en superar a expertos humanos en comprensión masiva de lenguajes multitarea ("MMLU") y emplea una combinación de 57 tópicos, tales como matemática, física, historia, derecho, medicina y ética, entre otros.

La más reciente actualización del aplicativo móvil "Google Maps" ha decidido incorporar el uso de inteligencia artificial (IA) para potenciar al máximo las funcionalidades que ofrece a sus usuarios. A continuación, detallamos cuáles son esas funcionalidades:

1. La búsqueda y localización de destinos mediante la posibilidad de comunicarse a través de un chat: Ello permite a los usuarios del aplicativo móvil entablar un diálogo interactivo, solicitar indicaciones y recibir recomendaciones personalizadas sobre sitios de interés a fin de facilitar la navegación hacia un destino concreto y permitir el descubrimiento de nuevos lugares. Además, tal chat tiene la capacidad de manejar "preguntas de seguimiento", es decir, ante recomendaciones adicionales el sistema ofrecerá opciones que no solo se ajustan a la ubicación actual del usuario, sino también a sus gustos y preferencias manifestados anteriormente.
2. Incorporación de la opción "Vista inmersiva": Esta nueva función permite a los usuarios tener una experiencia en 3D de las rutas y caminos en el mapa. Es decir, el aplicativo móvil le muestra de antemano cosas como carriles para bicicletas, aceras, cruces y lugares para estacionarse a lo largo de su ruta.
3. Nuevo "Lens en Mapas": La función antes conocida como "Búsqueda con Live View", ahora aplica IA y realidad aumentada para que los usuarios puedan orientarse más fácilmente en lugares desconocidos. Para ello, solo hace falta pulsar el icono "Lens" en la barra de búsqueda y sostener el teléfono en alto para que aparezca información acerca de servicios útiles en los alrededores, tales como cajeros automáticos, paradas de transporte, restaurantes, cafeterías y tiendas.
4. Resultados con fotos más eficientes: Aprovechando el uso de la IA, Google Maps ahora permite tener resultados prioritarios en forma de fotos aprovechando miles de millones de fotografías compartidas por la comunidad de usuarios de la plataforma y que se ajusten a los intereses, gustos o preferencias específicas de sus usuarios.

Se ha anunciado que, en los próximos meses de este 2024, cualquier imagen generada por inteligencia artificial (IA) que aparezca en las redes sociales Facebook, Instagram y Threads será etiquetada por la propia plataforma para informar al respecto a sus usuarios. Por supuesto, lo anterior en tanto tales plataformas puedan identificar que las imágenes fueron generadas gracias al uso de IA. De hecho, Meta ya viene identificando las imágenes generadas con la ayuda de su propia herramienta que usa IA, Meta IA; la misma que fue lanzada en diciembre del 2023.

Ante ello, cabe mencionar que el auge de la IA generativa suscita temores de que las personas utilicen estas herramientas de generación de contenidos vía el uso de IA para sembrar desinformación o contenidos inexactos. Un ejemplo de ello, son las imágenes falsas ("deepfakes") con contenido pornográfico de personas que afecta a muchas personas anónimas y famosas.

Otro hecho importante a tomar en cuenta y que habría impulsado a la plataforma Meta a tomar dicha decisión es que, como bien señala el CEO de Meta, Nick Clegg, casi la mitad de la población mundial celebrará elecciones este año. Ante ello, el riesgo político combinado con el desarrollo de programas de IA generativa podría producir un flujo incontrolable de contenidos degradantes, como ya lo han advertido numerosos activistas y reguladores.

Finalmente, cabe mencionar que este etiquetado a gran escala que Meta y otras plataformas como, por ejemplo, OpenAI vienen considerando implementar, a través de marcadores invisibles, "no eliminará" totalmente el riesgo de producción de imágenes o contenidos falsos. No obstante, sí resulta ser una medida destinada a mitigar o minimizar la proliferación de contenidos engañosos, inexactos o falsos, que pueden ser implementadas justamente por los titulares de tales plataformas digitales que permiten la difusión de contenidos.

El pasado martes 13 de febrero de 2024 se publicó, en el diario oficial "El Peruano", el Decreto Supremo N° 017-2024-PCM, que aprueba el Reglamento de la Ley de Ciberdefensa. Tal reglamento busca proteger los intereses del país ante amenazas o ataques en el ciberespacio. Además, cabe mencionar que tal reglamento fue elaborado conjuntamente por la Secretaría de Gobierno y Transformación Digital (SGTD), el Ministerio de Defensa, el Comando Conjunto de las Fuerzas Armadas y la Dirección Nacional de Inteligencia.

En su contenido se regulan las operaciones militares que se desarrollan en este ámbito, protegiendo la soberanía, los intereses nacionales, los activos críticos nacionales y recursos claves para mantener las capacidades nacionales frente a amenazas o ataques en y mediante el ciberespacio, cuando estos afecten la seguridad nacional. Igualmente, el reglamento cuenta con una serie de principios que rigen las operaciones de ciberdefensa y delimita las capacidades esenciales en ciberdefensa, incluyendo el uso de la fuerza.

De esa manera se garantiza que los activos críticos nacionales, los recursos claves, las infraestructuras y los sistemas como redes de telecomunicaciones, internet, dispositivos, software, información, protocolos de transportes, energía eléctrica, procesadores y controladores integrados, etc., continúen sus operaciones frente a eventuales ciberataques, lo cual contribuye a minimizar y evitar pérdidas económicas.

Cabe precisar que el reglamento establece el plazo de 180 días para que la SGTD emita los protocolos adicionales sobre escalamiento, coordinación, intercambio y activación de incidentes de seguridad digital de los activos críticos nacionales y los recursos clave.

Si quieres saber más sobre este reglamento, haz clic aquí.

La Secretaría de Gobierno y Transformación Digital (SGTD) ha anunciado la creación del Sello de Accesibilidad Digital, marcando un avance significativo en los esfuerzos por garantizar que los servicios y plataformas digitales de la Administración Pública sean accesibles para todos los ciudadanos. Este sello servirá como un reconocimiento a aquellas entidades que logren cumplir con los criterios mínimos de accesibilidad, promoviendo así una participación más plena y equitativa en el entorno digital.

La Resolución N° 002-2024-PCM/SGTD, publicada el 23 de febrero de 2024, establece no solo la creación de este sello sino también la aprobación de lineamientos específicos que detallan el procedimiento y los criterios necesarios para su otorgamiento. Este marco busca asegurar que las plataformas y servicios digitales públicos sean diseñados considerando las necesidades de todas las personas, incluidas aquellas con discapacidades, facilitando su independencia y participación activa en la sociedad. Además, se ha dispuesto la actualización de la normativa complementaria sobre accesibilidad web y aplicaciones móviles para instituciones públicas, con un plazo de implementación no mayor a noventa días hábiles.

La Secretaría de Gobierno y Transformación Digital de la Presidencia del Consejo de Ministros (SGTD) ha anunciado que, este próximo lunes el 4 de marzo, se realizará el evento académico "Open Data Day 2024", que tiene como objetivo impulsar el uso de datos abiertos en la Inteligencia Artificial. Tal evento durará una (1) hora, desde las 18:00 hasta las 19:00 horas.

Asimismo, los expositores serán Alain Dongo (actual Secretario General de la SGTD), Haydee Svab (Directora Ejecutiva de Open Knowledge Foundation Brazil), y Alma Vera (Especialista en innovación con datos abiertos de la SGTD).

El pasado jueves 22 de febrero de 2024, la Autoridad Nacional de Protección de Datos Personales (ANPDP) del Ministerio de Justicia y Derechos Humanos (MINJUSDH) ha puesto en marcha, a través de sus redes sociales, una campaña denominada “Consentimiento para el uso de datos personales” con la finalidad de fortalecer la protección de datos personales y evitar los riesgos que el uso inadecuado de la información personal puede generar.

Además, a través de esta campaña se desea recordar a todos los ciudadanos sobre su derecho a la protección de datos personales y que, la vulneración al mismo, puede constituir una infracción a la normativa sobre protección de datos personales que se encuentra vigente.

Por ello, la ANPDP enfatiza que nadie puede usar la información personal sin autorización previa del titular de los datos personales y se advierte que, si este fuera el caso, quienes se vean afectados pueden presentar denuncias en la mesa de partes virtual del MINJUSDH: https://www.gob.pe/11211

La campaña también informa sobre el uso de datos personales en medios digitales como redes sociales, sitios webs o aplicativos móviles y recuerda a la ciudadanía que nadie puede usar su información personal sin autorización previa; salvo las excepciones o finalidades necesarias.

El pasado lunes 26 de febrero de 2024, el congresista Eduardo Enrique Castillo Rivas del partido político "Fuerza Popular" presentó el Proyecto de Ley N° 7117/2023-CR, "Ley que modifica el artículo 151 de la Ley N° 29571, Código de protección y defensa del consumidor para visibilizar eficazmente el libro de reclamaciones, en beneficio de los consumidores y usuarios de aplicaciones móviles - apps".

Este proyecto de ley busca que las aplicaciones móviles y plataformas digitales que operen en el país exhiban, en un lugar visible, permanente y fácilmente accesible, el enlace virtual de acceso al libro de reclamaciones. No obstante, a la fecha, la normativa vigente sobre protección al consumidor ya contempla disposiciones aplicables para dicha finalidad, independientemente de que el establecimiento en el cual opere un proveedor sea virtual o físico. Así las cosas, tal libro de reclamaciones de estar siempre disponible a los consumidores en todo establecimiento virtual o físico, debe ser de fácil acceso y además cumplir con varios otros requisitos que la normativa vigente impone cumplir.

Los bancos en Perú están evaluando la posibilidad de integrar la oferta de bitcoin y otras criptomonedas a través de sus aplicaciones móviles, un movimiento que podría acercar significativamente las plataformas de criptomoneda al marco regulatorio peruano. Este interés surge en paralelo con las medidas adoptadas por el gobierno para regular las exchanges de criptomonedas, exigiéndoles reportar sus operaciones a la Unidad de Inteligencia Financiera (UIF) desde julio del año anterior, conforme a un Decreto Supremo.

La regulación busca incluir a las plataformas de intercambio de criptomonedas bajo la supervisión de prevención de lavado de activos y financiamiento del terrorismo, lo que constituye un paso inicial hacia la formalización de operaciones con activos virtuales en el país. La Superintendencia de Banca, Seguros y AFP (SBS) anticipa la publicación de un proyecto de reglamento en el primer semestre del año, lo cual permitirá a las exchanges registrarse oficialmente ante la UIF después de un proceso de consulta pública.

La normativa en desarrollo pretende brindar trazabilidad a las transacciones con criptomonedas, abordando preocupaciones sobre el uso de activos digitales en el lavado de dinero. Este avance regulatorio requiere la colaboración entre varias autoridades, incluyendo la SBS, SMV, y Sunat, y fue destacado en el evento "Perú Crypto & Digital Assets 2024".

En el ámbito bancario, se está considerando la posibilidad de que los bancos actúen como intermediarios para facilitar la compra y venta de criptomonedas, así como la gestión de depósitos y retiros en moneda local a través de sus plataformas digitales. Aunque la inclusión de criptoactivos en las aplicaciones bancarias aún enfrenta desafíos regulatorios y de viabilidad, representa un paso hacia la integración financiera de estas tecnologías emergentes.

​Por otro lado, expertos afirman que la falta de una regulación específica para los criptoactivos no exime a las exchanges de cumplir con las normas de protección al consumidor. Incidentes de incumplimiento contractual o discrepancias en las ofertas de criptomonedas pueden ser sujetos de reclamaciones ante Indecopi, lo que subraya la importancia de un marco regulatorio claro y la supervisión de estas plataformas para proteger a los usuarios finales.

Una nota publicada el pasado miércoles 21 de febrero de 2024 en el diario oficial "El Peruano" aborda las bondades y tendencias de este 2024 en la transformación digital del sector salud peruano.

Primero, se espera que la interoperabilidad de datos y las historias clínicas sea una tendencia importante en la salud digital; lo cual permitirá que los datos de los pacientes se compartan entre diferentes sistemas de salud mejorando la calidad de la atención y reduciendo los errores médicos.

Segundo, el uso de asistentes de inteligencia artificial y modelos de aprendizaje de lenguaje también será una tendencia importante. Estos asistentes, según resalta Softtek en la nota, pueden ayudar a los médicos y colaboradores a tomar decisiones más informadas y precisas. Además, contribuyen a la eficiencia de los procesos de atención médica.

Tercero, las soluciones de automatización robótica de procesos ayudan a automatizar los procesos administrativos de atención médica sin la necesidad de grandes inversiones económicas ni operativas iniciales, lo que mejora la eficiencia y reduce los errores médicos.

Cuarto, los "wearables" y aplicativos móviles con fines médicos pueden ayudar a los pacientes a monitorear su salud y proporcionar información valiosa a los doctores para mejorar la atención médica. También pueden ayudar a los pacientes a tomar decisiones más informadas sobre su salud y a mejorar su calidad de vida frente a afecciones como la depresión, la ansiedad, las adicciones y otras enfermedades de distintas índoles.

Quinto, la inteligencia artificial puede ayudar a los médicos a detectar enfermedades y afecciones que a simple vista un ojo humano no puede captar, llegando más rápido a un diagnóstico.

La Dirección General de Transparencia, Acceso a la Información Pública y Protección de Datos Personales del sector Justicia ha emitido la Opinión Consultiva Nº 002-2024-DGTAIOPD, estableciendo que la información sobre afiliación sindical es considerada un dato personal sensible. Esta clasificación implica una protección especial debido a su potencial impacto en la intimidad personal y en el ejercicio de libertades y derechos fundamentales, incluyendo la libertad sindical. La divulgación de estos datos, como la pertenencia a un sindicato identificada por el DNI del trabajador, su correo electrónico, y número telefónico, podría tener consecuencias negativas significativas tanto en el ámbito personal como laboral del individuo.

La ley excluye específicamente este tipo de información del acceso público para proteger la privacidad y la libertad sindical del trabajador, conforme al artículo 17 inciso 5 del Texto Único Ordenado de la Ley N° 27806, Ley de Transparencia y Acceso a la Información Pública. Sin embargo, existen excepciones para ciertas entidades que, bajo circunstancias específicas dictadas por la ley, pueden tener acceso a estos datos sensibles.

A pesar de la protección a la afiliación sindical, los estatutos de las organizaciones sindicales no están sujetos a la misma restricción y son considerados información pública. La decisión subraya la importancia del derecho del trabajador a mantener en privado su afiliación sindical y prohíbe cualquier indagación sobre su pertenencia a un sindicato, alineándose con la doctrina que defiende la libertad sindical como un aspecto crítico de la protección de los derechos laborales y personales.

Google lanzó, el pasado 8 de febrero de 2024, una nueva versión mejorada de su modelo de inteligencia artificial Gemini, que antes era Bard. Hasta hace unos pocos días, Gemini permitía a sus usuarios crear imágenes con instrucciones específicas otorgadas en idioma inglés.

Sin embargo, el pasado 20 de febrero, el usuario "@JohnLu0x" en Twitter (ahora X) publicó imágenes del resultado que le ofrecía Gemini después de recibir instrucciones para generar una imagen de un soldado alemán de 1943. Los resultados difundidos en la red social "X" mostraron al público que Gemini le habría permitido representar a tropas de la era nazi como personas de cuatro distintos orígenes étnicos.

Ante tal suceso, Google decidió emitir rápidamente un comunicado al público en el que manifestaba su decisión de interrumpir temporalmente el servicio para crear imágenes de personas mediante la inteligencia artificial (IA). Google reconoció que deberá "solucionar sus recientes problemas" advertidos en la función de generación de imágenes y pronto volverán a lanzar una versión mejorada de Gemini.