Empresas deben prevenir riesgos por uso de la IA

Medidas tienen que orientarse a garantizar derechos fundamentales.

Ante el uso extendido de la inteligencia artificial (IA), las empresas y demás organizaciones corporativas deben implementar o rediseñar sus estrategias de gestión para prevenir los riesgos cada vez más amplios derivados de la utilización de esta tecnología, a fin de no afectar derechos fundamentales y laborales.

Al respecto, la laboralista Cecilia Vargas indicó que toda decisión asistida por la IA en la relación laboral toca al menos uno de seis derechos. Entre ellos, el derecho a la igualdad y no discriminación, debido a que el sesgo del algoritmo en la selección, evaluación, promoción o cese puede configurar un acto discriminatorio, directo o indirecto, explicó.

Asimismo, añadió, el derecho a la intimidad y protección de datos, al efectuarse mediante aquella tecnología el monitoreo, biometría, geolocalización y perfilado sobre datos del trabajador, varios de ellos sensibles. El uso de la IA puede también afectar el derecho al debido proceso y motivación, teniendo en cuenta que la sanción y el despido exigen imputación, descargo, proporcionalidad y prueba, indicó Vargas, socia del área laboral de CMS Grau.

Además, dijo, las decisiones asistidas por la IA podrían tocar el derecho al secreto de las comunicaciones, toda vez que el análisis automatizado de correo y mensajería corporativa requiere proporcionalidad, idoneidad y necesidad. A esto se suma que la presión por métricas en tiempo real y el control intensivo son fuente de riesgo psicosocial que el empleador debe prevenir para no afectar el derecho a la seguridad y salud en el trabajo, manifestó Vargas. La libertad sindical e información, agregó, también podría afectarse con la IA en la medida en que los algoritmos que definen condiciones de trabajo son materia de información para la representación de los trabajadores y de negociación colectiva.

Herramientas de gestión 

Frente a este panorama, Carolina Cueva, socia del área de compliance de CMS Grau, indicó que la norma ISO 42001, como primer estándar internacional que establece los requisitos para un Sistema de Gestión de Inteligencia Artificial (SGIA), emerge a modo de herramienta de gestión de riesgos.

Su implementación, precisó la especialista, involucra obligaciones de las organizaciones del sector privado, tales como gestión de riesgos ante el uso indebido y riesgo alto de la IA, políticas, rendición de cuentas, capacitaciones y supervisión humana por el riesgo alto.

Actuación

El Perú tiene una regulación sobre IA (Ley N.° 31814 y D. S. N.° 115-2025-PCM) que lo convierte en pionero en tener este tipo de legislación, comentó Santiago Macías, asociado sénior del área legal de CMS Grau. Sin embargo, advierte que aún en el país no existen casos de incumplimiento de esa normativa. Por ende y para cubrir vacíos regulatorios resulta importante que las empresas cuenten con lineamientos internos de compliance. En esa medida, un buen uso del ISO 42001 importa, pues implica una armonía entre las áreas de tecnología de la información, de cumplimiento y legal, expresó Macías. Además, tenemos que analizar el uso de la IA respecto al derecho constitucional, agregó.