¿Qué significa para las organizaciones el decálogo de la AEPD sobre asistentes y agentes de IA?
Confirme que es una persona para iniciar el audio.
Aunque el decálogo está dirigido a personas usuarias de asistentes y agentes de IA, es posible extrapolar algunas consideraciones y recomendaciones a las organizaciones que también hacen uso de estos asistentes y agentes de IA. El decálogo se centra en las implicaciones para el derecho fundamental a la protección de datos, por lo que es importante para mitigar riesgos derivados de tratamientos de datos que pudieran incumplir con la normativa aplicable.
El decálogo de la AEPD puede ser utilizado como una guía práctica de gobernanza de la IA en el caso de asistentes y agentes que tratan datos personales. Es esencial tener en cuenta que, cuando se hace uso de un agente de IA, la organización responde de lo que hacen los agentes que autoriza.
Las cinco preguntas que plantea el decálogo sobre los asistentes y agentes de IA son las relativas a: qué puede ver, qué puede recordar, qué puede hacer en mi nombre, dónde envía mis datos y si afecta a alguien más. En el ámbito de las organizaciones, son preguntas que se hacen cuando se lleva a cabo una evaluación de impacto relativa a la protección de datos o un proceso de homologación de proveedores.
A la vista del decálogo las cuestiones relevantes para las organizaciones que utilizan asistentes y agentes de IA son las relativas a conceder el mínimo privilegio en el acceso, la memoria, el riesgo de inyección de instrucciones y no utilizar la IA para inferir información sensible o tomar decisiones sobre la persona que le puedan afectar, a menos que se tengan garantías de que se pueda hacer.
Entre estas cuestiones, destaca el hecho de que la AEPD preste especial atención a la importancia de conceder accesos basados en el mínimo privilegio de manera que se asegure la minimización de datos personales que sean tratados y mitigar los riesgos derivados de equivocaciones que pudiera cometer el agente, que éste sea engañado o de accesos no autorizados por terceros. Por lo que se refiere a la memoria de los asistentes de IA, es necesario que las organizaciones evalúen meticulosamente a los encargados del tratamiento, los plazos de conservación de los datos y el uso de datos para entrenar modelos.
En cuanto al riesgo de inyección por instrucciones, no se puede eliminar por completo, siendo necesario limitar lo que el agente puede hacer si es engañado, por ejemplo, mediante instrucciones ocultas en una web o en un correo electrónico. En estos casos sería recomendable que hubiera una confirmación antes de llevar a cabo cualquier acción por el agente.
El decálogo también es aplicable a los proveedores de asistentes y agentes de IA, ya que éstos deben asegurarse de incluir los siguientes controles:
- permisos comprensibles que distingan consultar de actuar;
- confirmación configurable para las acciones de mayor impacto;
- un historial de lo que ha hecho el agente;
- una forma inmediata de detenerlo;
- gestión y borrado de la memoria;
- información clara sobre si los datos se usan para entrenar la IA.
Se trata de una lista de requisitos de protección de datos desde el diseño y cuando se adquieren asistentes o agentes de IA es importante que la organización usuaria se asegure de que se cumplan para poder así mitigar los riesgos que pueda implicar el tratamiento de datos personales.
Desde un punto de vista práctico, algunas recomendaciones que las organizaciones podrían tener en cuenta cuando utilizan asistentes o agentes de IA con la finalidad de gestionar de manera adecuada los riesgos que se plantean son:
- Elaborar un inventario de los asistentes y agentes de IA en uso.
- Aplicar el mínimo privilegio y revisar los conectores de forma periódica.
- Proteger las cuentas de uso de los asistentes y agentes de IA requiriendo la verificación en dos pasos y asegurando que se utilicen contraseñas robustas que se cambien con frecuencia y, en su caso, cada vez que sea necesario si hubiera algún temor de que pudieran ser conocidas por personas no autorizadas.
- Elaborar e implementar políticas de uso aceptable y formación a los usuarios, evitando así el uso de asistentes que no hayan sido autorizados por la organización.
- En caso de duda, consultar con el delegado de protección de datos.
- Preparar un plan de respuesta ante contingencias, que sirva para saber cuándo detener el agente de IA, retirar sus accesos y avisar a la organización si algo falla.
En definitiva, el uso de asistentes y agentes de IA por las organizaciones debe hacerse de manera responsable, integrándolos dentro del marco de gobernanza de la IA, con la finalidad de mitigar la exposición a riesgos tecnológicos, legales y reputacionales.
