Hace no mucho dábamos cuenta en este mismo foro del interesante documento publicado el pasado mes de enero por la autoridad inglesa de Protección de Datos (ICO) sobre la inteligencia artificial argéntica y sus implicaciones en materia de Protección de Datos (acceder a publicación) Ahora es la Agencia Española de Protección de Datos (AEPD) la que hace público un extenso e interesante documento sobre el tema: Inteligencia artificial agéntica desde la perspectiva de Protección de Datos. Desde el principio la AEPD advierte que es necesario comprender los fundamentos, los alcances, los límites y la manera en que se aplica esta tecnología, reconociendo que deben aprovecharse de forma proactiva las oportunidades que ofrece, pero siempre con pleno respeto a la protección de datos de carácter personal. A lo largo de 74 páginas analiza con detalle los tratamientos de datos que emplean agentes de inteligencia artificial, las vulnerabilidades y tratamientos de datos personales, los aspectos de cumplimiento de la normativa de protección de datos, las amenazas y las medidas que deben adoptarse.
Según la AEPD “un agente de IA actúa de manera adecuada según sus circunstancias y sus objetivos, es flexible ante entornos y metas cambiantes, aprende de la experiencia y [quizá sea esta la característica más relevante de los sistemas de IA agéntica] toma decisiones apropiadas dadas sus limitaciones perceptivas y computacionales”. Sus características generales son autonomía (pueden operar sin intervención humana constante), percepción del entorno, acción (no sólo dan respuestas sino que puede ejecutar acciones externas), proactividad (pueden iniciar acciones por sí mismos), planificación y razonamiento y memoria y adaptabilidad. Se trata de sistemas que, al introducir “una superficie de ataque significativamente más amplia que la de los modelos de lenguaje”, quedan expuestos a impactos y amenazas de mayor complejidad. Estas vulnerabilidades derivan por ejemplo:
- de la interacción con el entorno, que puede ser ajeno a la propia organización, lo que puede dar lugar a la utilización de fuentes inadecuadas y a recabar datos personales excesivos e irrelevantes para el tratamiento;
- de la memoria del sistema (es preciso establecer políticas claras acerca de qué debe almacenarse en la memoria para cada tratamiento, que sea información de calidad, que se conserve tan sólo durante el tiempo que sea necesario, que cuente con medidas de seguridad que garanticen la confidencialidad, integridad y disponibilidad de la información);
- de la posibilidad de que los agentes puedan actuar de forma autónoma, lo que exige analizar con rigor si se cumple con el artículo 22 del RGPD, si existe supervisión humana, si se cumple con la finalidad del tratamiento, o si se respetan los principios de transparencia, explicabilidad o trazabilidad, entre otros. Asimismo, cuando sea posible actuar en nombre del usuario o de la organización, deberán establecerse técnicas que permitan a los agentes de IA solicitar y utilizar credenciales de usuario y credenciales técnicas o de máquinas, lo que a su vez plantea riesgos derivados de la posible concesión de permisos excesivos. Además, se corre asimismo el riesgo evidente de que proliferen identidades de máquinas asociadas a agentes lo que sin duda puede dificultar exponencialmente la aplicación efectiva de controles y garantías.
Lo anterior permite adivinar, como es obvio, que los riesgos en materia de protección de datos no son ni pocos ni sencillos de resolver. La AEPD analiza con detalle temas tales como la determinación de los roles de responsable y encargado del tratamiento; transparencia y deber de información; bases de legitimación del tratamiento; impacto en el registro de actividades de tratamiento; ejercicio de derechos; automatización del tratamiento y adopción de decisiones automatizadas; análisis y gestión de riesgos; o aplicación de los principios de protección de datos desde el diseño y por defecto.
Riesgos que, como advierte la AEPD, suponen, o pueden suponer, verdaderas y graves amenazas desde el punto de vista de la protección de datos. Amenazas que la autoridad de control diferencia entre las que derivan de tratamientos autorizados o no. Lo que lleva a la AEPD a proponer una serie de medidas “que permitan obtener los beneficios de incluir IA agéntica como medio de tratamiento y, a la vez, garantizar y poder demostrar que el tratamiento es conforme con el RGPD”. Las medidas se sistematizan en torno a varios bloques: gobernanza y procesos de gestión; evaluación continua del agente basada en evidencias; minimización de datos; control de la memoria, tanto a corto como a largo plazo; automatización; control del agente desde el diseño; gestión del consentimiento; transparencia y alfabetización.
Por último la AEPD propone unas reflexiones finales de enorme importancia: la IA agéntica ha llegado para quedarse, sin que podamos ignorar su existencia ni las ventajas que presenta. Pero tampoco podemos aceptarla acríticamente. Su implantación debe tener muy presentes los principios de protección de datos desde el diseño y por defecto; incluso la IA agéntica puede ser una Privacy Enhancing Technology (PET). Lo que requiere conocer lo máximo posible el alcance de esta tecnología, y exige que los delegados de protección de datos adquieran conocimientos que les permitan entender sus fundamentos y las garantías que deben implantarse (a lo largo del documento se pone de manifiesto, en varias ocasiones, la importancia del papel que ha de jugar el DPD). Lo que a su vez exige mayor formación y concienciación en todas las organizaciones que, como responsables o encargados, traten datos de carácter personal.
