Avanzan las discusiones sobre la futura ley de inteligencia artificial

Jaime Bello y Beatriz Alegre

El 21 de abril de 2021 fue publicada la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (la “Propuesta de Ley de Inteligencia Artificial”). Este texto legislativo pretende ser uno de los pilares principales de la Estrategia Europea para la creación de un mercado único digital.

La norma afectará de forma transversal a todas las industrias y regulará el desarrollo, la modificación y la utilización de productos o servicios que incorporen un sistema de inteligencia artificial (“IA”). De forma ilustrativa, la Propuesta de Ley de Inteligencia Artificial introduce prácticas adecuadas de gobernanza y gestión de los datos de entrenamiento de la IA o propuestas como la clasificación de los sistemas de IA en función de su riesgo como (i) sistemas prohibidos; (ii) sistemas de alto riesgo; (iii) sistemas de riesgo limitado; y (iv) sistemas de riesgo mínimo.

Un año después de la publicación de la Propuesta de Ley de Inteligencia Artificial, la misma ha pasado a ser discutida en el seno del Parlamento Europeo. El debate comenzó el 11 de mayo y a lo largo del mes de junio han sido confrontadas las diferentes enmiendas planteadas por los grupos parlamentarios europeos. Si bien hay algunos aspectos que generaron cierta controversia, parece que las iniciativas más importantes de la norma fueron admitidas por la mayoría del órgano parlamentario.

Uno de los principales aspectos más discutidos fue la definición de IA que da la Propuesta de Ley de Inteligencia Artificial, puesto que parte de los parlamentarios se posicionan a favor de partir de una definición general amplia de IA en sustitución de la actual definición, que se refiere a la IA como un software que se desarrolla empleando una o varias de las técnicas y estrategias que recoge el Anexo I.

La clasificación de sistemas de IA basado en el análisis de riesgo se aceptó de forma generalizada y se consideró adecuado que la ley opte por establecer restricciones en función de cada caso, sin que ningún sistema se excluya ex ante por mera definición. Se puso especial foco en la categoría de sistemas de IA de alto riesgo, incluyendo dentro de la misma algunos sistemas inicialmente no previstos de forma expresa en los anexos de la Ley de Inteligencia Artificial: (i) sistemas de IA usados para influenciar o condicionar el desarrollo de los menores o la opinión de los votantes; (ii) sistemas de cómputo de voto electoral; y (iii) deepfakes y contenido editorial redactado por una IA. No obstante, hay cierta discrepancia entre los grupos parlamentarios a la hora de delimitar la categoría de sistemas de alto riesgo, pugnando el sector más conservador por reducir el listado de sistemas, por ejemplo, con la eliminación del sistema de IA para evaluar la solvencia. Por otro lado, los eurodiputados verdes persiguen ampliar esta categoría al software de recomendación de medios y a algoritmos utilizados en los procesos de seguros de salud, pagos y cobro de deudas.

La otra cuestión más discutida fue el régimen de responsabilidad que se aplicará a los distintos agentes que participan en la cadena de creación y explotación del sistema de IA, desde el proveedor de la base de datos de entrenamiento de la IA hasta el usuario final, pasando por otros posibles intervinientes como el fabricante o distribuidor de un bien o servicio que tenga implementado el sistema de IA en cuestión. Todavía no está claro cómo se concretará el reparto de responsabilidades entre estos actores. Además, la Comisión Europea fue elegida como la autoridad supervisora idónea para controlar el cumplimiento de las obligaciones y restricciones impuestas por la norma, con potestad para imponer sanciones especialmente severas en lo que concierne a las actividades de alto riesgo.

Tras el debate de las diferentes enmiendas durante las últimas semanas, la Propuesta de Ley de Inteligencia Artificial será sometida a voto para su aprobación en noviembre de este mismo año.

La presente publicación no constituye asesoramiento jurídico de sus autores. Si desea recibir periódicamente las publicaciones de Referencias Jurídicas CMS, que analizan y comentan la actualidad legal y jurisprudencial de interés, puede suscribirse a través de este formulario.