El 21 de abril de 2021, la Comisión Europea presentó la propuesta de la Ley de Inteligencia Artificial (AI Act), con el propósito de establecer un marco normativo y jurídico común para la regulación de la inteligencia artificial (IA) en la Unión Europea (UE). El 14 de junio del presente año, el Parlamento Europeo aprobó la propuesta de la Ley de Inteligencia Artificial, dando inicio a las negociaciones con los Estados miembros y la Comisión para conferir validez legal a la normativa antes del año 2026. De concluirse dichas negociaciones, la propuesta convertiría a Europa en la primera región en el mundo con un marco regulatorio vigente para la IA, una tecnología con potencial de transformar la economía, la cultura y el desarrollo a nivel global.
El Parlamento busca garantizar que los sistemas de IA utilizados en la UE cumplan con diversas características tales como sistemas seguros, transparentes, no discriminatorios y respetuosos con el medio ambiente. Para ello, se propone que los sistemas de IA sean supervisados por personas, en lugar de por la automatización, para evitar resultados perjudiciales.
El último borrador de la ley aprobado por el Parlamento Europeo estipula requisitos, restricciones y responsabilidades más rigurosas para las empresas que desarrollan, distribuyen o utilizan sistemas basados en IA, en comparación con la propuesta inicial. La ley propone un sistema de categorización de las plataformas de IA según el "riesgo potencial" para el bienestar social. Así, se define riesgo mínimo, riesgo limitado, alto riesgo e inaceptable riesgo, con distintas obligaciones y restricciones para cada categoría.
Los sistemas de las categorías de riesgo limitado y alto riesgo deberán informar a los usuarios que están interactuando con una IA, y revelar qué datos generales y protegidos por derechos de autor se usaron para entrenar estos modelos. Los servicios de "alto riesgo" deberán contar con sistemas de seguridad elevados, supervisión humana comprobable y alimentar sus bases de datos con información de alta calidad para evitar sesgos.
Uno de los aspectos más destacados del último borrador es la prohibición de sistemas de identificación y clasificación biométrica remota, la creación de bases de datos de reconocimiento facial con imágenes recolectadas de internet y el uso de software capaz de reconocer las emociones de los usuarios.
Tras las negociaciones en el Parlamento Europeo, varios aspectos de la ley podrían ser modificados, eliminados o se podrían agregar nuevos requerimientos. Algunos actores de la industria ven la propuesta como excesivamente restrictiva y temen que pueda afectar la rentabilidad de sus negocios a largo plazo. Sam Altman, CEO de OpenAI, ha expresado su preocupación sobre el borrador actual, que considera "sobrerregulado", pero mantiene la esperanza de que esto cambie en la versión final. Cabe señalar que, tal como está redactada la Ley de IA de la UE en este momento, las empresas con desarrollos más grandes se verían obligadas a cumplir con requisitos más exigentes que desarrolladores independientes o plataformas de código abierto de menor tamaño, que podrían ser los verdaderos líderes del sector en el futuro.
Las cookies de redes sociales recolectan información cuando usted comparte información de nuestro sitio vía redes sociales o la analizan para entender sus búsquedas entre sus redes sociales y nuestras campañas de Redes Sociales y nuestros propios sitios web. Hacemos esto para poder optimizar la mezcla de canales disponibles para proveerle de contenido. Los detalles de estas herramientas se encuentran en nuestra política de privacidad.