TECNOLOGÍA NORMATIVA
El acuerdo histórico de la UE sobre la IA limita el uso de sistemas de reconocimiento facial
Solo podrán usarlo las fuerzas del orden, con autorización judicial y por delitos específicos como terrorismo o trata
Según la nueva ley acordada por los Veintisiete, la primera en el mundo
La secretaria de Estado de Digitalización, Carme Artigas, sentada, durante las negociaciones de la nueva ley en Bruselas. - EUROPA PRESS
La Unión Europea será la primera región del mundo en regular el uso de la inteligencia artificial (IA). Las instituciones de la Unión Europea pactaron a última hora del viernes la primera ley que permite o prohíbe el uso de esa tecnología en función del riesgo que suponga para las personas y que busca impulsar a la industria europea frente a gigantes como China y Estados Unidos.
Uno de los puntos más sensibles del acuerdo, que aún debe ser ratificado por el Parlamento Europeo y el Consejo de la UE, era el uso que las fuerzas del orden podrán hacer de las cámaras de identificación biométrica en espacios públicos. Durante las negociaciones, muchos gobiernos presionaron para ampliar la lista de delitos, mientras que la Eurocámara intentó limitarla lo máximo posible y obtener fuertes salvaguardas para los derechos fundamentales. Finalmente, según el texto, la vigilancia en tiempo real solo podrá utilizarse bajo autorización judicial y su uso estará limitado en “tiempo y locación”.
Asimismo se especifica que solo se permitirá su uso para prevenir una amenaza terrorista “genuina y previsible” o “genuina y presente”, es decir que se esté produciendo en ese momento, o para la localización o identificación de un sospechoso de crímenes específicos: terrorismo, tráfico de personas, asesinato, secuestro, violación, robo armado o un crimen medioambiental.Por el contrario, prohíbe todos los sistemas de categorización biométrica por creencias políticas, religiosas, filosóficas o por su raza y orientación sexual. Tampoco se podrán utilizar los que puntúan a las personas en función de su comportamiento o características personales, ni los sistemas para crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales. No se podrá usar para reconocer las emociones en los centros de trabajo y escuelas. En cuanto al otro gran punto del acuerdo, la regulación de los sistemas de inteligencia artificial generativa, como ChatGPT, estos tendrán que cumplir criterios de transparencia, como especificar si un texto o fotografía se ha generado a través de la IA o respeta los derechos de autor.
La norma llegará en 2026 y se aplicará por fases
La norma prevé la creación de la Oficina Europea de Inteligencia Artificial, que coordinará el uso de la tecnología entre las autoridades nacionales y que estará asesorada por un panel de científicos y de organizaciones de la sociedad civil. Está previsto que entre en vigor en 2026, pero se aplicará por fases: la oficina europea se creará de forma inmediata, la prohibición de los sistemas de IA vetados llegará a los seis meses y los requisitos para los sistemas y modelos de IA generativa, a los 12. El reglamento prevé multas con un rango que va desde los 35 millones de euros o el 7% del volumen global de negocio de las empresas, hasta los 7,5 millones o el 1,5% del volumen global de negocio.
Un equilibrio entre la seguridad y el freno a la innovación
La legislación pionera acordada por la UE tiene como objetivo fijar estándares de seguridad y de derechos fundamentales que eviten que la tecnología se use con fines represivos, de manipulación o discriminatorios; pero sin que se traduzca en una hiperregulación que lastre la competitividad de la Unión Europea ante países como Estados Unidos y China, donde no hay límites. En este sentido, expertos en computación y derechos digitales, que celebraron el acuerdo, advirtieron del riesgo de que la norma, que ahora se empieza a tramitar, pueda “pasarse de frenada” y lastrar la innovación.
