Cómo la ley IA nos protege y nos impulsa
Aunque Europa no dispone de inteligencia artificial propia, sí contamos con la primera ley del mundo que regula la inteligencia artificial. El reglamento UE 2024/1689 (o ley de la IA), obligatorio para los 27 estados miembros de la Unión Europea, se está desplegando por fases entre 2024 y 2028, con las obligaciones más exigentes al final con el fin de dar margen a empresas e instituciones para adaptarse.
Lo fundamental de esta ley es la transparencia. Cualquier persona tiene derecho a saber cuándo interacciona con una máquina, o cuándo tiene delante un contenido elaborado con IA. Las obligaciones que marca la ley no son iguales para todo lo que se haga con la IA: cuanto mayor sea el riesgo de un uso de IA mayores serán las exigencias que se deban cumplir.
Por transparencia y trazabilidad la ley establece que todo contenido elaborado con IA debe tener dos avisos: el proveedor de IA debe añadir una marca técnica invisible para que las aplicaciones lo identifiquen como contenido artificial, y después el autor, divulgador o el mismo proveedor debe añadir una marca, icono o aviso visible del tipo “generado con IA” o “modificado con IA”, sin formato obligatorio pero debe ser claro y no inducir a error.
Según afecte a los ciudadanos, se establece una clasificación de cuatro niveles:
1. Riesgo mínimo. Pocas obligaciones legales para la IA cotidiana, en la que el ciudadano busca interactuar con la IA y sabe que lo está haciendo.
2. Riesgo limitado. Obligación de informar de que la IA está por medio, por ejemplo al interactuar con un servicio al cliente, o al solicitar información. La empresa o proveedor tiene la obligación de avisar, de manera que se sepa sin ninguna duda si se interactúa con una persona o con una máquina.
3. Riesgo alto. Control estricto de la IA al tomar decisiones que afecten al ciudadano, por ejemplo en el empleo, en la formación, en la concesión de crédito o en el acceso a ayudas o servicios. En este nivel de riesgo el reglamento exige mucho más que un aviso, ya que pide evaluar riesgos, vigilar los datos con los que se entrene a la IA, supervisión humana antes de la decisión final, documentación detallada y registro previo en una base de datos europea.
4. Riesgo inaceptable. Sin excepción, la ley prohíbe utilizar la IA para clasificar a los ciudadanos por puntos (como ya se hace en China), para la manipulación psicológica, para el reconocimiento de emociones, para la vigilancia biométrica en tiempo real o con bases de datos, o para la explotación de la vulnerabilidad de menores o personas con discapacidad.
Esta ley va en serio: establece multas de hasta 35 millones de euros o el 7% de la facturación anual, con lo que supera el límite sancionador de la normativa española.
Además, un elemento clave de la ley es la alfabetización en IA: las empresas e instituciones tienen la obligación de formar al personal que utilice aplicaciones de IA para que las entiendan y para que se haga un uso responsable.
Esta obligación de alfabetizar en IA no es sancionable pero pretende un efecto a medio y largo plazo muy deseable: la alfabetización en IA conlleva que empleados y estudiantes sabrán utilizarla de forma selectiva, revisarán sus resultados con criterio, no la emplearán de manera automática y obtendrán resultados útiles.