La UE pacta la primera llei d’intel·ligència artificial al món

Les institucions de la Unió Europea van pactar aquest divendres la llei d’intel·ligència artificial que permet o prohibeix l’ús de la tecnologia en funció del risc que suposi per a les persones i que busca impulsar la indústria europea davant gegants com la Xina i els Estats Units. "La llei d’intel·ligència artificial de la UE és pionera al món. Un marc legal únic per al desenvolupament de la intel·ligència artificial en el qual es pot confiar", va dir la presidenta de la Comissió Europea, Ursula von der Leyen, en un missatge a la xarxa social X (abans Twitter).

L’acord va arribar després de 36 hores de negociacions i encara l’hauran de ratificar el Parlament Europeu i el Consell de la UE, la institució que representa els Governs europeus.

Vigilància en temps real

Un dels punts més sensibles de les negociacions ha estat l’ús que les forces de l’ordre podran fer de les càmeres d’identificació biomètrica en espais públics per garantir la seguretat nacional. Les càmeres es podran utilitzar amb prèvia autorització judicial per prevenir una amenaça terrorista "genuïna i previsible" o "genuïna i present", és a dir que s’estigui produint en aquell moment. També es podran fer servir per localitzar o identificar una persona que hagi comès delictes de terrorisme, tràfic de persones, explotació sexual o, per exemple un crim mediambiental i per buscar les víctimes d’aquests delictes.

Durant les negociacions, els governs han pressionat per ampliar la llista de delictes, mentre que l’Eurocambra ha intentat limitar-la el màxim possible i obtenir fortes salvaguardes per als drets fonamentals.

Sistemes prohibits

La norma, a més, prohibeix tots els sistemes de categorització biomètrica per creences polítiques, religioses, filosòfiques o per la seua raça i orientació sexual. Tampoc no es podran utilitzar els sistemes que puntuen a les persones en funció del seu comportament o característiques personals ni la intel·ligència artificial capaç de manipular el comportament humà. També estaran prohibits els sistemes per expandir o crear bases de dades facials captant dades de manera indiscriminada a través d’internet o d’enregistraments audiovisuals. A més, als centres de treball o les escoles també hi haurà prohibits els sistemes d’intel·ligència artificial que poden reconèixer les emocions.

IA generativa

L’altre gran assumpte que ha centrat les negociacions és la regulació dels sistemes d’intel·ligència artificial generativa, en els quals es basen models com ChatGPT, de l’empresa OpenAI o Bard, de Google.

Hauran de complir criteris de transparència, com especificar si un text, una cançó o una fotografia s’han generat a través de la intel·ligència artificial i garantir que les dades que s’han fet servir per entrenar els sistemes respecten els drets d’autor. Inicialment, la llei no estava pensada per regular aquest tipus de sistemes, perquè encara no s’havien popularitzat quan Brussel·les va proposar la llei l’abril de 2021, però les institucions comunitàries han vist la necessitat de legislar-los des de l’esclat de ChatGPT l’any passat. El reglament no prohibeix el seu ús però sí ha establert una sèrie de criteris per detectar els models que poden generar un alt risc en funció del context en el qual s’utilitzin i obliga als seus desenvolupadors a complir unes salvaguardes més estrictes abans de treure’ls al mercat.

Les negociacions van ser "apassionades", ja que l’objectiu de la llei és regular l’ús d’una tecnologia amb grans possibilitats per a la societat, que alhora genera dubtes i algunes preguntes que els desenvolupadors de la intel·ligència artificial encara no saben respondre, segons fonts coneixedores dels debats. El reglament permet o prohibeix l’ús de la intel·ligència artificial en funció del risc que genera per a les persones i identifica sistemes d’alt risc que només es podran utilitzar si es demostra que respecten els drets fonamentals. Per exemple, els que es puguin utilitzar per influir en el resultat d’unes eleccions, els que facin servir les entitats financeres per avaluar la solvència i establir la qualificació creditícia.

La presidència espanyola del Consell la UE ha aconseguit un dels seus principals objectius en aquest semestre amb el pacte d’aquesta norma pionera al món. "Hem aconsegueixen una fita important, que els ciutadans podem decidir què es pot fer i què no amb la intel·ligència artificial", va dir la secretària d’Estat espanyola de Telecomunicacions i Infraestructura Digital, Carme Artigas. La norma preveu la creació de l’Oficina Europea d’Intel·ligència Artificial, que coordinarà l’ús de la tecnologia entre les autoritats nacionals i que estarà assessorada per un panell de científics i d’organitzacions de la societat civil.

Està previst que la llei entri en vigor el 2026 però s’aplicarà per fases: l’oficina europea es crearà de forma immediata, la prohibició dels sistemes prohibits d’intel·ligència artificial arribarà als sis mesos i els requisits per als sistemes i models d’IA generativa, als 12. El reglament preveu multes amb un rang que va des dels 35 milions d’euros (37,6 milions de dòlars) o el 7 % del volum global de negoci de les empreses, fins els 7,5 milions d’euros (8 milions de dòlars) o l’1,5 % del volum global de negoci.