L'acord històric de la UE sobre la IA limita l'ús de sistemes de reconeixement facial

La Unió Europea serà la primera regió del món a regular l’ús de la intel·ligència artificial (IA). Les institucions de la Unió Europea van pactar a última hora de divendres la primera llei que permet o prohibeix l’ús d’aquesta tecnologia en funció del risc que suposi per a les persones i que busca impulsar la indústria europea davant de gegants com la Xina i els Estats Units.

Un dels punts més sensibles de l’acord, que encara ha de ser ratificat pel Parlament Europeu i el Consell de la UE, era l’ús que les forces de l’ordre podran fer de les càmeres d’identificació biomètrica en espais públics. Durant les negociacions, molts governs van pressionar per ampliar la llista de delictes, mentre que l’Eurocambra va intentar limitar-la al màxim i obtenir fortes salvaguardes per als drets fonamentals. Finalment, segons el text, la vigilància en temps real només es podrà utilitzar sota autorització judicial i el seu ús serà limitat en “temps i locació”. Així mateix, s’especifica que només se’n permetrà l’ús per prevenir una amenaça terrorista “genuïna i previsible” o genuïna i present, és a dir, que s’estigui produint en aquell moment, o per a la localització o identificació d’un sospitós de crims específics: terrorisme, tràfic de persones, assassinat, segrest, violació, robatori armat o un crim mediambiental.Al contrari, prohibeix tots els sistemes de categorització biomètrica per creences polítiques, religioses, filosòfiques o per raça i orientació sexual. Tampoc es podran utilitzar els que puntuen les persones en funció del seu comportament o característiques personals, ni els sistemes per crear bases de dades facials captant dades de manera indiscriminada a través d’internet o d’enregistraments audiovisuals. No es podrà utilitzar per reconèixer les emocions als centres de treball i escoles.Pel que fa a l’altre gran punt de l’acord, la regulació dels sistemes d’intel·ligència artificial generativa, com ChatGPT, aquests hauran de complir criteris de transparència, com especificar si un text o fotografia s’ha generat a través de la IA o si respecta els drets d’autor.

La norma arribarà el 2026 i s’aplicarà per fases

La norma preveu la creació de l’Oficina Europea d’Intel·ligència Artificial, que coordinarà l’ús de la tecnologia entre les autoritats nacionals i que estarà assessorada per un plafó de científics i d’organitzacions de la societat civil. Es preveu que entri en vigor l’any 2026, però s’aplicarà per fases: l’oficina europea es crearà de forma immediata, la prohibició dels sistemes d’IA vetats arribarà als sis mesos i els requisits per als sistemes i models d’IA generativa, als dotze. El reglament preveu multes amb un rang que va des dels 35 milions d’euros o el 7 per cent del volum global de negoci de les empreses, fins als 7,5 milions o l’1,5 per cent del volum global de negoci.

Un equilibri entre la seguretat i el fre a la innovació

La legislació pionera acordada per la Unió Europea té com a objectiu fixar estàndards de seguretat i de drets fonamentals que evitin que la tecnologia s’utilitzi amb finalitats repressives, de manipulació o discriminatòries, però sense que es tradueixi en una hiperregulació que llasti la competitivitat de la Unió Europea davant de països com els Estats Units i la Xina, on no hi ha límits. En aquest sentit, experts en computació i drets digitals, que van celebrar l’acord, van advertir del risc que la norma, que ara es comença a tramitar, pugui “passar-se de frenada” i ser un llast a la innovació.