L'Eurocambra s'oposa a la vigilància en temps real i regula els sistemes GPT

El Parlament Europeu s'ha oposat aquest dimecres a la vigilància biomètrica en temps real i ha imposat condicions per als nous sistemes com ChatGPT, en aprovar la llei d’intel·ligència artificial que s’està negociant a Brussel·les per impulsar el seu desenvolupament, limitant al seu torn els possibles riscos. Amb 499 vots a favor, 28 en contra i 93 abstencions, l’Eurocambra ha fixat així la seua posició de cara a les negociacions que començaran avui amb la Comissió Europea i el Consell de la UE per pactar el text definitiu de la llei i que continuaran sota la presidència rotatòria que Espanya assumirà l’1 de juliol.

Entre les demandes del Parlament Europeu hi ha la de prohibir la vigilància biomètrica en temps real en espais públics, en contra del que han defensat l’Executiu comunitari i els països de la UE, que aposten per permetre-la si l’autoritza un jutge, en casos molt específics.

GPT

En ple debat sobre la necessitat de regular els sistemes que són capaços de generar text i material audiovisual, el Parlament vol que els seus desenvolupadors demostrin que han reduït els riscos que la tecnologia pugui generar a la salut, als drets fonamentals i al sistema democràtic. Els eurodiputats també volen que els usuaris que utilitzin aquesta tecnologia per generar imatges falses ('deep fakes') especifiquin que el contingut s’ha manipulat mitjançant intel·ligència artificial.

Així mateix, demanen que els desenvolupadors d’aquests sistemes expliquin de forma "prou detallada" quines dades protegides per drets d’autor han utilitzat per entrenar la intel·ligència artificial.

IDENTIFICACIÓ BIOMÈTRICA

El Parlament Europeu s'ha oposat a la utilització dels sistemes d’identificació biomètrica en temps real en espais públics. Els eurodiputats, no obstant, sí que van obrir la porta a poder utilitzar-los a posteriori, sempre amb autorització judicial, per perseguir "delictes greus". L’Eurocambra ha rebutjat així l’esmena del Partit Popular Europeu, més laxa amb la protecció dels drets fonamentals.

El PPE s'ha mostrat a favor de poder utilitzar aquests sistemes, amb permís d’un jutge, per buscar persones desaparegudes (inclosos els menors), per prevenir un atemptat terrorista i per localitzar els qui hagin comès un delicte que porti almenys tres anys de presó.

ALT RISC

La normativa qualifica d’alt risc tota una sèrie de sistemes d’intel·ligència artificial amb usos molt específics que només es podran introduir al mercat si respecten els drets fonamentals i valors de la UE. Per exemple, els que es puguin utilitzar per influir en el resultat d’unes eleccions, els que facin servir les entitats financeres per avaluar la solvència i establir la qualificació creditícia d’una persona o els que faci servir la policia de control de fronteres per controlar, vigilar o processar dades per a predicció de moviments migratoris.

Després d’un vot que la vicepresidenta de la Comissió Europea per a l’Era Digital, Margrethe Vestager, va qualificar d’"històric", començaran les negociacions entre les tres institucions europees per pactar el text definitiu de la llei. En cas que les negociacions acabessin aquest any, la norma no es començaria a aplicar fins 2026, pel que Brussel·les ha proposat un pacte entre les grans tecnològiques perquè etiquetar de forma immediata tot el contingut fals que es generi amb intel·ligència artificial.