Una llei obligarà a identificar continguts creats amb IA i fixa sancions de fins a 35 milions

El govern espanyol ha donat llum verda aquest dimarts a un avantprojecte de llei que obligarà a identificar clarament tots els continguts generats amb intel·ligència artificial (IA), establint un règim sancionador que preveu multes de fins a 35 milions d’euros o el 7% de la facturació anual per als qui utilitzin aquestes tecnologies de manera fraudulenta. La iniciativa, aprovada pel Consell de Ministres, busca garantir un desenvolupament ètic i responsable de la IA a Espanya, alineant-se amb el marc regulatori europeu.

La denominada 'Llei per al bon ús i la governança de la intel·ligència artificial’ pretén establir un marc normatiu que permeti aprofitar els avantatges d’aquesta tecnologia emergent mentre es protegeixen els drets fonamentals dels ciutadans. Segons va explicar Óscar López, ministre per a la Transformació Digital i de la Funció Pública, la intel·ligència artificial representa "un poderós instrument que pot afavorir el creixement econòmic" i contribuir a camps com la medicina, però també podria convertir-se en "una eina per difondre falòrnies, expandir l’odi i atacar a la democràcia" si no es regula adequadament.

Pràctiques prohibides i sistemes d’alt risc

L’avantprojecte de llei, d’acord amb el reglament europeu, estableix una sèrie de pràctiques totalment prohibides en l’àmbit de la IA. Entre aquestes destaquen l’ús de tècniques subliminars per manipular decisions sense consentiment exprés de l’usuari, com podria ser el cas d’un 'chatbot' que identifica persones amb addicció al joc i les incita a accedir a plataformes d’apostes mitjançant estímuls imperceptibles.

Així mateix, la normativa prohibirà explícitament l’explotació de vulnerabilitats relacionades amb característiques personals com l’edat, la discapacitat o la situació socioeconòmica per alterar comportaments que puguin provocar perjudicis. Un exemple esmentat pel ministre López seria el d’"un joguet infantil habilitat amb IA que animi els nens a completar reptes potencialment perillosos per a la seua integritat física".

Altres usos prohibits inclouen la classificació biomètrica de persones segons la seua raça, orientació política, religiosa o sexual, així com sistemes de puntuació social basats en comportaments o característiques personals que puguin utilitzar-se per discriminar en l’accés serveis, subvencions o préstecs. També es vetarà la valoració del risc delictiu d’una persona basant-se exclusivament en dades com el seu historial familiar, nivell educatiu o lloc de residència.

El règim sancionador: multes milionàries per a infraccions greus

Les sancions previstes per als qui incompleixin aquestes prohibicions seran contundents, oscil·lant entre els 7,5 i els 35 milions d’euros, o entre el 2% i el 7% del volum de negoci mundial de l’empresa infractora. No obstant, l’avantprojecte preveu certa flexibilitat per a les pimes, que podrien rebre sancions de menor quantia.

Quant a la supervisió del compliment normatiu, el ministre López ha assenyalat que la vigilància dels sistemes prohibits recaurà en diverses autoritats segons el seu àmbit d’aplicació: l’Agència Espanyola de Protecció de Dades s’encarregarà dels sistemes biomètrics i de gestió de fronteres; el Consell General del Poder Judicial supervisarà els sistemes de IA en l’àmbit de la justícia; la Junta Electoral Central vigilarà aquells que afectin processos democràtics; i l’Agència Espanyola de Supervisió de la Intel·ligència Artificial assumirà la responsabilitat sobre la resta de casos.

La lluita contra els 'deepfakes' i la desinformació

Un dels aspectes més rellevants de la nova normativa és l’obligació d’etiquetar correctament qualsevol contingut audiovisual generat o manipulat mitjançant IA. Aquesta mesura busca combatre directament el fenomen de la "ultrasuplantació" o "deepfake", que consisteix en la creació d’imatges, àudios o vídeos sintètics que mostren a persones reals o fictícies en situacions o realitzant accions que mai no han passat. 

No complir aquesta obligació d’etiquetatge es considerarà una infracció greu, subjecta a importants sancions econòmiques que podrien assolir els 7,5 milions d’euros o fins el 3% del volum de negoci mundial de l’empresa responsable.

L’aprovació d’aquest avantprojecte coincideix temporalment amb una polèmica generada pel Partit Popular, que recentment va difondre a través de xarxes socials dos vídeos creats amb intel·ligència artificial. El primer, titulat "L’illa de les corrupcions", va ser posteriorment retirat després de les protestes formals de la República Dominicana, ja que utilitzava imatges del país caribeny per criticar suposats casos de corrupció del PSOE. El segon vídeo, publicat coincidint amb el Día Internacional de la Dona sota el títol "La manifestació que no veuràs avui", mostrava imatges virtuals de diversos dirigents d’esquerres i de l’esposa del president del Govern, incloent una escena controversial on apareixien Pedro Sánchez i l’exministre José Luis Ábalos amb un suposat "catàleg" de dones.

El potencial econòmic de la intel·ligència artificial a Espanya

Durant la seua compareixença, el ministre López també va destacar les conclusions d’un informe sobre la implementació de la intel·ligència artificial a Espanya, que pronostica un possible creixement del PIB nacional de fins un 8% -equivalent a més de 100.000 milions d’euros- en la pròxima dècada si aquesta tecnologia s’aplica correctament.

Aquest potencial de creixement evidencia la importància estratègica de comptar amb un marc regulatori equilibrat, que permeti aprofitar les oportunitats econòmiques que ofereix la IA sense comprometre els drets fonamentals ni la seguretat dels ciutadans.

Quins sistemes d'IA seran considerats d’alt risc?

La nova legislació estableix una categoria específica per als denominats "sistemes d’alt risc", que estaran subjectes a requisits addicionals de seguretat i transparència. En aquesta categoria s’inclouen tots aquells sistemes que s’incorporin com a elements de seguretat en productes industrials, joguets, equips radioelèctrics o productes sanitaris.

També es consideraran d’alt risc els sistemes utilitzats per garantir drets fonamentals en àmbits com migració, asil i control fronterer; els empleats en l’administració de justícia; i aquells que puguin influir en processos democràtics.

L’incompliment dels requisits establerts per a aquests sistemes d’alt risc també comportarà sancions significatives, que oscil·laran entre els 500.000 euros i els 7,5 milions, o fins el 2% o 3% del volum de negoci mundial de l’empresa responsable, depenent de la gravetat de la infracció.

Com afectarà aquesta llei a empreses i usuaris?

La nova normativa suposarà un canvi significatiu en la forma en què les empreses desenvolupen i comercialitzen solucions basades en intel·ligència artificial a Espanya. Les companyies hauran d’implementar mecanismes per garantir la transparència dels seus sistemes, especialment pel que fa a l’etiquetatge de continguts generats artificialment.

Per als usuaris, la llei pretén oferir més protecció i claredat, permetent-los "diferenciar amb nitidesa els continguts que són reals dels que són virtuals", segons paraules del ministre López. Aquest aspecte resulta particularment rellevant en un context de creixent preocupació per la desinformació i les fake news potenciades per tecnologies d'IA cada vegada més sofisticades.

L’avantprojecte s’emmarca en el que el ministre ha denominat "escut europeu" de protecció de drets digitals, complementant-se amb altres iniciatives legislatives com l’avantprojecte de llei de serveis digitals i mitjans de comunicació, i adaptant la legislació espanyola al reglament europeu d’Intel·ligència Artificial, que ja es troba en vigor.