Quan la ‘realitat’ supera la ficció: de la Sagrada Família en flames al Papa als camps d'Aitona

Algú va assumir que el vídeo manipulat de l’arquebisbe d’Urgell i copríncep d’Andorra, Joan Enric Vives, qui instava a la ciutadania a invertir en petroli, era real? Tret de per algun petit error entre el moviment dels llavis i les seues paraules, les imatges, manipulades de manera fraudulenta amb intel·ligència artificial (IA), podien tenir tota l’aparença d’autenticitat.

I la suposada foto “compromesa” de Rosalía que es va publicar el maig de 2023 a la xarxa X? En aquest cas, la veracitat de la imatge va ser molt més difícil de descartar, doncs l’edició era més senzilla i el mal anava clarament dirigit a una sola persona, com una bala, a l’artista de Sant Esteve Sesrovires. 

Davant de la proliferació d’aquest tipus de contingut, com a consumidors d’informació –i fins i tot com a curadors – ens sorgeixen noves preocupacions sobre allò que podem considerar cert i el que no. Hauríem de dubtar de tot el que vegem? On acaba la realitat i comença una mera representació d’aquesta?

El fotògraf de Lleida Jordi V. Pou ho té clar: “la representació amb imatge de la realitat no és la realitat en si mateixa”, assegura. “El fet únic d’enquadrar una o una altra cosa, sense necessitat d’utilitzar retocs o IA, ja provoca una distorsió de la realitat” i, per això, “hem de desconfiar de totes les imatges que vegem”. Pou, que utilitza l’IA en alguns dels seus projectes artístics [veure imatges], assegura que “el fet que existeixi una foto d’alguna cosa no prova absolutament res”.

Només fa 200 anys que existeix la suplantació de la realitat per la imatge, amb la invenció dels primers procediments fotogràfics. En aquest lapse de temps, “hem imposat a la imatge una càrrega de realitat que no li correspon”, declara Pou, “hauríem alliberar-la”.

“Les imatges poden ser tan ficció com un text i això no té res de dolent. Hem d’alliberar a la imatge la càrrega de realitat que li hem imposat. Amb l’arribada de l’IA, això s’evidenciarà per a tot el món.”Jordi V. Pou. Fotògraf

En un primer moment, resulta fàcil titllar l’IA de “perillosa”. Tanmateix, experts com Manel Sanromà, matemàtic, professor a la URV i president de CIVICAi –una associació que advoca pel lliure accés a l’IA i que el seu desenvolupament sigui ètic–, afirmen que “l’únic component perillós de l’IA és l’ús que li puguem donar”.

De fet, Pou determina que “el veritable responsable del vídeo de l’arquebisbe no és l’IA, sinó la persona que l’ha editat per treure’n profit de l’engany”. Així mateix, el fotògraf assenyala que la manipulació de les imatges per enganyar “té més d’un segle d’història”, per tant, el fet que actualment existeixin noves eines per fer-ho no significa que abans fos un fet inconcebible.

“L’IA no és perillosa en si mateixa. En el futur, superarà la majoria d’humans i despertarà qüestions ètiques que ara ni ens imaginem. Hem d’aprofitar les possibilitats que ofereix aquest avenç tecnològic.”
Manel Sanromà. Matemàtic. President de CívicAi.

Al cap de poc temps de la publicació del vídeo de l’arquebisbe, la diòcesi d’Urgell es va afanyar a fer públic que havien denunciat els fets davant dels Mossos d’Esquadra i que es reservaven “el dret d’exercir les accions legals oportunes contra els seus autors”. Encara que Sanromà considera que “l’arquebisbe té tot el dret a demanar respecte per la seua imatge”, admet que l’única solució davant de tals malifetes és “buscar-se un advocat especialitzat i querellar-se”.

Paral·lelament, els mitjans de comunicació “han de denunciar aquests casos i fer que siguin notícia”, afirma Joan Teixidó, especialista en comunicació digital del grup SEGRE. “Quan les fake news van proliferar fa un lustre, va costar que la societat interioritzés que la seua única raó de ser era enganyar”, explica Teixidó. Això va passar, en part, perquè els mitjans no van invertir en recursos per “denunciar-les”. Per sort, “avui costa molt més colar una fake new al públic”, assegura “tanmateix, són les manipulacions malicioses amb imatge i text les que ara s’han d’integrar al nostre imaginari col·lectiu com a ciutadans”.

“Els mitjans de comunicació no desmentim les fake news quan van proliferar fa uns 5 anys. Ara, hem de denunciar les manipulacions malicioses fetes amb IA, com va passar amb el cas de l’arquebisbe d’Urgell.”
Joan Teixidó. Expert en comunicació digital

Però es pot regular i limitar l’IA?

Els experts consultats per SEGRE difereixen en aquesta qüestió. D’una banda, Pou defensa que “a hores d’ara, ja no hi ha res a fer, doncs existeixen models de programari lliure que ja estan instal·lats en milers d’ordinadors” i seria impossible controlar com i amb quina finalitat els utilitza cada usuari. Insisteix que els responsables s’han de fixar correctament, ja que “s’ha de regular allò de sempre: les males persones”.

En canvi, Sanromà creu que en un futur “acabarà sent possible legislar l’IA, sempre i quan hi hagi una governança entre polítics, empreses i societat civil.” Insisteix que “les companyies tecnològiques hauran de dedicar recursos per assegurar el bon ús de les seues possibilitats” i en la importància que “els ciutadans també tinguin mecanismes per participar en l’esmentada regulació, ja que són usuaris últims de l’IA.”

Al seu torn, Teixidó proposa la implementació d’“un segell de qualitat que indiqui que un contingut ha estat creat, en part o totalment, per IA”, com passa a Instagram des de fa unes quantes setmanes, “per contribuir a la seua adaptació al nostre entorn”. No obstant, Pou considera que l’esmentada distinció seria “un greu error”, ja que “implicaria que totes les imatges que no ostentessin aquesta marca serien reals, una cosa que no seria veritat, independentment de com fos la foto.”

Serem capaços algun dia de diferenciar imatges creades per IA d’imatges sense retocar?

De moment, Pou assegura que “és impossible, ja que no existeix cap programa que identifiqui les manipulacions”. De fet, mentre les competències de la tecnologia creixin, la nostra “única solució és no creure’ns cap imatge”, constata el fotògraf. Sanromà no li veu cap límit a les possibilitats de l’IA: “això no ha fet més que començar”, explica, “estem començant a veure-li les orelles al llop, encara que aquest llop és un gran avenç tecnològic i la societat ha de posar-se les piles per aprofitar-ho”.

Els tres experts consultats per aquest diari coincideixen que ens trobem en un període de transició i, com a tal, són temps complicats. L’impacte de l’IA sobre la nostra quotidianitat dependrà de com ens hi adaptem.