Més enllà de la pornovenjança feta amb la IA

Si es fixen en la fotografia que il·lustra aquest article s’adonaran que té una textura molt viva, sense gra, d’una viscositat intensa. A dia d’avui encara hi ha alguns detalls que ens fan sospitar si la imatge és real o està generada a partir d’intel·ligència artificial.

D’aquí no gaire, potser només setmanes, uns mesos a tot estirar, amb la IA serem capaços de produir imatges que ningú no sabrà distingir si és una fotografia que ha captat un moment viscut o no.

El mateix passa amb la pornografia i l’afició a crear vídeos falsos amb IA protagonitzats per dones a qui un home vol fer mal. La pornovenjança es va posar de moda amb les xarxes socials, exparelles utilitzaven imatges reals que s’havien pres durant els moments més càlids de la relació i es compartien a internet quan s’havia deixat enrere l’amor i s’havia entrat en el terreny obscur de l’odi i la rancor.

Amb la IA els homes disposats a infligir dolor a les seues exparelles –les estadístiques sobre aquesta pràctica són clares– ja no cal que hagin guardat fotografies o vídeos casolans en què ells també són protagonistes. Ara poden crear vídeos pornogràfics que no tinguin res a veure amb la realitat per aconseguir portar la pornovenjança a un nivell superior i humiliar-les.

El deepfake pornogràfic, així és com s’anomenen les imatges sexuals falses creades amb IA, va començar com una tendència en el contingut per a adults. Sense pudor ni respecte creaven vídeos amb cares de famoses per atreure visites, una tendència que no s’ha aturat.

Rosalía, Emma Watson, Scarlett Johansson o Taylor Swift són algunes de les estrelles que han patit aquesta pràctica. La instagramer QTCinderella va fer pública la denúncia del dolor real que li havia causat l’elaboració i difusió d’un vídeo pornogràfic fals, un més que se suma als milers que es produeixen cada dia i que acumulen milions de visualitzacions arreu del món.

Vídeos que en un 90% estan creats sense el consentiment de les persones que els protagonitzen. Mentre bona part de la societat es mostra contrària a aquesta pràctica, la realitat és que els estats van molt endarrerits en la legislació per regular unes pràctiques que afecten dones famoses i moltes d’anònimes.

Fa pocs mesos una quinzena de menors extremenys van ser condemnats a quinze mesos de llibertat vigilada per haver creat i compartit fotografies de companyes d’institut en què utilitzaven les seues cares per crear imatges pornogràfiques. Aquesta vegada els van enxampar perquè els autors no tenien les eines per amagar-se i segurament no eren prou conscients de l’abast de les seues accions.

Mentrestant, són empreses privades com Repscan, del català Josep Coll, les que posen a l’abast dels usuaris el servei per eliminar aquest tipus de continguts d’internet. Mentre els famosos tendeixen a assumir que forma part de la seua situació privilegiada, al nivell del carrer aquest tipus de tecnologia està posant de moda un altre negoci que va més enllà de la pornovenjança.

Coll explica que “cada vegada ens trobem amb més casos d’extorsions, de vídeos fets amb la intenció d’aconseguir diners ràpidament de les víctimes, a les quals amenacen amb fer virals al seu entorn un vídeo que aparenta ser molt real”. Els que no tenen el cap fred per gestionar-ho amb calma, paguen per mirar d’evitar que el vídeo comenci a circular i pugui afectar la seua reputació personal.