Els esquerdes de les xarxes socials deixen passar vídeos de menors en actitud sexual

Els vídeos que mostren a menors en actitud sexual en discoteques s’han viralitzat en les últimes setmanes malgrat que TikTok hauria d’haver controlat la seua difusió atenent les seues pròpies regles, han explicat a EFE moderadors de la xarxa així com l’expert de la Universitat Oberta de Catalunya (UOC) Ferran Lalueza.

Vídeos virals a Twitter i TikTok com el del cas de la discoteca Waka de Sant Quirze del Vallès (Barcelona), en el que apareixien dos menors practicant sexe oral, o les imatges menys explícites d’un grup d’adolescents d’entre 14 i 17 anys "perreando" amb moviments sexuals al local Pampara de Les Corts (Barcelona).

En ambdós casos, per mostrar sexe explícit o una actitud clarament sexual, d’una banda, i tractar-se de menors, per un altre, mai no haurien d’haver pogut distribuir-se en xarxes socials com TikTok, si bé el propi sistema de moderació de la mateixa facilita que puguin ser "allà fora" i ser "capturat" per algun usuari abans que un moderador l’elimini.

L’ALGORITME NO ÉS INFAL·LIBLE

Si bé el propi algoritme de la xarxa social pot identificar elements prohibits de forma automàtica i bloquejar-los, la majoria de vulneracions de les normes les identifiquen persones que "moderen" el contingut i l’eliminen, deixant registre de les normes contravingudes i, en el seu cas, alertant les autoritats.

Mentrestant, tanmateix, poden passar segons o minuts en què les reproduccions i registres de les imatges són incomptables, explica a EFE un moderador de TikTok. "Una de les dificultats pràctiques més importants és saber si qui apareix en una imatge és menor o no. Tret que ho digui clarament, és molt ambigu", reconeix un altre company.

En l’últim cas viral, el de la discoteca Pampara, les imatges de joves "perreando" van ser eliminades pel propi compte del local després de la seua publicació, en la qual fins i tot etiquetaven a la festa "Pamparatardes+14", el nom de la sessió vespertina per a joves d’entre 14 i 17 anys que encara no poden accedir a les festes nocturnes amb venda d’alcohol. Tanmateix, fins que es va esborrar va donar temps a què el vídeo fos reproduït més d’un milió i mig de vegades. I això que quan l’algoritme detecta que pot haver contingut sexual ja prioritza la seua moderació com a urgent en el "xat" que comparteixen els moderadors per actuar ràpidament davant d’aquest tipus de continguts o altres, com missatges d’odi.

L’ALGORITME ÉS CEC

El professor de Ciències de la Informació i de la Comunicació de la UOC Ferran Lalueza ha explicat que lamentablement les xarxes socials funcionen com a espirals de transmissió potencial, "tant per al positiu com per difondre vídeos la distribució dels quals pot ser en si mateixa delictiva, com el vídeo de Waka". "Quan l’algoritme detecta que alguna cosa en els seus primers segons té molta activitat i visualitzacions s’encarrega de mostrar-lo a un número cada vegada major de persones, fomentant la seua pròpia viralització," explica. "Encara que m’agradaria pensar que el grau de maduresa digital és elevat i els usuaris frenaran la propagació d’aquest tipus de contingut i denunciar-ho, en el seu cas, desgraciadament l’evidència demostra que no", ha afegit.

L’expert apunta que la viralització d’aquest tipus de contingut no l’ha "sorprès" ja que la moderació de continguts "s’ha flexibilitzat molt" i "s’han reduït els recursos de control més artesanal, o humà, en favor dels automatitzats."

CARÈNCIES A LA BARRERA ALS MENORS

Més enllà, ha cridat l’atenció sobre el fet de què algunes xarxes socials com Twitter -que va tenir un paper rellevant en la propagació del delictiu vídeo de Waka- han reduït el nombre de persones que filtren els seus vídeos com a conseqüència de les retallades de plantilla després de l’entrada de la nova directiva liderada per Elon Musk. "Encara que xarxes com TikTok intenten millorar, la realitat és que els seus sistemes d’intel·ligència artificial no són infal·libles i poden ser eludits amb més o menys facilitat i per quan els controladors humans detecten el vídeo ja és massa tard", ha reflexionat.

També és millorable, assenyala, el sistema d’aquestes xarxes per evitar que els menors de 14 anys s’obrin un compte o que els adolescents que ho fan no rebin contingut etiquetat com per a majors d’edat per l’algoritme. Amb tot, en el seu esforç de control, la xarxa social xinesa va informar al seu últim informe de transparència sobre les dades de 2021 que havia tancat 7,3 milions de comptes sospitosos de pertànyer a menors d’edat.

Altres xarxes que han despertat la "preocupació" de la Fiscalia de Barcelona per l’augment de contingut de menors sense consentiment són Only Fans, Admire Me o My fan page. Es tracta de fotos que els menors pengen en obert a les xarxes socials i que delinqüents utilitzen sense permís per pujar-les amb la intenció que els usuaris paguin per aquest contingut. El setembre passat, la Fiscalia va assenyalar que per aquesta "novetat" de tipologia delictiva havien rebut en els últims sis mesos mig centenar de denúncies.