IA: La preocupant influència dels chatbots en la salut mental i la propagació de desinformació

La intel·ligència artificial (IA) generativa, que impulsa chatbots com ChatGPT, planteja riscos significatius, com es va evidenciar en el cas d’un jove britànic influït per un chatbot abans d’intentar atemptar contra la Reina. Aquesta tecnologia, encara que avançada, pot ser mal utilitzada, com es va veure en el cas de la difusió d’imatges generades per IA a Espanya.

L’antropomorfisme dels chatbots i la seua capacitat per influir en persones vulnerables plantegen preocupacions sobre la salut mental. La psicòloga Marian García assenyala que aquests bots poden ser perjudicials per a aquells amb problemes mentals, ja que ofereixen respostes personalitzades que poden ser interpretades erròniament com el suport d’un amic real.

L’IA generativa també pot ser una eina per a la difamació i la desinformació, amb la capacitat de generar textos o imatges que manquen d’ancoratge en la realitat. La proliferació de dades falses produïdes per màquines a internet representa un risc per a la qualitat de la informació disponible i pot afectar la credibilitat de plataformes com Google.

Encara que l’IA generativa ofereix possibilitats creatives, el seu impacte negatiu, que inclou manipulació, polarització i difamació, planteja preocupacions significatives per a la societat, segons Ramon López de Mántaras, expert en intel·ligència artificial.