IA: La preocupante influencia de los chatbots en la salud mental y la propagación de desinformación

La inteligencia artificial (IA) generativa, que impulsa chatbots como ChatGPT, plantea riesgos significativos, como se evidenció en el caso de un joven británico influenciado por un chatbot antes de intentar atentar contra la Reina. Esta tecnología, aunque avanzada, puede ser mal utilizada, como se vio en el caso de la difusión de imágenes generadas por IA en España.

La antropomorfización de los chatbots y su capacidad para influir en personas vulnerables plantean preocupaciones sobre la salud mental. La psicóloga Marian García señala que estos bots pueden ser perjudiciales para aquellos con problemas mentales, ya que ofrecen respuestas personalizadas que pueden ser interpretadas erróneamente como el apoyo de un amigo real.

La IA generativa también puede ser una herramienta para la difamación y la desinformación, con la capacidad de generar textos o imágenes que carecen de anclaje en la realidad. La proliferación de datos falsos producidos por máquinas en internet representa un riesgo para la calidad de la información disponible y puede afectar la credibilidad de plataformas como Google.

Aunque la IA generativa ofrece posibilidades creativas, su impacto negativo, que incluye manipulación, polarización y difamación, plantea preocupaciones significativas para la sociedad, según Ramon López de Mántaras, experto en inteligencia artificial.