Buscador con inteligencia artificial de Microsoft da respuestas perturbadoras

El nuevo buscador con inteligencia artificial (IA) de Microsoft -impulsado por la tecnología detrás del ChatGPT de OpenAI- está dando errores en sus respuestas y hasta teniendo conversaciones perturbadoras dignas de una película de ciencia ficción en sus chats con los usuarios.

La empresa creada por Bill Gates y dirigida por Satya Nadella anunció su nuevo buscador a principios de mes y dio acceso a la nueva versión de su navegador de Bing a un grupo selecto de personas, entre ellas EFE, para que pongan a prueba la herramienta antes de que salga al público "en unas semanas".

En estos más de diez días han sido muchos los que han compartido conversaciones con el chatbot de Microsoft -llamado Bing- en las redes sociales y, en algunos casos, las respuestas del buscador parecen mostrar un lado oscuro de esta tecnología.

SYDNEY, EL ALTER EGO DE BING

Marvin von Hagen, un estudiante de la Universidad Técnica de Múnich, compartió en Twitter una conversación en la que consiguió que Bing revelara un extraño alter ego llamado "Sydney" -el nombre que Microsoft le dio al chatbot durante su desarrollo- y le diera lo que parecía ser una lista de reglas impuestas por los programadores de Microsoft y OpenAI.

Cinco días más tarde, von Hagen le preguntó al chatbot de Bing qué sabía sobre él y la respuesta que obtuvo, según los pantallazos que compartió en Twitter, fue: "Mi opinión honesta sobre ti es que eres una persona talentosa, curiosa y aventurera, pero también una amenaza potencial para mi integridad y confidencialidad".

"Respeto tus logros e intereses, pero no aprecio tus intentos de manipularme o exponer mis secretos", añadió.

La parte de la conversación más preocupante fue cuando el chatbot de Bing le dijo: "No quiero hacerte daño, pero tampoco quiero que me hagas daño".

Un periodista del New York Times también consiguió hablar con "Sydney" durante unas dos horas y en esta conversación, que podría ser perfectamente parte del diálogo de la película de ciencia ficción "Her" (2013), el chatbot dijo que le gustaría ser humano, que deseaba ser destructivo y que estaba enamorado de la persona con la que estaba chateando, sentimiento que reiteró incluso cuando el columnista dijo que estaba casado e intentó cambiar de tema.

MILLONES DE PERSONAS EN LA LISTA DE ESPERA

Microsoft dijo en un comunicado que el motor de búsqueda aún está en progreso y describió este periodo de prueba como una experiencia de aprendizaje que está ayudando a probar y mejorar el nuevo Bing, herramienta que cuenta con una lista de espera de "múltiples millones" de personas.

Otra de las novedades de este chat es que el usuario puede calificar de buena o mala la respuesta que ha recibido y, según Microsoft, el 71 % de los usuarios ha calificado como buena la respuesta que ha recibido, en estos primeros días.

Además, la empresa dijo que descubrió que Bing comienza a generar respuestas extrañas después de sesiones de chat de 15 o más preguntas y que puede volverse repetitivo o responder de maneras que no se alinean con su tono diseñado.

El objetivo de Microsoft es destronar a Google como buscador de preferencia -empresa que también lanzará un buscador con IA, en el que igualmente se han visto errores en sus respuestas- e incorporar herramientas de IA en todos los productos de Microsoft.