Investigadores de la empresa de inteligencia artificial OpenAI alertan de un peligro para la humanidad

Varios investigadores de la plantilla de la empresa estadounidense de inteligencia artificial OpenAI enviaron al consejo de administración poco antes del despido de Sam Altman como consejero delegado una carta en la que advertían de un poderoso descubrimiento de inteligencia artificial que, según ellos, podría amenazar a la humanidad. Según publicó ayer El País digital, citando a la agencia de noticias Reuters y al medio especializado The Information, la víspera de su cese fulminante el viernes de la semana pasada, Altman intervino en la cumbre de directivos celebrada en paralelo a la de la Asociación Económica Asia Pacífico.

“Cuatro veces en la historia de OpenAI, la más reciente hace solo un par de semanas, he tenido la oportunidad de estar en la sala en la que empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida”, dijo allí. En principio no se dio especial importancia al comentario ni se supo a qué desarrollos concretos aludía. Según The Information, algunos empleados de OpenAI creen que las palabras de Altman se referían a una innovación realizada por los investigadores de la empresa a principios de este año que les permitiría desarrollar modelos de inteligencia artificial mucho más potentes. 

La directiva Mira Murati, escogida inicialmente como sustituta provisional de Altman, mencionó un proyecto llamado Q* (pronunciado Q star) a los empleados el pasado miércoles y dijo que se había enviado una carta al consejo antes del despido de Altman, que fue readmitido el mismo miércoles por la presión de empleados e inversores. 

Según Murati, el fabricante de ChatGPT ha hecho progresos en Q*, que algunos creen internamente que podría ser un gran avance en la búsqueda de la superinteligencia (la que supera a la humana), también conocida como inteligencia artificial general (AGI, por sus siglas inglesas). Otras fuentes familiarizadas con el proyecto Q*, sin embargo, no consideran que se trate de un avance rompedor. Los informáticos llevan mucho tiempo debatiendo sobre el peligro que suponen las máquinas superinteligentes, si se planteasen, por ejemplo, que les interesa la destrucción de la humanidad.