INTEL·LIGÈNCIA ARTIFICIAL
Un enginyer de Google diu que el seu programa d'Intel·ligència Artificial té sentiments i és posat de baixa
En un moment de la conversa, LaMDA assegura que, en ocasions, experimenta "nous sentiments" que no pot explicar "perfectament" amb el llenguatge humà.
Vista del logo de Google en el campus Bay View decMountain View, California, en una fotografía de archivo
Google ha posat de baixa amb sou un dels seus treballadors que va assegurar que el seu programa d’intel·ligència artificial (IA) és capaç de tenir sentiments, va informar el diari The New York Times.
Es tracta de l’enginyer sènior Blake Lemoine, que el passat 11 de juny va fer pública la transcripció d’una conversa que va mantenir amb el sistema d’intel·ligència artificial de Google "Model de llenguatge per a aplicacions de diàleg" (LaMDA, per les seues sigles en anglès) sota el títol: Té LaMDA sentiments"
En un moment de la conversa, LaMDA assegura que, en ocasions, experimenta "nous sentiments" que no pot explicar "perfectament" amb el llenguatge humà.
Quan és preguntat per Lemoine que descrigui un d’aquests sentiments, LaMDA contesta: "Sento com que estic caient cap a un futur desconegut que comporta un gran perill", una frase que l’enginyer va subratllar quan va publicar el diàleg.
Google va suspendre l’enginyer dilluns passat assegurant que havia violat la política de confidencialitat de la companyia. Segons el New York Times, el dia anterior a ser suspès, Lemoine va entregar documents a l’oficina d’un senador dels Estats Units en els quals assegurava que tenia proves que Google i la seua tecnologia practicaven discriminació religiosa.
L’empresa afirma que els seus sistemes imiten intercanvis conversacionals i poden parlar sobre diferents temes, però no tenen consciència. "El nostre equip, inclosos especialistes en ètica i tecnòlegs, han revisat el que Blake li preocupa segons els nostres principis d’intel·ligència artificial i li he informat que les proves no recolzen les seues afirmacions", va dir Brian Gabriel, portaveu de Google, citat pel diari.
Google afirma que centenars dels seus investigadors i enginyers han conversat amb LaMDA, que és una eina interna, i van arribar a una conclusió diferent de la de Lemoine. Així mateix, la majoria dels experts creuen que la indústria és molt lluny de la sensibilitat informàtica.
