Si els robots tinguessin voluntat de dominar...

Josep Maria, són compatibles la paraula intel·ligència i artificial?

Sí, plenament. Hi ha característiques que defineixen els humans, però jo crec que justament la racionalitat o la intel·ligència no només són exclusivament dels humans, sinó que altres éssers també poden ser-ho. Diferent són altres capacitats com l’empatia o l’emocionalitat, que caldria veure si algun tipus d’ésser artificial podria tenir-ne. Però la intel·ligència sí, s’ha demostrat fa anys. A més, podem parlar d’intel·ligència artificial en el sentit que no és natural? Què vol dir natural? Que hagi sortit de forma espontània per un procés en el qual no hi hagin intervingut els humans? Aquesta frontera cada cop és més difosa.

Creu que és possible l’existència de robots amb moral?

La moral són una sèrie de normes que ens permeten pautar les nostres decisions i valorar-les de forma jeràrquica.

Un exemple és el no robaràs, que ens permet valorar si l’acció de robar és correcta o no. ¿Que hi haurà màquines que tindran normes que seran capaces de valorar si allò que estan fent estarà bé o malament? No en tinc cap dubte.

De fet ja hi ha un debat en l’ús dels vehicles autònoms, que en determinades situacions hauran de triar si frenar per no atropellar un gatet o evitar que el de darrere tingui una fractura a la columna per la forta frenada.

¿Però la màquina tindrà una consciència, una capacitat reflexiva, que li permeti comportar-se d’una manera determinada perquè allò és el que està bé? Això és el que ens fa específics als humans. .

Però qui posa la moral? El programador? I si és racista? O està deprimit?

La pregunta és bona, però és un debat que fins i tot el trobem en els humans. Un nen que sempre ha viscut en una família amb un context social en el qual robar és ser espavilat i qui no roba és un ruc, llavors considerarà que robar no està malament. ¿Hi ha una consciència moral innata en les persones que permet discernir entre el bé i el mal o la definició del bé i el mal també l’aprenem? I el món canvia. Coses que abans consideràvem que estaven bé ara les veiem escandaloses.

Tindran drets els robots?

Sí, i és una necessitat tant per als robots que tenen forma humana com per als que no, com un cotxe. Tindran drets i responsabilitats, de la mateixa manera que tu tens drets i deures davant de la conducció com a persona humana, una màquina quan condueixi també n’haurà de tenir. Si una màquina atropella una persona no tindrà responsabilitats? La persona no rebrà la indemnització? No hi haurà multes o penes? El mateix passarà amb el treball. Quan el treball sigui completament robotitzat, què passarà amb la cotització? Què passarà amb les pensions?

El dret no és una qüestió exclusiva dels humans

. Jo crec que s’esborren les fronteres, com amb el tema dels animals, que també tenen drets. Respon això a una mentalitat postmoderna.

Un cas hipotètic. Què passa si algú clava una pallissa a un robot amb forma humana? O el mata? O el viola?

Mentre els humans continuem dominant els robots fins a quin punt, si són creacions nostres, no podrem utilitzar-les arbitràriament al nostre caprici? Amb el tema de la sexualitat segur que obre moltes fronteres. Torno als animals. Ara es diu que els animals han de ser respectats i viure feliçment sense ser maltractats, allò de les gallines felices. Per què aleshores no esborrem la frontera dels drets cap a altres éssers, que no cal que siguin animals, sinó mecanitzats?

Suposo que caldria també definir exactament de què parlem.

Un debat important és la definició d’humà, transhumà i posthumà.

Els transhumans són éssers humans que incorporen maquinària o aparells informàtics que els donen uns atributs que van més enllà dels que tindria pròpiament l’humà, com les ròtules dels genolls que permeten una durabilitat molt més alta, la memòria si implantem xips o els implants per a persones amb sordesa. Tot allò que ens limita la nostra vida humana i ho podem solucionar per aquestes pròtesis artificials ens fan ser més enllà d’humans.

Els posthumans són màquines que no són humanes però que han incorporat les característiques dels humans.

Segur que les fronteres entre humans, transhumants i posthumans s’esborraran. I tots aquests éssers hauran de tenir drets.

Tindran capacitat per provocar l’extinció humana?

No hi ha dubte que hi ha creacions que són capaces d’anar més enllà de la intel·ligència desenvolupada pels humans.

Una altra cosa és si aquest ésser és capaç d’arribar a destruir-nos com a tals. Aquí hi ha una analogia que s’utilitza a vegades amb una certa incorrecció, que és la de pensar que si els humans hem estat capaços de domar el món i utilitzar la naturalesa al nostre interès i benefici, i gràcies a la nostra intel·ligència si hi hagués algun ésser més intel·ligent que nosaltres seria capaç de dominar-nos i utilitzar-nos al seu interès, com si aquest ésser amb més intel·ligència tingués voluntat.

La voluntat també és una de les característiques que defineixen els humans.

La dominació va vinculada a la voluntat..

Hi ha algun document que reflecteixi tot aquest món?

Hi ha una pel·lícula del 2013 que es diu Her d’un home que s’enamora de la veu de l’aparell, de la veu! Hi ha un moment en què surt tota la societat mirant el mòbil pel carrer. Quan ho vaig veure vaig pensar que era molt exagerat. Tothom mirant la pantalla? Impossible. I avui és una realitat.

El que s’enamora de la veu és ell, no ella. Les màquines no tenen consciència.

Podem pensar que la veu va acabar enamorant-se d’ell? Al llarg de la literatura el que s’ha fet és atribuir voluntat a altres éssers quan no érem capaços d’imaginar-nos màquines amb més intel·ligència. L’atribució de la voluntat és la capacitat d’humanitzar els éssers. Podem pensar-ho? Sí. Hi serà? No ho sabem. Si hi, és segurament es plantejaran la voluntat de dominar, perquè de la mateixa manera que hi ha humans que viuen per dominar, hi hauria màquines o posthumans que també s’ho plantejaran.

Serem tan rucs de posar-los aquesta voluntat?

No ens ho hem de plantejar com a tema de culpabilitat o no, sinó de control. La limitació sempre frena però no atura, i la caixa de pandora ja està oberta. Allò que tu limitaràs i frenaràs perquè consideres que hi pot haver un risc que ens porti a monstres, hi haurà altres humans que tindran aquesta mentalitat monstruosa i que obriran aquestes portes.

Plantegem un escenari. Any 2050.

El tema jurídic i laboral estaran resolts i haurem avançat amb el tema dels transhumans per tenir millor qualitat de vida. El que em fa més por és esborrar la frontera entre allò artificial i natural, en què la bellesa natural l’acabem oblidant o dissolent.