El gran germà

Potser algun lector considerarà, doncs, que el poder de la intel·ligència artificial ens pot dur al Gran Germà de George Orwell, amb persones constantment vigilades, amenaçades per la informació que els poders polítics i econòmics puguin tenir respecte d’elles, i que, a la fi, es tornaran dòcils, submises i complaents, i fins i tot temoroses amb qui ostenta el poder. I potser l’encerten, perquè un Gran Germà, probablement diferent, però més potent del que va definir Orwell, ja està a prop, perquè el fet de conèixer que se sap tot de qualsevol individu porta a limitar la llibertat personal i a prendre decisions que, d’una altra manera, potser no es prendrien. Una pèrdua de la mateixa autonomia personal, que pot arribar a l’autocensura per por a un poder desconegut.

I això ja ho tenim aquí, perquè amb les tècniques d’intel·ligència artificial actuals ja existeixen sistemes de vigilància predictiva, capaços d’identificar mitjançant algoritmes creats ad hoc, determinats comportaments socials.

Podem posar com a exemple el denominat Sistema de Crèdit Social de la Xina que puntua els ciutadans en tots els aspectes de la seva vida, des de la qualificació creditícia fins al grau de “sinceritat social”, i que comporta la vigilància i el seguiment de la vida de les persones. Un sistema que es diu que ja està implantat en el 80% de les províncies xineses, cosa que converteix el gegant asiàtic en el veritable Gran Germà.

Segons les autoritats xineses “accelerar la construcció d’un sistema de crèdit social és una base important per a la plena aplicació del concepte científic de desenvolupament i la construcció d’una societat socialista harmoniosa, un mitjà important per a millorar el sistema d’economia de mercat socialista i enfortir i innovar la governança social, sent de gran importància per a augmentar la consciència d’integritat entre els membres de la societat, crear un excel·lent entorn creditici, millorar la competitivitat general del país, i promoure el desenvolupament social i el progrés de la civilització”. Bonic paràgraf, però que fa basarda.

I si això passa a la Xina, la situació no comença a ser gaire diferent d’Occident. Per exemple, LinkedIn. En aquesta xarxa a un possible candidat en un procés de selecció professional se’l pot considerar no apte perquè el sistema indica que no publica prou, cosa que interpreta com una manca de capacitat o d’interès de cara a promocionar els seus èxits, o que, simplement, és una persona retreta. O al contrari, pot ser eliminat perquè publica massa i dedica massa temps a les xarxes socials. En aquest context cal fer menció expressa dels sistemes tributaris dels estats avançats, tots ells dotats de sistemes d’intel·ligència artificial que controlen amb la seva avidesa recaptatòria la vida dels ciutadans, fins als aspectes més simples. Com exemple el sistema australià Robodebt, que considera que qualsevol persona que visqui a Austràlia és un delinqüent tributari en potència. Un evident abús de poder, que al lector no li serà difícil d’establir similituds amb realitats més properes. És el conegut principi de desconfiança envers el ciutadà, que ara pot ser ajudat, a més, per determinades eines tecnològiques. També cal tenir present que, a més, aquest sistema de control pot tenir conseqüències negatives en molts sectors d’activitat.

Un estudi de l’OCDE del 2021 indicava que un 18% dels treballadors dels diferents sectors econòmics estaven en risc de perdre la seva feina per la introducció de les noves tecnologies digitals. Però hi haurà sectors on es podrà arribar al 35%, o més, de destrucció de llocs de treball. Serà el cas d’operaris d’algunes màquines, feines relacionades amb la caça i la pesca, o treballadors de mercats de consum.

Ara bé, també hi ha aspectes positius, com ara la utilitat per al processament del llenguatge natural, o l’existència de sistemes experts que ajuden en múltiples tasques, com ara els sistemes de visió augmentada amb aplicacions en medicina o en la defensa aèria, els de reconeixement de l’escriptura, robots més intel·ligents, etc. Llums i ombres, com quasi sempre, però sense oblidar el perill d’un Gran Germà si no hi ha mecanismes de control eficaços i independents.