De l’individu al subjecte digital

En la societat digital les persones ens convertim en el que les dades diuen que som, sigui o no real.

La societat digital es desenvolupa a partir de les dades que permeten hiperpersonalitzar els productes i serveis a partir de la informació que deixem anar en les accions i rutines diàries. Facilitem aquestes dades (moltes vegades, inconscientment) i la intel·ligència artificial (IA) les extreu i intenta reproduir digitalment la nostra manera de pensar conscient i inconscient, i s’avança als nostres desitjos.

És l’economia de les dades, on passem de l’individu al subjecte digital. Una societat on la representació digital de la persona és “la que val” –respongui o no a la realitat–, i que serveix per crear un entorn digital confortable, fet a la nostra mida i que busca orientar i influir en les nostres decisions. L’ús intensiu de les dades afecta de forma rellevant els nostres drets i llibertats i ens exposa a noves formes de vulnerabilitat a través del seu tractament, formes d’intrusió que no veiem i que, sobretot, no entenem.

La tecnologia millora la nostra qualitat de vida, però cal preguntar-se si sempre la millora i quin és el preu que paguem. Per assolir els seus objectius, les organitzacions, aprofundeixen en el coneixement dels nostres impulsos per incidir, de forma directa i en temps real, en les nostres accions. Això permet interferir en la nostra vida personal, en la social i, també, en l’àmbit de la nostra participació democràtica.

La preservació de la nostra privacitat no és un tema tècnic o legal, és una qüestió directament connectada a l’ésser humà. És imprescindible que el valor que aporta l’evolució tecnològica reverteixi, també, en la societat i en les persones i no només en els que ostenten el poder sobre les dades i les tecnologies. Només aconseguirem preservar els nostres drets si la societat entén com funcionen els algoritmes i pot fer plantejaments crítics al respecte. A més, hem d’abordar les possibles desviacions i discriminacions que pot generar la tecnologia per evitar que es perpetuïn o se’n creïn de noves, ja que qui dissenya els algoritmes també té la seva particular visió del món.

Cal dissenyar una intel·ligència artificial ètica, segura i confiable, que integri la transparència, la seguretat, la responsabilitat i la capacitat de ser explicada i auditada. Que no limiti la llibertat per prendre decisions i on els comportaments dels individus no siguin controlats i dirigits.

És per aquest motiu que, des de l’Autoritat Catalana de Protecció de Dades, es realitzarà una anàlisi de la situació de la intel·ligència artificial a Catalunya i, a partir de l’opinió d’experts, s’elaboraran recomanacions en termes de protecció de dades.

En aquest sentit, l’objectiu és apoderar la ciutadania perquè tingui el coneixement suficient per tal d’exercir els seus drets davant les decisions automatitzades de les tecnologies i establir, així, els marcs ètics que cal respectar.

Només podem fer front als nous reptes i pressions sobre els drets i llibertats amb una regulació efectiva, amb coneixement i amb valors que garanteixin la seva permanència.