Comencem a semblar xinesos

Fa uns anys ens esgarrifàvem quan veiem com la Xina utilitzava alta tecnologia per controlar a la seva població, i en concret molts ens vàrem espantar en veure el desplegament massiu del reconeixement facial i milers de càmeres als carrers. Ens semblava que era inacceptable i que allà es creuaven tots els límits. I, ves per on, resulta que aquestes coses inacceptables ja passen ara també al nostre entorn.

Un recent estudi fet als Estats Units ha analitzat 24 agències governamentals i ha trobat que 18 fan servir sistemes de reconeixement facial, i no es tracten de serveis de seguretat o policials sinó d’agricultura, comerç, serveis socials, economia... De fet, una de les empreses líders en això del reconeixement facial és Clearview AI i ha reconegut que només als Estats Units li han contractat serveis 3.100 organismes de l’administració pública.

A Austràlia aquest estiu han aprovat una nova llei que permet a la policia prendre el control de les teves xarxes socials, i modificar-hi, copiar o esborrar les teves dades, i fins i tot publicar-hi coses en nom teu, i tot això sense una ordre prèvia de cap tribunal superior. A Espanya tenim coses semblants, igual de preocupants. I ja no són només els governs: l’any passat, en mig de la pandèmia, Mercadona va posar en marxa un sistema de reconeixement facial a l’entrada de 40 de les seves botigues a Saragossa, Mallorca i València amb l’objectiu d’identificar persones amb ordre d’allunyament dels seus establiments, per exemple perquè hi han entrat a robar. Això ha acabat ara aquest estiu amb una multa de la Agencia de Protección de Datos de 2,5 milions d’euros perquè es va considerar injustificat aplicar reconeixement facial indiscriminadament a tothom que passés per allà, i també perquè no quedava clar d’on treia l’empresa les fotos de les cares de les persones que no podien entrar, quan a les sentències només hi consten els noms però no les fotos.

A tot arreu on algú, públic o privat, pot fer servir tecnologies de control ho intenta. I tard o d’hora a tot arreu, fins i tot a la Xina, acabarà sorgint la necessitat de posar alguna norma i alguns límits

Mentrestant, a la Xina, l’entitat que es dedica al control del ciberespai acaba de publicar un esborrany amb les noves mesures que vol posar en marxa, amb idees ben interessants que ja voldríem per nosaltres: els usuaris tindran el dret a veure, i també esborrar, les paraules clau que les empreses fan servir per classificar-los i perfilar-los. També es limitarà per llei el tipus de paraules clau que es podran emmagatzemar associades a cada usuari, prohibint l’ús de termes que puguin ser discriminatoris, ofensius o tendenciosos. També s’estableix l’obligació d’informar als usuaris si es fan servir algoritmes per suggerir-los o recomanar productes o continguts, i els usuaris han de poder desactivar l’ús de l’algoritme i que no es faci servir amb ells. Són només alguns exemples, però tot i que les coses que venen de la Xina sempre ens desperten suspicàcies, aquestes són ben interessants. Tant de bo veiéssim per aquí propostes així.

El món és cada cop més pla, i la tecnologia l’està aplanant encara més. No hi ha tantes diferències entre la Xina i els Estats Units, o entre ells i nosaltres. A tot arreu on algú, públic o privat, pot fer servir tecnologies de control ho intenta. I tard o d’hora a tot arreu, fins i tot a la Xina, acabarà sorgint la necessitat de posar alguna norma i alguns límits. Una tensió entre l’actual tendència natural dels Estats i els mercats als excessos, i la que hauria de ser la nostra tendència com a societat cap a la defensa dels drets. Cap Estat ens ho resoldrà, doncs formen part del problema. Ens hi haurem de posar nosaltres, la ciutadania, i aquesta serà una de les lluites socials del segle XXI.