La tecnologia voyeur i sense rostre

La flauta d’ibèric de gla del Viena es pot pagar, ara, per la cara. Almenys, sí que es podrà fer a un dels seus establiments: el que la cadena sabadellenca té a l’avinguda Diagonal de Barcelona. Gràcies a la tecnologia desenvolupada pel Payment Innovation Hub, els caixers disposen d’un sistema que permet que et cobrin allò que has demanat només reconeixent la teva cara en un monitor.

"Gràcies a la tecnologia desenvolupada pel Payment Innovation Hub, els caixers disposen d’un sistema que permet que et cobrin allò que has demanat només reconeixent la teva cara en un monitor"

Aquesta nova experiència en mitjà de pagament -tal com descriu aquest hub en el seu lloc web- és una de les innovacions que s’emmarca en la tendència de transaccions invisibles i cashless. Els calers van d’un costat a l’altre sense que es vegi, ni tampoc teclegem res en cap màquina.

Curiosament, la notícia arriba la mateixa setmana que una experta en intel·ligència artificial de Harvard, Mutale Nkonde, suggerís en una conferència que els Estats Units viuran una progressiva legislació per prohibir determinats usos de les tecnologies de reconeixement facial. De moment, San Francisco va ser la primera ciutat a prohibir a la policia que la utilitzi sobre els residents (res deia sobre les persones que estan de pas). En la justificació de la mesura, explicava la norma d’aquesta ciutat californiana: “la propensió al fet que la tecnologia de reconeixement facial posi en perill els drets civils i les llibertats supera substancialment els seus suposats beneficis; la tecnologia agreujarà la injustícia racial i amenaçarà la nostra capacitat de viure lliure del control continuat del govern”.

Oakland i Somerville són altres localitats que han seguit l’exemple de San Francisco.

Només unes setmanes abans, hem vist transcendir com el govern xinès està servint-se del reconeixement facial, entre d’altres tecnologies, per sotmetre els manifestants hong-konesos prodemocràcia sota el control social anomenat terror blanc.

La tecnologia pel reconeixement facial té molts usos ja consolidats, com els de desbloquejar el mòbil o fer el babau amb els filtres d’orelles de gos i ulleres de sol a Instagram. Amazon Rekognition, per exemple, permet usar privadament un software que reconeix cares d’un set de fotografies o vídeos tan gran com hom vulgui. De tan consolidats, aquests usos, que ni hem parat atenció, perquè ens ha semblat el pas lògic després de la desaparició dels fils en els auriculars, en la càrrega de bateries o en la impressió de còpies o la connexió a internet. La darrera edició del MWC ja va mostrar algunes aplicacions pràctiques molt concretes del reconeixement facial per a la gestió dels permisos d’accés a un edifici.

"El nostre rostre, enregistrat des de qualsevol càmera, pot ser analitzada d’esquenes a nosaltres. La tecnologia es fa voyeur"

Però, des del punt de vista de la nostra relació amb la tecnologia, la intel·ligència artificial -més que un pas- fa un salt. Un salt qualitatiu, perquè deixa de detectar -que és el que fan els sensors, de llarga tradició- o de mirar -que és el que fan les càmeres d’establiments, caixers, i vestíbuls d’estacions de tren. No, ara et reconeix. Ens mira, i ens reconeix. Ens ha vist abans, i ho sap. Fins i tot, millor que molts éssers humans de mirada dispersa i mala memòria.

Bé, en realitat, no té gaire secret. La informàtica sempre ha estat associada a la memòria, a emmagatzematge d’informació. Ara les màquines en fan de la memòria un record que imita la intel·ligència humana: el record visual. La teva cara em sona. A la màquina li sonem perquè té fotografies que ens han fet en el passat i són públiques, o bé les hem proporcionades nosaltres mateixos, sigui en aquell moment o bé en els documents oficials o en les nostres xarxes socials. El procediment de la intel·ligència artificial és ben senzill: busca similituds entre el nostre rostre actual i el passat, i proposa identificacions. I tot això, per dir-ho d’alguna manera, es pot fer invisibilitzant-ne del tot la tecnologia: aquí ja no controles el filtre d’Instagram que millora el teu rostre en una story, ni el moment de publicació. El nostre rostre, enregistrat des de qualsevol càmera, pot ser analitzada d’esquenes a nosaltres. La tecnologia es fa voyeur.

I aquesta tafaneria de les màquines és el que potser caldria començar a debatre seriosament, més enllà dels cenacles de fans de la tecnologia i de professionals del món digital. Si tècnicament es pot fer, segurament algú ja ho ha aplicat, ho està aplicant, o ho aplicarà en un futur. L’adopció de mecanismes tecnològics de control es percep de vegades amb una consciència d’inevitabilitat, d’acceptació acrítica del fet que més i més espais de la nostra vida puguin ser vigilats i monitoritzats no sabem exactament amb quines finalitats, ni amb quines garanties, ni de vegades per encàrrec de qui.

"Un pas imprescindible és posar-li rostre a aquesta tecnologia que ens reconeix, especialment pel que fa a la seguretat i als drets individuals. Quin ús n’estan fent els governs? I les empreses?"

Però en la mesura que podem opinar sobre la cosa comuna -que d’això va la democràcia- potser convindrà posar un ull a la legislació de San Francisco, Oakland o Somerville. L’establiment d’uns límits i la definició d’un encaix legal i social-dels avenços en el capitalisme de la vigilància -com és el cas- és la garantia de mantenir-nos en el punt just de la carrera de l'avenç tecnològic. És a dir, ni tan endavant en l’adopció que en siguem el conillet d’índies, ni tan enrere que en lloc de ser per nosaltres una oportunitat de disrupció, l’adoptem quan no tinguem més remei. I un pas imprescindible és posar-li rostre a aquesta tecnologia que ens reconeix, especialment pel que fa a la seguretat i als drets individuals. Quin ús n’estan fent els governs? I les empreses? Amb quins permisos? Per a quines finalitats?