La tecnología voyeur y sin rostro

La flauta de ibérico de bellota del Viena se puede pagar, ahora, por la cara. Al menos, sí que se podrá hacer a uno de sus establecimientos: el que la cadena sabadellenca tiene en la avenida Diagonal de Barcelona. Gracias a la tecnología desarrollada por el Payment Innovation Hub, los cajeros disponen de un sistema que permite que te cobren aquello que has pedido sólo reconociendo tu cara en un monitor.

"Gracias a la tecnología desarrollada por el Payment Innovation Hub, los cajeros disponen de un sistema que permite que te cobren aquello que has pedido sólo reconociendo tu cara en un monitor"

Esta nueva experiencia en medio de pago -tal como describe este hub en su sitio web- es una de las innovaciones que se enmarca en la tendencia de transacciones invisibles y cashless. El dinero va de un lado al otro sin que se vea, ni tampoco tecleamos nada en ninguna máquina.

Curiosamente, la noticia llega la misma semana que una experta en inteligencia artificial de Harvard, Mutale Nkonde, sugiriera en una conferencia que los Estados Unidos vivirán una progresiva legislación para prohibir determinados usos de las tecnologías de reconocimiento facial. De momento, San Francisco fue la primera ciudad en prohibir a la policía que la utilice sobre los residentes (nada decía sobre las personas que están de paso). En la justificación de la medida, explicaba la norma de esta ciudad californiana: "la propensión al hecho que la tecnología de reconocimiento facial ponga en peligro los derechos civiles y las libertades supera sustancialmente sus supuestos beneficios; la tecnología agravará la injusticia racial y amenazará nuestra capacidad de vivir libre del control continuado del gobierno".

Oakland y Somerville son otras localidades que han seguido el ejemplo de San Francisco.

Sólo unas semanas antes, hemos visto trascender como el gobierno chino está sirviéndose del reconocimiento facial, entre otros tecnologías, para someter los manifestantes hong-konesos prodemocracia bajo el control social llamado terror blanco.

La tecnología por el reconocimiento facial tiene muchos usos ya consolidados, como los de desbloquear el móvil o hacer el bobo con los filtros de orejas de perro y ojeras de sol en Instagram. Amazon Rekognition, por ejemplo, permite usar privadamente un software que reconoce caras de un siete de fotografías o vídeos tan grande como se quiera. Están tan consolidados, estos usos, que ni hemos prestado atención, porque nos ha parecido el paso lógico después de la desaparición de los hilos en los auriculares, en la carga de baterías o en la impresión de copias o la conexión a internet. La última edición del MWC ya mostró algunas aplicaciones prácticas muy concretas del reconocimiento facial para la gestión de los permisos de acceso a un edificio.

"Nuestro rostro, grabado desde cualquier cámara, puede ser analizada de espaldas a nosotros. La tecnología se hace voyeur"

Pero, desde el punto de vista de nuestra relación con la tecnología, la inteligencia artificial -más que un paso- hace un salto. Un salto cualitativo, porque deja de detectar -que es lo que hacen los sensores, de larga tradición- o de mirar -que es lo que hacen las cámaras de establecimientos, cajeros, y vestíbulos de estaciones de tren. No, ahora te reconoce. Nos mira, y nos reconoce. Nos ha visto antes, y lo sabe. Incluso, mejor que muchos seres humanos de mirada dispersa y mala memoria.

Bien, en realidad, no tiene mucho secreto. La informática siempre ha estado asociada a la memoria, al almacenamiento de información. Ahora las máquinas hacen de la memoria un recuerdo que imita la inteligencia humana: el recuerdo visual. Tu cara me suena. A la máquina le sonamos porque tiene fotografías que nos han hecho en el pasado y son públicas, o bien las hemos proporcionado nosotros mismos, sea en aquel momento o bien en los documentos oficiales o en nuestras redes sociales. El procedimiento de la inteligencia artificial es muy sencillo: busca similitudes entre nuestro rostro actual y el pasado, y propone identificaciones. Y todo esto, por decirlo de alguna forma, se puede hacer invisibilizando del todo la tecnología: aquí ya no controlas el filtro de Instagram que mejora tu rostro en una story, ni el momento de publicación. Nuestro rostro, grabado desde cualquier cámara, puede ser analizada de espaldas a nosotros. La tecnología se hace voyeur.

Y este cotilleo de las máquinas es el que quizás habría que empezar a debatir seriamente, más allá de los fans de la tecnología y de profesionales del mundo digital. Si técnicamente se puede hacer, seguramente alguien ya lo ha aplicado, lo está aplicando, o lo aplicará en un futuro. La adopción de mecanismos tecnológicos de control se percibe a veces con una conciencia de inevitabilidad, de aceptación acrítica del hecho que más y más espacios de nuestra vida puedan ser vigilados y monitorizados no sabemos exactamente con qué finalidades, ni con qué garantías, ni a veces por encargo de quién.

"Un paso imprescindible es ponerle rostro a esta tecnología que nos reconoce, especialmente en seguridad y derechos individuales. Qué uso están haciendo los gobiernos? Y las empresas?"

Pero en la medida que podemos opinar sobre la cosa común -que de esto va la democracia- quizás convendrá poner un ojo a la legislación de San Francisco, Oakland o Somerville. El establecimiento de unos límites y la definición de una ensambladura legal y social-de los adelantos en el capitalismo de la vigilancia -cómo es el caso- es la garantía de mantenernos en el punto justo de la carrera del adelanto tecnológico. Es decir, ni tan adelante en la adopción que seamos el conejillo de indias, ni tan atrás que en lugar de ser por nosotros una oportunidad de disrupción, lo adoptamos cuando no tengamos más remedio. Y un paso imprescindible es ponerle rostro a esta tecnología que nos reconoce, especialmente en cuanto a la seguridad y a los derechos individuales. Qué uso están haciendo los gobiernos? Y las empresas? Con qué permisos? Para qué finalidades?