A más democracia, más tecnología

El martes 16 de enero, votantes demócratas del estado de NuevoHampshire recibieron una llamada del presidente JoeBiden instándolos a quedarse en casa y no votar en las primarias. "Votar este martes solo permite que los republicanos vuelvan a elegir a DonaldTrump. Tu voto marca la diferencia este noviembre, no este martes", decía la grabación. Si lo queréis escuchar completo, lo tenéis aquí abajo.

La llamada era falsa y probablemente había sido generada mediante técnicas de IA. No es un proceso complejo. Cualquiera puede descargar una aplicación, subir un fragmento de voz del presidente Biden, redactar un texto y generar un audio que pase por auténtico para la mayoría de la gente. Esta mejora en la calidad de la IA generativa y su fácil acceso -cualquiera puede crear imágenes, videos o audios que puedan pasar por reales- plantea muchos desafíos para el debate público.

Para hacer una democracia se necesitan tres cosas: ciudadanos, libertad e información de calidad. Así pues, para cargarse una democracia solo hace falta cortar una de estas patas; si no hay libertad, es obvio que no hay democracia porque los ciudadanos no pueden elegir de manera libre; si en lugar de ser ciudadanos somos súbditos, ya no somos todos iguales; y si la información está sesgada, incompleta o de baja calidad, también lo es la democracia que la aloja. Desafortunadamente, estos tres escenarios los conocemos muy de cerca.

"Para hacer una democracia hacen falta tres cosas: ciudadanos, libertad e información de calidad"

El temor de que la IA -en general, la tecnología- pervierta los procesos democráticos es bastante fundamentado y tenemos pruebas recientes. En 2016, CambridgeAnalytica también utilizó la IA, en este caso, los algoritmos de recomendación de Facebook, para desmotivar a los votantes de HillaryClinton con una campaña personalizada para cada temor de cada votante demócrata. Según palabras de los directivos de la extinta Cambridge Analytica, "moviliza más el miedo que la ilusión". Si observamos los votos que obtuvo Trump en 2016, nos daremos cuenta de que fueron menos que los del también republicano McCain en 2012. La explicación de la victoria de Trump (no en votos) radica en la incomparecencia del rival; los demócratas que habían votado a Obama y a la hora de votar a Clinton se quedaron en casa.

Todo esto lo tenía muy claro SteveBannon, asesor de Trump en esa campaña, de los partidarios del Brexit en el Reino Unido, de Vox en España y de todos los sotacarros de ultra derecha que se puedan imaginar en el mundo (conspiranoico hasta la médula, Bannon es quien dijo que había que cortarle la cabeza al Dr. Anthony Fauci y clavarla en una pica ante el Congreso). Según él, para cambiar la política primero se debe cambiar la cultura, y para eso hay que cambiar su unidad mínima, que es el individuo. El miedo que no sabemos que tenemos -hasta que no recibimos un mensaje que nos lo despierta- nos puede hacer cambiar de comportamiento. La suma de suficientes cambios individuales puede cambiar una cultura. Son técnicas de guerra orientadas a distorsionar la realidad del adversario para que en un entorno de confusión -de información de baja calidad- tome las peores decisiones.

Con estos antecedentes, en 2020, en la campaña de las siguientes presidenciales estadounidenses, las redes sociales estaban en el punto de mira de todos y en el suyo propio. Facebook y Twitter pusieron todos los recursos humanos y tecnológicos a su alcance para evitar ser el centro del debate otra vez. Superaron la prueba con éxito y ni siquiera Trump pudo utilizarlo como una de sus insustanciales excusas para justificar su derrota. Con estos antecedentes se entiende más que ElonMusk comprara Twitter por una cantidad desorbitada de dinero; si lo que quieres es cambiar la cultura -crees que nos hemos vuelto todos demasiado izquierdistas- se necesita una herramienta para influir de manera individual.

"Hoy el gran riesgo es que cualquiera puede influir en comportamientos individuales para incidir en procesos democráticos"

Hoy el gran riesgo es que, como hemos visto en el caso de los audios falsos de Biden, cualquiera puede influir en comportamientos individuales para incidir en procesos democráticos. Que sea sofisticado no es condición necesaria y que sea accesible para todos tampoco es nuevo. En mayo de 2019 vimos a una NancyPelosi borracha hablando en público. Bien, al final solo era una intervención suya ralentizada para que pareciera que le costaba hablar. El vídeo se hizo viral, mucho más que los desmentidos que desmontaban la manipulación.

Decía que no hace falta utilizar tecnologías sofisticadas para tales propósitos. Tenemos ejemplos muy cercanos, ejemplos de tecnología povera aplicada a la distorsión de procesos electorales. Todos hemos visto portadas en diarios españoles con reproducciones de fotocopias de informes falsos con números de cuentas suizas inventados por estafadores de baja estofa que se hacen pasar por agentes secretos. Cuanto más fuerte es la democracia más sofisticada debe ser la tecnología que se necesita para derribarla. Hay quienes con fotocopias de fax ya caen.