'Deep fakes' que explotan a la cara

La sesión más apasionante que vi a Davos  fue la conferencia Searching for Truth que dictó el profesor Eyal Weizman, profesor de Culturas Visuales y Espaciales a la Universidad de Londres. Presentada por Human Rights Watch, versaba sobre la reconstrucción forènsica de hechos a partir de información desestructurada como fotografías, vídeos y audios colgados a las redes sociales. El objetivo era recuperar la verdad de unos hechos sin haberlos observado en primera persona.

El primer ejemplo que puso el profesor me resultó increíble. Empezó con una serie de fotos y vídeos de testigos presenciales de explosiones en Gaza. Del material audiovisual sólosabía sus metadatos, que incluyen su geolocalització y el día y hora. También sabía que no todas tienen metadatos y que las quetienen pueden ser erróneas o falsas. Con técnicas de IA y de aprendizaje máquina conseguía hacer una primera ordenación cronológica del material que a continuación disponía de forma geoespecial sobre un modelo de la ciudad de Gaza en 3D. A partir de aquí y con modelos de gráficos computacionales conseguía simular el comportamiento del humo de las explosiones, que casaba con el del material audiovisual de las redes sociales. Llegados a este punto la explosión se podía observar desde cualquier punto, ángulo y momento. La conclusión era clara: la explosión era causada por un misil.

Después de estudiar la trayectoria en diferentes fotografías, el sistema del profesor detectó otras dos trayectorias paralelas con un decalaje de décimas de segundo con la explosión. Resultaron ser dos otros misiles que provocarían sendas explosiones posteriores. Con esta información el equipo del profesor pudo identificar el modelo, el fabricante y hasta y el país vendedor (EE.UU.) que sirvió a Human Rights Watch para su denuncia.

"Todos hemos visto Trump, Obama o Putin decir barbaridades en vídeos en la red donde no podemos distinguir si han sido generados o son reales. Pensamos en los vídeos escandalosos de candidatos que podrían salir días antes de unas elecciones (sin tiempos para desmentiments)"

 

Días después (y todavía con el impacto de la presentación de Weizman a la cabeza) vi el tuit de Mikael Thalen donde enlazaba un vídeo donde seve la actriz Jenniffer Lawrence respondiendo unas preguntas a una conferencia de prensa a los Globos de Oro. Hasta aquí todo normal si no fuera porque la cara de la actriz es una suma de su y la del actor Steve Buscemi. Un deep fake en toda regla que no pasa de un divertimento viral. Pero hace pensar. Los deep fakes son el producto de los adelantos tecnológicos en el campo de la inteligencia artificial llamado aprendizaje profundo (de aquí el deep). Con esta tecnología, redes neuronales aprenden a inferir reglas a partir de conjuntos grandes de datos, en este caso de vídeos y audios de los protagonistas Lawrence y Buscemi. Todos hemos visto Trump, Obama o Putin decir barbaridades en vídeos en la red donde no podemos distinguir si han sido generados o son reales.

El que sí que es real es el impacto que los deep fakes pueden tener en la sociedad. Pensamos en los vídeos escandalosos de candidatos que podrían salir días antes de unas elecciones (sin tiempos para desmentiments), o en vídeos falsos de soldados norteamericanos quemando Coranes en regiones en conflicto, o en un vídeo del Papa apoyando a un candidato o a otro. Estas herramientas ya son accesibles a la Dark Web y de aquí a nada tendremos aplicaciones al móvil que lo harán.

El problema se hace más gordo si pensamos que con la excusa de los deep fakes la verdad tendrá un tel de duda permanente: en un entorno comunicativo pleno de deep fakes a Trump le habría sido todavía mucho más fácil calificar de fake news sus conversaciones privadas telefónicas donde decía que le gustaba coger las chicas por la entrecuix. En territorios en conflicto como Gaza, tendríamos el vídeo donde cae el misil, el mismo vídeo al mismo lugar con los niños jugando pacíficamente en el parque y un tercero donde son los palestinos quienes tiran un misil el mismo día a la misma hora y desde el mismo lugar. Al profesor Weizman se le gira trabajo y a nosotros más.