El futuro lo escriben los vencedores digitales

Google Maps y Apple Maps ya han cambiado el nombre de Golfo de México por Golfo de América. El criterio es tan científico como que a Trump le ha salido de la entrepierna. Embriagado de xenofobia, revisionismo histórico y anticientificismo, el presidente naranja ha añadido la geografía a sus guerras culturales. Se suma a las del clima, la medicina, la biología y la IA.

Un poco más cerca, Ursula von der Leyen ha anunciado que la Comisión Europea moviliza 200.000 millones de euros para impulsar la IA en Europa, 50.000 millones de fondos públicos más 150.000 millones del sector privado. Esta inversión incluye la creación de cuatro gigafábricas especializadas en el entrenamiento de modelos avanzados de IA, con el objetivo de situar a Europa a la vanguardia.

Dos noticias que juntas se entienden mejor.

Que Trump es un peligro para la inteligencia, lo sabe todo el mundo y es profecía. Que Apple, Google y el resto de grandes tecnológicas lo sean, lo podíamos imaginar los más haters, pero no era tan evidente hasta hace poco. Y es por eso que un gesto en principio tan inocente como el cambio de nombre de un accidente geográfico es más trascendente de lo que parece. Vamos.

"Embriagado de xenofobia, revisionismo histórico y anticientificismo, el presidente naranja ha añadido la geografía a sus guerras culturales"

Para la generación hiperconectada, el mes pasado es el equivalente a la década pasada nuestra (sí, si estáis leyendo este diario, la también es la vuestra). Eso significa que la próxima vez que miren el mapa para un trabajo del instituto, o porque la siguiente convención de criptobros se hace en Miami, y vean Golfo de América no notarán ningún cambio. Es más, aunque algún día remoto hubieran visto el nombre histórico, no lo recordarían. Si Google Maps dice que se llama Golfo de América es que siempre se ha dicho así. Casi 500 años de historia reescritos con una línea de código. Google crea la realidad.

Podríamos quedarnos con la analogía demasiado evidente entre Google y el “Ministerio de la Verdad” de 1984. Creo que no nos equivocaríamos, pero sería dejar la historia a medias. El poder de un ejército de funcionarios trabajando en un edificio para reescribir el pasado de la novela de Orwell, por muy numeroso que fuera, no tiene nada que ver con el poder de centros de cálculo inmensos con un total de 5 millones de ordenadores. Los primeros se dedicaban a reescribir el pasado de diarios y libros; los últimos, se dedican a generar el futuro, todos con los intereses del presente. Con un ejemplo se entiende mejor.

Si vais a gemini.google.com (para entendernos, el ChatGPT de Google) y le pedís que os dibuje una casa cumplirá de manera diligente. Lo acabo de hacer y me ha generado una imagen que imita el dibujo de una cabaña de troncos a la orilla de un río, levantada del suelo, con chimenea, tejado a dos aguas con tejas de madera y un porche en la puerta. Impecable. Pero hay un pequeño problema que es invisible a la vista: si bien es cierto que yo no la habría dibujado mejor también es cierto que yo no la habría dibujado así; la casa es una casa de montaña, más concretamente de una montaña norteamericana.

"Si Google Maps dice que se llama Golf de América es que siempre se ha dicho así. Casi 500 años de historia reescritos con una línea de código"

Probemos de ser más concretos y de pedir esta vez al Dall-E de OpenAI que nos genere “una imagen donde haya gigantes en una fiesta mayor de Catalunya”. El resultado es una imagen cautivadora de una multitud en una plaza donde en el medio hay un gigante. Balcones llenos y engalanados, unos castellers al fondo, la parroquia y su campanario y un par de esteladas completan la escena. Sam Altman estaría contento, pero no un catalán.

Una imagen donde hay gigantes en una fiesta mayor de Catalunya | Dall-E de OpenAi

En una inspección más atenta nos damos cuenta de inmediato que todos son castellers (y de la misma colla) y que el gigante tiene dos piernas. Nos damos cuenta porque hemos visto muchos antes y porque sabemos que para que un gigante pueda bailar se le debe introducir algo por debajo. La IA de OpenAI sencillamente no sabe que es un gigante catalán ni sabe cómo funciona; de hecho, como no ha “visto” muchos en su proceso de entrenamiento no los sabe generar. Sí que ha “visto”, en cambio, muchas imágenes del Paul Bunyan, el leñador gigante del folclore norteamericano “que taló millones de árboles el año de la nieve azul”. No descarto que los futuros creadores de gigantes tradicionales catalanes los fabriquen de manera que los tengan que llevar entre dos.

Thomas Friedman hablaba el año 2005 en su libro The World is Flat de cómo la globalización había aplanado el mundo, eliminando barreras económicas, tecnológicas y políticas, y permitiendo una competencia más directa entre empresas e individuos de todo el planeta. Gracias a internet, la externalización, las cadenas de suministro globales, las diferencias tradicionales entre países desarrollados y en desarrollo se habían reducido. El mercado era en muchos aspectos más igualitario. Quizás demasiado.

Hoy con el advenimiento y la popularización de la IA generativa este aplanamiento también se extiende a la cultura. Si hasta ahora la globalización tecnológica había aplanado el mundo según los intereses del modelo productivo norteamericano, ahora lo hace de acuerdo con el modelo generativo: con la IA generativa no solo puede reescribir la historia, sino que puede modelar el futuro a partir de datos sesgados.

"La mayor parte de datos que procesadas y etiquetadas en entrenamientos masivos proceden de entornos anglo-céntricos"

Cuando las herramientas de generación de imágenes, textos y sonido reproducen modelos culturales dominantes no lo hacen porque sus propietarios sean malvados —el eslogan de Google dice Don’t be Evil— ni porque sea una decisión consciente, sino porque la mayor parte de datos que procesadas y etiquetadas en entrenamientos masivos proceden de entornos anglo-céntricos. El resultado es que, cada vez que alguien pide a una IA una representación fuera de sus cánones, lo que recibe es una versión filtrada por la lógica del capital tecnológico: una cabaña de Montana en lugar de una cabaña de la Segarra, un gigante al estilo Paul Bunyan en vez del gigante del pino.

Una cabaña de La Segarra | Dall-E de OpenAi

Si la historia la escriben los vencedores, el futuro lo generan los vencedores digitales. Deberíamos intentar serlo.