El futur l’escriuen els vencedors digitals

Google Maps i Apple Maps ja han canviat el nom de Golf de Mèxic per Golf d’Amèrica. El criteri és tan científic com que a Trump li ha sortit de l’entrecuix. Emborratxat de xenofòbia, revisionisme històric i anticientifisme, el president taronja ha afegit la geografia a llurs guerres culturals. S’afegeix a les del clima, la medicina, la biologia i la IA.

Una mica més a prop, Ursula von der Leyen ha anunciat que la Comissió Europea mobilitza 200.000 milions d'euros per impulsar la IA a Europa, 50.000 milions de fons públics més 150.000 milions del sector privat. Aquesta inversió inclou la creació de quatre gigafactories especialitzades en l'entrenament de models avançats d'IA, amb l'objectiu de situar Europa al capdavant.

Dues notícies que juntes s’entenen millor.

Que Trump és un perill per a la intel·ligència ho sap tothom i és profecia. Que Apple, Google i la resta de grans tecnològiques ho siguin ens ho podíem imaginar els més haters, però no era tan evident fins no fa massa. I és per això que un gest en principi tan innocu com el canvi de nom d’un accident geogràfic és més transcendent del que no sembla. Som-hi.

"Emborratxat de xenofòbia, revisionisme històric i anticientifisme, el president taronja ha afegit la geografia a llurs guerres culturals"

Per a la generació hiperconnectada, el mes passat és l’equivalent a la dècada passada nostra (sí, si esteu llegint aquest diari, la també és la vostra). Això vol dir que la pròxima vegada que mirin el mapa per un treball de l’institut o perquè la següent convenció de criptobros es fa a Miami, i hi vegin Golf d’Amèrica no notaran cap canvi. És més, encara que algun dia remot n’haguessin vist el nom històric no ho recordarien. Si Google Maps diu que es diu Golf d’Amèrica és que sempre se n’ha dit així. Vora 500 anys d’història reescrits amb una línia de codi. Google crea la realitat.

Ens podríem quedar amb l’analogia massa evident entre Google i el “Ministeri de la Veritat” de 1984. Crec que no ens equivocaríem, però seria deixar la història a mitges. El poder d’un exèrcit de funcionaris treballant en un edifici per reescriure el passat de la novel·la d’Orwell, per molt nombrós que fos, no té res a veure amb el poder de centres de càlcul immensos amb un total de 5 milions d’ordinadors. Els primers es dedicaven a reescriure el passat de diaris i llibres; els darrers, es dediquen a generar el futur, tots amb els interessos del present. Amb un exemple s’entén millor.

Si aneu a gemini.google.com (per entendre’ns, el ChatGPT de Google) i li demaneu que us dibuixi una casa complirà de manera diligent. Ho acabo de fer i m’ha generat una imatge que imita el dibuix d’una cabana de troncs a la vora d’un riu, aixecada de terra, amb xemeneia, teulada a dues aigües amb teules de fusta i un porxo a la porta. Impecable. Però hi ha un petit problema que és invisible a l’ull: si bé és cert que jo no l’hauria dibuixat millor també ho és que jo no l’hauria dibuixat així; la casa és una casa de muntanya, més concretament d’una muntanya nord-americana.

"Si Google Maps diu que es diu Golf d’Amèrica és que sempre se n’ha dit així. Vora 500 anys d’història reescrits amb una línia de codi"

Provem de ser més concrets i de demanar aquest cop al Dall-E d’OpenAI que ens generi “una imatge on hi hagi gegants en una festa major de Catalunya”. El resultat és una imatge captivadora d’una multitud en una plaça on al mig hi ha un gegant. Balcons plens i engalanats, uns castellers al fons, la parròquia i el seu campanar i un parell d’estelades completen l’escena. El Sam Altman n’estaria content, però no un català.

Una imatge on hi ha gegants en una festa major de Catalunya | Dall-E d'OpenAi

En una inspecció més atenta ens adonem de seguida que tothom és casteller (i de la mateixa colla) i que el gegant té dues potes! Ens n’adonem perquè n’hem vist molts abans i perquè sabem que perquè un gegant pugui ballar s’hi ha d’introduir algú per sota. La IA d’OpenAI senzillament no sap que és un gegant català ni sap com funciona; de fet, com que no n’ha “vist” gaires en el seu procés d’entrenament no els sap generar. Sí que ha “vist”, en canvi, moltes imatges del Paul Bunyan, el llenyataire gegant del folklore nord-americà “que va talar milions d’arbres l’any de la neu blava”. No descarto que els futurs creadors de gegants tradicionals catalans els fabriquin de manera que els hagin de portar entre dos.

Thomas Friedman parlava l'any 2005 al seu llibre The World is Flat de com la globalització havia aplanat el món, eliminant barreres econòmiques, tecnològiques i polítiques, i permetent una competència més directa entre empreses i individus d'arreu del planeta. Gràcies a internet, l'externalització, les cadenes de subministrament globals, les diferències tradicionals entre països desenvolupats i en desenvolupament s'havien reduït. El mercat era en molts aspectes més igualitari. Potser massa.

Avui amb l'adveniment i la popularització de la IA generativa aquest aplanament també s’estén a la cultura. Si fins ara la globalització tecnològica havia aplanat el món segons els interessos del model productiu nord-americà, ara ho fa d’acord amb el model generatiu: amb la IA generativa no només pot reescriure la història, sinó que pot modelar el futur a partir de dades esbiaixades.

"La major part de dades que processades i etiquetades en entrenaments massius procedeixen d’entorns anglo-cèntrics"

Quan les eines de generació d'imatges, textos i so reprodueixen models culturals dominants no ho fa perquè els seus propietaris siguin malvats —l’eslògan de Google diu Don’t be Evil— ni perquè sigui una decisió conscient, sinó perquè la major part de dades que processades i etiquetades en entrenaments massius procedeixen d’entorns anglo-cèntrics. El resultat és que, cada vegada que algú demana a una IA una representació fora dels cànons llurs, el que rep és una versió filtrada per la lògica del capital tecnològic: una cabana de Montana en lloc d’una cabana de la Segarra, un gegant a l’estil Paul Bunyan en comptes del gegant del Pi.

Una cabana de La Segarra | Dall-E d'OpenAi

Si la història l’escriuen els vencedors, el futur el generen els vencedors digitals. Hauríem de mirar de ser-ne.