IA i democràcia deixades

Les xarxes socials ja no són el que eren. Google ja no és el que era. Internet ja no és el que era. Tot s’ha emmerdat. Perdoneu la paraula, però és el terme acadèmic que s’utilitza per a descriure el fenomen pel qual els productes i serveis en línia es degraden a mesura que passa el temps. 

En un principi, els proveïdors en línia creen serveis d’alt valor afegit, generalment de franc, que així aconsegueixen atraure molts usuaris. Penseu en Google, Facebook o Instagram. A poc a poc, el servei es va degradant —amb publicitat, abús dels termes d’ús, minva de funcionalitats— fins que resulta inservible. Si volem recuperar-ne la utilitat només ho podem fer pagant. El terme va ser encunyat per l’escriptor canadenc Cory Doctorow el novembre del 2022.

Quan et poses ulleres per primera vegada t'adones que tothom en porta. Doncs amb merdificació passa el mateix: un cop saps del fenomen, el veus per tot arreu.

La darrera onada de la merdificació d’internet afecta el contingut. Cada cop més del que hi trobem està creat amb IA generativa; traduccions automàtiques, textos de ChatGPT, il·lustracions (que no ho són) fetes amb Midjourney o música generada amb Suno o Udio. Observeu que utilitzo el verb generar i no crear —generar és només una part del procés d’escriure, dibuixar o compondre—. I com que estem en un entorn de merda, la qualitat del contingut generat és entre baix i molt baix sense que això sigui important. Aquest tipus de contingut es coneix com a AI slop, que podríem traduir per IA deixada.

Si vols saber-ne més

 

   

Josep M. Ganyet-'Teletienda' a la Casa Blanca

El terme fa referència al devessall de contingut generat per IA de baixa qualitat: des de correus brossa escrits automàticament i imatges enganyoses fins a vídeos i àudio falsificats. El resultat és que quantitats ingents d’IA deixada inunden els canals d’informació i ofeguen el contingut genuí de fonts autoritzades. Els periodistes no poden competir contra les granges de creació de contingut, que poden produir text i imatges a betzef amb IA.

"Com que estem en un entorn de merda, la qualitat del contingut generat és entre baix i molt baix sense que això sigui important"

Els exemples són incomptables especialment en l’arena política on la IA s’ha tornat una arma de desinformació massiva. La campanya presidencial dels Estats Units ja va ser un festival, però ha estat l’arribada del Grok d’X que ho ha portat a un altre nivell. De franc per a tots els usuaris de la plataforma, no té cap limitació ni salvaguarda; permet generar qualsevol mena d’imatge encara que sigui derogatòria per una persona o grup. Si a algú li calia una empenteta per utilitzar la realitat com a arma Musk l’acaba de pujar a dalt de tot del Dragon Khan.

Una de les principals víctimes de la proliferació de la IA deixada és la confiança en allò que els mitjans de comunicació ens mostren com a realitat. Per entendre’ns, si demà el Vaticà publiqués una foto real del Papa Francesc vestit de Balenciaga, no ens ho creuríem perquè ja n’hem vist una imatge que ha resultat ser IA deixada. El sol fet de saber que les imatges puguin ser generades per IA fa que de manera preventiva descartem imatges i vídeos genuïns. 

Elon Musk ha capgirat per complet X | EP

I quan la veritat i la mentida esdevenen indistingibles als ulls dels nets de cor, guanya el més malànima, que s’aprofita dubte raonable per a cobrir les seves mentides. És el que es coneix com “el dividend del mentider" i que veiem dia sí dia també a la pràctica. A Catalunya ho hem sofert en pròpia carn: malgrat la infinitat de filmacions de la policia espanyola atonyinant votants, les autoritats llurs es van escarrassar per desacreditar alguns muntatges barroers amb l’objectiu d’estendre el dubte a les imatges genuïnes. “Generat amb IA” s’ha convertit en el comodí del mentider.

Si no es combat, l’augment de la IA deixada pot suposar una amenaça seriosa per a la democràcia. Un excés de contingut fals o enganyós pot erosionar el pensament crític. Els votants bombardejats amb històries o imatges falses convincents poden trobar-se cada vegada més indefensos a l’hora de discernir el que és cert del que no, una tasca que requereix cada cop de més esforç, i poden optar per deixar-ho estar. Això obre la porta perquè narracions extremes i teories de la conspiració arrelin i es facin grans: les refutacions, per definició molt més costoses d’elaborar, queden a sota de tot. En segon lloc, la capacitat de produir desinformació a escala, personalitzada i microorientada mitjançant algorismes, significa que la manipulació dels votants és més fàcil —i barata— que mai. 

"Quan la veritat i la mentida esdevenen indistingibles als ulls dels nets de cor, guanya el més malànima"

La democràcia es basa en la realitat compartida: un acord comú sobre fets i proves. Si no podem confiar en el que llegim, veiem o sentim, com podem decidir col·lectivament qualsevol cosa? Semblaria que no hi ha solució, però n’hi ha, i ve del lloc més inimaginable possible: d’Elon Musk.

Musk va comprar Twitter sense saber massa bé per què ho feia més enllà de la matxada de fer-se el mec a la xarxa dient que ho podia fer. Després se’n va adonar —ens vam adonar— de com podia influir en la conversa global omplint primer X de merda —readmetent-hi nazis i conspiranoics— i en acabat permetent que els seus usuaris emmerdessin internet amb les seves creacions d’IA deixada. Sense adonar-se’n —sense adonar-nos-en— el seu dit ens va mostrar el camí, que no és altre que ens comprem també un mitjà cadascun de nosaltres.

Sí, ja sé que no tothom té 44.000 milions a la butxaca per comprar Twitter, però sí que tots teniu un euret al mes, o 60 a l’any per una subscripció a un butlletí de Substack, al digital de la comarca, al vostre diari nacional de referència o a l’internacional que us faci més ràbia.