IA, edició, traducció, lliçó

Dilluns i dimarts va tenir lloc a l’auditori de l’edifici de Balmes de la UPF la 8ena trobada del Fòrum Edita que reuneix el món editorial de l’Estat. Les jornades han comptat amb experts del sector que s’han tancat tres dies a parlar sobre el futur, allò que per definició no arriba mai i que sempre canvia. Malgrat que el llibre en format paper continua essent la millor interfície a l’hora de llegir, a cada nova revolució tecnològica li han cantat les absoltes. Semblava que l’ordinador personal el faria obsolet, després va arribar la web, el Kindle, TikTok, i… res. Em recorda aquell acudit gràfic on un llibre “fill” li preguntava al seu “pare” que què era allò que tenien davant. El pare li responia que era un Kindle, un invent arribat del futur per a exterminar-los, però que no se n’havia sortit.

Si en edicions anteriors del Fòrum Edita l’amenaça venia d’Amazon o de TikTok; aquest any, com no en podia ser d’altra, venia de la IA en general, i de ChatGPT en particular. Vaig tenir el plaer d’assistir-hi com a oient i com a convidat a parlar sobre la IA i l’impacte en el món editorial. La sessió era en català i pels assistents espanyols hi havia habilitat un servei d’interpretació al castellà.

Com sempre vaig començar amb la ja habitual “exempció de responsabilitats”; que jo no sé com serà el futur i que l’opinió de qualsevol expert és tan bona o tan dolenta com la de qualsevol dels presents. Una bona excusa per encetar el diàleg és preguntar-se si “la IA pot ser creativa” que és molt fàcil de preguntar i molt difícil de respondre, més que res perquè la pregunta no té cap sentit com veurem més endavant.

"Ens preocupem tant per l’impacte de la intel·ligència artificial que no veiem el de l’estupidesa natural"

Sempre va bé començar desautoritzant els Harari, Bostrom, Yudkowsky i altres genets de l’Apocalipsi , més interessats a vendre llibres i que els contractin per a fer conferències que en informar del que realment passa. També va bé desmitificar el ChatGPT a l’inici de la xerrada. Per a la gran majoria el seu primer i únic contacte conscient amb la IA ha estat amb el ChatGPT. Convé deixar clar que ni tota la IA és ChatGPT ni tot el que hi ha a ChatGPT és IA.

Ens preocupem per l’impacte de la IA en la nostra vida sense ser conscients que els algorismes de selecció de continguts i recomanació de Twitter, Facebook, Instagram, TikTok, Netflix i Spotify ja ho fan. Ens preocupem tant per l’impacte de la intel·ligència artificial que no veiem el de l’estupidesa natural. I la combinació és letal; és l’assalt al Capitoli, el terraplanisme, el negacionisme climàtic i totes les teories de la conspiració que corren. Per estar-ne al dia podeu seguir Negacionistas Out of Context a Twitter (la darrera és que uns làsers des dels satèl·lits van provocant incendis al món, però que si pinteu les teulades de color blau els podeu repel·lir, per això els xinesos pinten les seves i els cascos dels soldats de l’ONU són blaus).

La manera d’entendre bé la IA generativa és comparar-la amb el text predictiu del mòbil. Els grans models de llenguatge es creen a partir de tots els textos amb què una xarxa neuronal profunda ha estat entrenada; entre altres amb els textos de Viquipèdia, de Twitter, de llibres, de blogs, de Forocoches i tot el que el robot d’OpenAI ha pogut llegir de webs en obert (recentment el New York Times li ha prohibit l’accés als seus continguts i prepara una demanda contra OpenAI que podria implicar haver d’esborrar el ChatGPT). Un cop entrenada —un procés molt costós només a l’abast dels grans— és capaç de trobar correlacions que a nosaltres se’ns escaparien. És per això que ChatGPT és capaç de generar una paraula darrera l’altra fins a arribar a compondre textos semànticament molt ben construïts. Com que aquesta capacitat era fins no fa massa exclusivament humana, de manera inconscient —en els dos sentits del terme— atribuïm a aquests sistemes una intel·ligència que no tenen.

Que aquests grans models de llenguatge siguin capaços d’establir correlacions entre dades i com a conseqüència generar textos (o imatges o música) no vol dir que sàpiguen el que fan. De fet, com que no tenen cap coneixement del món no saben què és un text, ni una imatge, ni qui era Mercè Rodoreda o Micky Mouse. En general no saben què és “saber” i, per tant, no saben que no saben res. Per això no tenen cap problema a “inventar-se” textos; de fet per ells són un text més, el concepte de veritat no el tenen. Precisament parlava amb un editor català que m’ho explicava: “El ChatGPT s’inventa coses. Li vaig demanar que em busqués crítiques a diaris dels EUA d’un llibre editat el 1939 i algunes se les va inventar”. Observeu, a banda de l’antropomorfització, el mal ús de la paraula “buscar”, com si ChatGPT fos un Google avançat!

"Que aquests grans models de llenguatge siguin capaços d’establir correlacions entre dades i com a conseqüència generar textos (o imatges o música) no vol dir que sàpiguen el que fan"

Arribats a aquest punt ja us haureu adonat que la pregunta de si “la IA pot ser creativa” no té cap sentit. Si fem, en canvi, la pregunta correcta —“Podem ser més creatius amb l’ús de la IA?” la resposta és un clar i rotund sí. La IA, les màquines en general, no tenen agència, no tenen objectius; som les persones les que els hi donem.

Després de la introducció sempre poso el vídeo del tiktoker Jarred Jermaine de la cançó de la Shakira per il·lustrar que la creativitat en els humans funciona copiant, transformant i combinant, i que potser no som tan diferents del ChatGPT. La meva intervenció va prosseguir amb una conversa molt interessant amb el doctor i catedràtic Javier Aparicio Maydeu. Un dels temes va ser l’impacte de la IA al món editorial i l’efecte en tota la cadena de valor. Tot i ser un reputat autor;) no conec prou bé el negoci editorial per atrevir-me a fer prediccions. El comodí sempre és parlar de com hauríem de deixar de pensar en les nostres feines com a monolítiques i pensar en tasques. D’aquestes, moltes són cognitives i adaptatives i d’altres cognitives i repetitives. Entre les primeres hi ha la presa de decisions i entre les segones les d’enviar correus i Whatsapps per muntar una reunió. Senzillament, totes les feines robòtiques que fem al cap del dia les hauríem de deixar a les màquines —no es cansen ni s’equivoquen—. En canvi, ens hauríem de quedar amb les que ens fan humans i en les que som insubstituïbles. Penseu en com voldríeu rebre un diagnòstic d’una malaltia, si per WhatsApp o que us ho expliqués un metge mirant-vos als ulls. Per molt que ens tranquil·litzi saber que no tenim cap sistema d’IA realment intel·ligent l’impacte en les nostres feines hi és: els mòbils són de tot menys intel·ligents i observeu com han canviat la nostra manera de fer i de ser.

"Penseu en com voldríeu rebre un diagnòstic d’una malaltia, si per WhatsApp o que us ho expliqués un metge mirant-vos als ulls"

He de dir que m’ho vaig passar molt bé, que la gent del món editorial són gent simpàtica i molt llegida, i sembla que la meva concurrència va agradar. Entre la gent que en acabar em va felicitar hi va haver una noia que ho va fer de manera especialment efusiva. Em va dir que li havia agradat molt, que la intervenció havia estat molt didàctica, que no se li havia escapat res tret d’alguna referència a algun nom propi, que ho havia entès tot i, més important, que havia après molt. Li havia agradat especialment la part que feia èmfasi en el fet que ens havíem de dedicar a fer les feines que ens fan humans que són les que les màquines no saben fer. Era la traductora simultània de la conferència.

També em va explicar que Zoom ens havia regalat conferències a tots durant la pandèmia i que ara, amb el que havia après la seva IA, oferia serveis d’interpretació automàtica a la seva plataforma i que ja començava a mirar de canviar de feina. Ja ho he afegit a la meva presentació.