La intel·ligència artificial crema

He demanat al ChatGPT 4 què és l’efecte eureka: «es refereix al moment en què una persona experimenta una comprensió sobtada o una idea innovadora que resol un problema o qüestió difícil. Aquest fenomen es produeix quan la solució a un problema apareix de manera inesperada i ràpida, com si s'hagués encès una bombeta en el nostre cervell.»

Tot seguit li he demanat si ell s'hi veu, provocant efectes eureka. Diu que el ChatGPT «pot provocar un efecte Eureka en les persones en certa mesura, ja que com a model de llenguatge avançat, pot proporcionar informació útil, respostes a preguntes o suggeriments que potser l'usuari no havia considerat abans. Això pot conduir a una comprensió sobtada o a la resolució d'un problema específic».

Però ho matisa: «Cal tenir en compte que el CHATGPT és una intel·ligència artificial i que la seva eficàcia depèn de la qualitat de la pregunta i de la informació que disposa. La capacitat de proporcionar solucions creatives o innovadores pot ser limitada pel coneixement previ amb què ha estat entrenat el model. En aquest sentit, l'"efecte Eureka" pot no ser tan pronunciat com quan es produeix en una persona després de reflexionar intensament sobre un problema».

Aquí podria acabar l’article. Això, més que cremar, cou: el mateix ChatGPT diu quin és el paper dels humans en tot plegat. Bastaria que escrigués un final d’article dient que sí, que crema, però hem après a utilitzar el foc i aprendrem a utilitzar la IA. Però, digueu-me estiracordetes, la moda de publicar articles sobre la IA fets per la IA és molt del 2022 i aquest el treballaré una mica més. 

De la pedra als bits: la forma de guardar i transmetre el coneixement humà ha evolucionat des de mètodes rígids cap a mètodes flexibles

La forma de guardar i transmetre el coneixement humà ha evolucionat des de mètodes rígids cap a mètodes flexibles. Vàrem començar a publicar en suports extremadament rígids, com la pedra, i vàrem continuar amb l’argila, la fusta, el papir, el pergamí, el paper i els bits. Cada cop escrivíem allò que sabíem a llocs menys rígids per tal que fos més fàcil de reproduir. Els bits tenen l’eficàcia de reproducció del foc: si et passo foc, tu tens foc i jo tinc foc; si et passo el meu llibre de paper, tu tens el llibre, però jo no; si et passo un text digital, tu i jo tenim el text.

Els més grans, avui bocabadats amb la IA (no tots), el 1995 vàrem experimentar un efecte eureka important amb el web. Dèiem que era l’avanç més rellevant des de la impremta de Gutenberg. El 2023 podem dir que tot plegat es va aigualir. 

Amb el web vàrem fer l'allò que tants de cops solem fer: el mateix de sempre, però una mica diferent. Avui només la Viquipèdia publica al web aprofitant els avantatges del bit sobre els àtoms del paper, guardant versions que permeten veure la traçabilitat dels canvis i analitzar l’evolució del coneixement expressat a cada entrada. La resta hem fet servir el web per a publicar tal com ho fèiem en paper, però sense la logística que havia de menester la distribució als quioscs i llibreries. 

La novetat interessant és que estem aprenent a identificar informació falsa i esbiaixada

També, cal dir, el web ha fet que no s’hagués publicat mai tant amb tan poca qualitat. Ara la mediocritat és planetària i immediata. La novetat interessant és que estem aprenent a identificar informació falsa i esbiaixada. Passa gràcies a les converses a les xarxes socials, però és lent perquè no és fàcil trobar veus assertives i pensament sistèmic enmig del cafarnaüm de les xarxes. 

El ChatGPT també és una conversa on la resposta depèn del nostre pensament sistèmic i la nostra assertivitat. Això significa que ChatGPT és una eina per a destriar informació falsa i esbiaixada, però la majoria dels crítics amb la IA prefereixen dir el contrari. En què es basen? Com el ChatGPT diu dalt, «la seva eficàcia depèn de la qualitat de la pregunta». Efectivament, si fas preguntes estúpides, la IA et donarà respostes estúpides i pots utilitzar-les per a dir que és un risc. 

Les respostes estúpides de la IA són una abraçada mortal pel ChatGPT que —de moment— no jutja ningú i no es defensa. No diu pas que aquí l’estúpid és l’humà que li ha preguntat una cosa que provoca una resposta que el desqualifica com a IA. Un altre cop el perill som nosaltres i no el ChatGPT.

Les converses serveixen per agregar coneixement: un diu una cosa, l’altre una altra; tot plegat porta cap a una bona pregunta… i pam! «la solució a un problema apareix de manera inesperada i ràpida, com si s'hagués encès una bombeta en el nostre cervell». ChatGPT crea una publicació a mida per a cada pregunta. És la flexibilitat màxima pel nostre coneixement. Entre la impremta del Gutenberg i el web, va haver-hi un invent que va provocar una cosa semblant: la fotocopiadora.

La revolució de la Xerox 914

Chester Carslon, fundador de Xerox, va demanar a IBM que invertís en el seu invent: la fotocopiadora. IBM va contestar que no, perquè la seva competència era molt barata: el paper de carbó. Ningú no compraria una màquina tan cara per a fer el mateix. Carlson va trobar altres inversors i va poder avançar. Quan tenia gairebé a punt el model Xerox 914, Carlson el va presentar a IBM. També el varen rebutjar. Aquest cop IBM va contractar una consultora, Arthur D. Little, que va concloure que la tecnologia del model 914 era bona, però no tenia futur al mercat de les còpies. La consultora havia entrevistat a empreses grosses i la resposta fou que ningú no aniria a un centre de còpies situat a una planta de l’edifici d’oficines. A més, les màquines eren cares. Llittle va recomanar a IBM que rebutgés la fotocopiadora com a nova oportunitat de negoci.

La Xerox 914 fou un èxit —sense IBM. En realitat, les empreses usaven el paper de carbó per a fer còpies de la correspondència sortint, però no en tenien de la correspondència entrant. La guardaven a un arxiu general, però sovint només el consultaven quan sorgien problemes —i era massa tard. La nova Xerox va permetre fer nombroses còpies d’absolutament tot i enviar-les a tots els departaments abans que no saltessin els problemes. 

Ràpidament, la fotocopiadora es va convertir en un difusor d’informació. Permetia agregar informació de diferents llocs en forma d’expedients a mida per a cada departament. És el que fa ChatGPT, agregar: recull informació d’arreu per a donar una resposta. Torno a la 914: cartes sortints, cartes entrants, informes interns, articles, planes de llibres, fotos, articles, factures, albarans, etc. Els expedients arribaven a cada taula; era un push de la informació que abans, durant segles, fou un pull i amb molta fricció: anar als arxius, trobar-ho, prendre notes, tornar els documents als arxius. La Xerox 914, que varen presentar el 1959, no tenia res a veure amb el paper de carbó. 

De fet, Xerox va descobrir que també era una empresa de comunicació. Va inventar l’Ethernet el 1973. En només quinze anys, varen passar de competir amb el paper carbó a inventar una de les tecnologies que avui ens connecten a internet. El mateix any, el 1973, varen presentar el primer ordinador comercial amb ratolí i finestres, el Xerox Alto, però no va tenir massa èxit perquè era molt car. Em refereixo a èxit comercial, perquè el seu paradigma va ser un èxit gros: inspiraren el Macintosh d’Apple i el Windows de Microsoft.

Darrere una bona part dels investigadors de Xerox hi havia Douglas Engelbart, mestre de mestres, inventor del ratolí i les finestres per a millorar les interfícies digitals. Era un tecnòleg humanista que creia que calia fer més fàcil la tecnologia perquè més gent agregués el seu coneixement i així augmentar la intel·ligència col·lectiva necessària per a fer que el món fos un lloc millor.

Un camí llarguíssim cap a la flexibilització i l’agregació de la informació

La relació entre la fotocopiadora i el ChatGPT no és pas gens forçada. Tot plegat és un camí llarguíssim cap a la flexibilització i l’agregació de la informació.

Torno a la fotocopiadora: la qualitat dels expedients carregats de fotocòpies depenia de l’assertivitat i el pensament sistèmic dels documentalistes que decidien què fotocopiar i què no. És exactament el mateix que passa avui amb les preguntes al ChatGPT, només que de forma instantània i sense paper. Són dues eines d'agregació de coneixement, una presentada el 1959 (a l'era del hardware) i l'altre el 2022 (a l'era del software). 

Quan he explicat les coincidències entre la fotocopiadora i el ChatGPT, hi ha qui diu que no és el mateix per mor de l’accessibilitat, abast i potència de la IA. Estan dient que és un problema que l’agregació del coneixement s’estigui democratitzant?

Sí, ho diuen.

No ofeguem els crits ‘eureka’, si us plau. En necessitem moltíssims per a resoldre una gran quantitat de problemes importants de la humanitat, o estem perduts.

Crema?

He començat parlant de foc com a motiu d'un efecte eureka prehistòric. Li he explicat al ChatGPT. Ha dit que «és difícil dir si el descobriment del foc va provocar un "efecte Eureka" en els humans primitius, ja que aquest esdeveniment va tenir lloc fa milers d'anys i la nostra comprensió dels pensaments i emocions d'aquestes persones és limitada».

Ha desinflat el títol de l’article.

Però no defalleixo i li pregunto si troba que hi ha alguna coincidència, per a la humanitat, entre l'aparició del foc i la IA. Resposta: «tot i que el descobriment del foc i el desenvolupament de la intel·ligència artificial (IA) són esdeveniments separats milers d'anys, és possible identificar algunes similituds i coincidències en termes del seu impacte en la humanitat».

Insisteixo i pregunto si la IA crema, perquè vull salvar el títol de l'article. Troba que «entenent la pregunta en el sentit metafòric, podríem dir que la IA "crema" en el sentit que la IA està canviant la forma en què treballem, comuniquem, aprenem i vivim, provocant debats i discussions sobre els seus impactes i aplicacions».

Diria que puc mantenir el títol. Però per lleialtat he d'esmentar la seva darrera idea: «Ara bé, si entenem la pregunta en un sentit literal, la resposta és que no crema». 

Diuen que el ChatGPT és un risc per a la informació veraç, però a mi la intel·ligència artificial em funciona a l’hora de curar l’estupidesa natural.

La regulació de la IA hauria de ser al revés del que tothom demana: que se’n digui llei de la traçabilitat del coneixement i que sigui part del dret constitucional a rebre informació veraç

Proposo que la regulació de la IA sigui al revés del que tothom demana: per als humans. Que se’n digui la llei de la traçabilitat del coneixement i que sigui part del dret constitucional a rebre informació veraç. A les metadades de les publicacions d'humans, caldria incloure-hi codis únics que permetessin consultar les preguntes i respostes literals de la IA, a més de les seves fonts i quin model va fer servir. No tindria gaire credibilitat o suspendria una prova qui, en el xat que reprodueixo dalt, no hagués demanat a la IA si no va haver-hi milions d’anys, i no milers, entre el descobriment del foc i la IA.

En menys d’una generació no hi hauria tants manipuladors publicant enlloc. Voleu lluitar contra la desinformació, dieu? Mai no ho havíem tingut tan a prop.