Parlem d’IA: un decàleg

La IA és al centre del debat tecnològic, ètic i social. És per això que és fonamental que periodistes i usuaris de xarxes socials no caiguem en abusos de llenguatge, generalitzacions i fal·làcies a l’hora de parlar-ne. Massa sovint llegim titulars com “una IA supera els humans en…” o “la IA ja és més intel·ligent que les persones…” que van seguits d’imatges d’androides, imatges fins ara procedents de fons d’imatges i que ara ja són generades amb IA.

Si els mitjans tradicionalment han creat la realitat i no a l’inrevés, avui som tots qui contribuïm a la seva creació o destrucció. Un recordatori: Twitter, Facebook, YouTube, Instagram i tota la colleta socials ja fa temps que van deixar de ser simples plataformes per a ser mitjans i són, per tant, també responsables de la creació de realitats.

El dia 2 de juny del 2023 ens vam despertar amb la notícia que un dron militar de l’exèrcit dels EUA, en rebre l’ordre de destruir un objectiu, el primer que va fer va ser atacar el seu operador per evitar rebre una contraordre. Tot i que ho portava el diari britànic The Guardian, i tots els mitjans del món se’n van fer ressò, tenia tots els ingredients de ser una fabulació: la màquina que es rebel·la contra els humans, drons assassins i escenari bèl·lic. El titular pescaclics es fa sol. Recordo la meva perplexitat i la meva conversa amb el Dr. López de Màntaras, els dos amb el mode tecno-escèptic activat al màxim nivell.

La màquina que es rebel·la contra els humans, drons assassins i escenari bèl·lic. El titular pescaclics es fa sol

Hores després la notícia la desmentia el mateix The Guardian dient que sí que havia passat però en una simulació virtual. Doncs tampoc. El que havia passat és que el Coronel Tucker Hamilton, un pilot experimentat, havia proposat la situació com un experiment mental en una conferència a la Reial Associació Aeronàutica britànica; ni rebel·lió de la màquina, ni operador mort ni tan sols simulació virtual, només una hipòtesi per debatre sobre ètica i IA en entorns militars. Premi per la premsa.

És en aquest entorn mediàtic —com diria en Xavi— que ens movem a l’hora d’entendre què passa realment amb la IA. Cal un debat sobre el debat que va més enllà del periodisme, sense escenaris viciats per Terminator ni visions tecnoptimistes a ultrança. El Dr. López de Màntaras, al seu darrer llibre 100 coses que cal saber de la IA (Cossetània, 2023) dedica un capítol als “Robots amb llicència per matar” on parla del tema. També en dedica un altre a la premsa que es titula No permetis que l’exageració espatlli una bona notícia. És a partir de les seves recomanacions que n’he fet aquest decàleg:

Una proposta per als mitjans a l’hora de parlar d’IA

1. Evitar l’antropomorfisme: és crucial no atribuir característiques humanes a la IA. Això inclou evitar verbs que s'apliquen als humans com "pensar", "aprendre", o "sentir". Aquesta claredat ajuda a comprendre les veritables capacitats i limitacions de la IA. Es fa difícil fer-ne abstracció quan sistemes com el ChatGPT els utilitzen constantment i a més en primera persona del singular. Cal criticar-ho.

2. Emfasitzar que la iniciativa és de les persones: les persones tenim iniciativa, els ordinadors no. La IA és una creació humana. Els seus algoritmes i funcions estan pensats, dissenyats i programats per persones. Els ordinadors no fan res per si sols, només fan allò que els seus creadors els diuen que facin. Una frase atribuïda a Ted Nelson ho resum: “La bona notícia és que els ordinadors només fan allò que els diem que facin. La mala notícia és que els ordinadors només fan allò que els diem que facin".

3. Atribuir èxits a les persones, no a les màquines: quan es reporta sobre avenços o èxits en la IA, és important destacar el treball dels investigadors, enginyers i altres professionals implicats, en lloc de presentar la tecnologia com a autònoma o autodirigida. En el cas de l’aprenentatge màquina també cal atribuir part de l’èxit als milions de creadors de les dades dels conjunts d’entrenament i als milions d’anotadors que revisen converses i les etiqueten en funció de la seva correctesa.

És en aquest entorn mediàtic —com diria en Xavi— que ens movem a l’hora d’entendre què passa realment amb la IA. Cal un debat que va més enllà del periodisme, sense escenaris viciats per Terminator 

4. Distingir entre IA i intel·ligència humana: cal fer una distinció clara entre les capacitats d'una màquina i les d'un ésser humà. Malgrat tots els avenços recents, la IA, no posseeix consciència o intel·ligència comparable a la humana. Tampoc no hem de creure que l’evolució actual de la tecnologia ens portarà inevitablement a una IA equiparable a la humana; alguns experts diuen que hi estem molt lluny i d’altres que és impossible. L’adaptabilitat, la plasticitat i la intel·ligència social de les xarxes neuronals biològiques no es pot replicar amb xarxes neuronals digitals. Comparar-les no té cap sentit.

5. No confondre la IA particular amb la general: l’objectiu final de la IA és arribar a dotar les màquines de capacitats equiparables a les humanes. És el que es coneix com a Intel·ligència Artificial General (AGI en el seu acrònim en anglès). Tot el que tenim ara són IA particulars, molt competents en dominis molt concrets del coneixement: calcular, jugar a escacs i conduir de manera autònoma en entorns molt controlats. Massa sovint un petit avenç en un àmbit de la IA, en IA particular, es confon amb una aproximació a, o en un avenç en, AGI. Desconeixem si la suma de molts avenços en IA particulars pot arribar a l'AGI i ni tan sols si aquest és el camí.

6. Evitar el llargterminisme: la IA, com qualsevol altra tecnologia condicionarà el nostre futur. Però no sabem com. Massa informacions parlen de futuribles a llarg termini, més propis de Hollywood que de la ciència, com la fi de la civilització i l’extinció de l’espècie humana. Molt sovint aquests debats llargterministes serveixen per desviar l’atenció dels reptes actuals com són l’impacte en la feina o els drets d’autor.

És crucial no atribuir característiques humanes a la IA. Això inclou evitar verbs que s'apliquen als humans com "pensar", "aprendre", o "sentir"

7. Evitar el sensacionalisme: cal presentar la informació de manera equilibrada, evitant el sensacionalisme i la desinformació. Els titulars de màquines que superen en intel·ligència els humans són llaminers, però no són més que pescaclics. De màquines que ens superin en àmbits molt particulars n’hi ha des que tenim telers programables o des que tenim calculadores i no per això ens superen en intel·ligència.

8. Promoure la comprensió de la IA: És important oferir una explicació clara i accessible de què és la IA, com funciona, i quines són les seves aplicacions reals, per ajudar a desmitificar malentesos i temors infundats.

9. Reconèixer les limitacions de la IA: tot i els seus avenços, la IA té limitacions inherents i es troba en un estat de desenvolupament continu. El problema de la inducció, un dels problemes fonamentals de la filosofia, és molt present en la IA basada en aprenentatge màquina. No perquè un fet hagi passat sempre ha de continuar passant. Una altra de les grans limitacions de la IA és la impossibilitat que tenim de sistematitzar el sentit comú i transferir-l’hi. És més difícil del que sembla i fa bona la paradoxa de Moravec que diu “que allò fàcil pels ordinadors és difícil per a les persones i allò fàcil per a les persones és difícil per als ordinadors".

De màquines que ens superin en àmbits molt particulars n’hi ha des que tenim telers programables o des que tenim calculadores i no per això ens superen en intel·ligència

10. Incentivar el diàleg constructiu: el debat al voltant de la IA sempre provoca més preguntes que respostes. I això és molt bo. No cal tenir-les totes, no cal fer com el ChatGPT i si una resposta no la tenim ens la inventem mentre sigui versemblant. Finalment, el periodisme ha de fomentar un debat sa i constructiu sobre el futur de la IA, incloent-hi discussions sobre la regulació, la privacitat, l'impacte laboral i els beneficis potencials sense que fem passar els nostres biaixos de confirmació per davant.

Segurament aquest decàleg no cobreix tot el que fem malament a l’hora de parlar d’IA (la creativitat humana és infinita a l’hora de vessar-la). Però només que entre tots féssim l’esforç de mantenir el debat en el marc d’aquest decàleg ens estalviaríem molts malentesos i podríem començar a fer la carta als Reis de com volem que sigui la IA en el nostre futur.