Està tornant la màgia?

La humanitat va conviure durant mil·lennis amb fets inexplicables, i sovint va necessitar fer servir la màgia i la divinitat per mirar d’entendre el món. Els vikings creien que les aurores boreals eren el reflex de les armadures de les valquíries, pels maies i els asteques un eclipsi era el pitjor dels auguris, i a moltes cultures s’han invocat els déus quan s’ha necessitat pluja. Fins que va arribar la ciència. El mètode científic aplica l’observació i l’experimentació, rebutja qualsevol acte de fe i consolida el coneixement mitjançant teories que haurien de poder ser comprovades, reproduïdes i revisades. Amb aquest rigor Copèrnic va expulsar la Terra del centre de l’Univers, Darwin va expulsar l’ésser humà del centre de l’evolució, i en general la ciència va expulsar la divinitat del centre del coneixement.

Aquests dies estem presenciant l’impetuós i espectacular desenvolupament dels sistemes d’intel·ligència artificial. Més enllà del popular ChatGPT, orientat a processar llenguatge i generar respostes coherents, hi ha una altra multitud de sistemes que ja estan presents en la presa de decisions en molts aspectes del nostre dia a dia, uns més consolidats com els que recolzen la decisió en inversions financeres, elaboren models climatològics o analitzen imatges mèdiques per a fer diagnòstics, i altres encara incipients com els que diuen que acabaran substituint advocats o fins i tot jutges.

És il·lusionant a la vegada que inquietant. Hi ha oportunitats evidents, però també riscos davant els més que previsibles mals usos. Itàlia ja ha prohibit ChatGPT per no disposar de mesures contra l’accés de menors ni garanties en el respecte als drets d’autor. Un nombre significatiu d’investigadors, científics i empresaris consideren que s’ha entrat en una carrera fora de control que està posant en risc la societat i la humanitat, i han signat una carta oberta reclamant parar-ho tot durant com a mínim sis mesos per a concentrar-se en legislar i ordenar els usos d’aquesta tecnologia, com ja hem fet amb la nuclear o amb la modificació genètica d’humans.

“Es desconeix què passa dins aquesta capsa negra en que s’ha convertit la intel·ligència artificial”

La carta reconeix que amb la intel·ligència artificial hem arribat a un punt on ni els propis creadors d’aquests sistemes són capaços d’entendre, predir i controlar com assoleixen els seus resultats. Es coneixen els principis bàsics, però demanarà molt temps i esforç saber què fa cada capa d’una xarxa neuronal. Es fan experiments cecs on ja es coneix la resposta, cosa que permet validar que els sistemes donen respostes vàlides, però es desconeix què passa dins aquesta capsa negra en que s’ha convertit la intel·ligència artificial.

És a dir, estem aconseguint resultats científics sense respectar alguns dels sagrats preceptes del mètode científic. Hi ha resultats que no som capaços d’entendre del tot. Podem acceptar un coneixement que no es basa del tot en el mètode científic? Tornarem a acceptar la màgia com a resposta? Potser estem davant un punt d’inflexió de la història.