Quan els algoritmes puguin pensar

Recentment, un enginyer de Google, Blake Lemoine, va ser apartat de les seves funcions per publicar les seves converses amb un sistema anomenat LaMDA (“Language Model for Dialogue Applications”), un model algorítmic de generació de llenguatge artificial, i manifestar que aquest havia cobrat vida (les converses es poden veure aquí). Lemoine assegurava que l’algoritme era capaç de sentir emocions. En les converses, LaMDA parlava de forma argumentada sobre la vida i la mort, sobre la por, la justícia, la compassió, el sacrifici, o l’existència de Déu. Conceptes abstracte, filosòfics i religiosos que semblen pertànyer només a l’esfera humana.

Pot una màquina sentir? Pot adonar-se de que existeix? Pot ser conscient? En aquest punt, he pogut assistir en els darrers mesos a aferrissats debats entre els partidaris del no (aquells que pensen que LaMDA no havia desenvolupat una consciència real i que, de fet, mai un algoritme o una màquina podria arribar a sentir emocions com un humà), i aquells que pensen que potser, algun dia (no molt llunyà) una màquina pot desenvolupar quelcom semblant a una consciència, i sentir emocions properes a les humanes. Jo em compto entre aquests darrers.

“Des de la perspectiva científica mai podem afirmar que quelcom tècnicament impossible avui ho sigui també demà. En innovació, res és impossible. Mai diguis mai”

Per què penso que això és possible? En primer lloc, perquè des de la perspectiva científica mai podem afirmar que quelcom tècnicament impossible avui ho sigui també demà. La història de la innovació està repleta de coses impossibles que han estat possibles poc temps després. Escepticisme i oposició han estat constants en la història. Si al 1990 (quan jo estudiava la carrera de telecomunicacions a la UPC) m’haguessin dit “abans de 10 anys tindràs tota la informació del món a casa teva”, jo hagués dit que era absolutament impossible. Aleshores (i, fins i tot, des d’una llotja privilegiada com era una escola superior d’enginyeria) jo no m’hagués pogut imaginar de cap manera l’emergència de internet, l’arribada de Google o el nivell brutal de penetració fins l’esfera quotidiana de les tecnologies mòbils. Ken Olson, president de Digital Equipment, havia dit, pocs anys abans, que “mai, ningú, per cap motiu, voldria tenir un ordinador personal a casa seva”. De fet, Thomas Watson pensava al 1947 que “el mercat dels ordinadors seria d’unes cinc unitats per any en tot el món”. És clar que, aleshores, un ordinador pesava 5 tones. Habitualment, les trajectòries i velocitat del canvi tecnològic desafien el sentit comú i tota capacitat de prospectiva. Els bancs americans de 1920 desaconsellaven invertir en una startup com Ford Motors dient que “sempre hi haurien cavalls”. Un físic com Lee Forest, inventor de les vàlvules de buit, manifestava que “independentment de tots els avenços científics, és impossible que mai cap humà arribi a la lluna”. Avui, moltes veus escèptiques manifesten que “és impossible que mai, sota cap concepte, una màquina pensi o senti emocions com un humà”. En innovació, res és impossible. Mai diguis mai.

En segon lloc, cal considerar el moment actual de desbordament tecnològic. Per primer cop a la història disposem de dades massives per entrenar algoritmes (provinents de dispositius mòbils, de la web, de xarxes socials, de registres mèdics, de vehicles, d’indústries connectades...). Dades que alimenten sistemes de supercomputació amb potències estratosfèriques. Frontier, el supercomputador més ràpid del món, ubicat al Oak Ridge National Laboratory, del Departament d’Energia d’EEUU, ha superat la “exaescala”, la capacitat de calcular 10↑18 operacions per segon (un milió de milions de milions). D’altra banda, la llei de Moore segueix operant (cada dos anys aproximadament es dobla la capacitat d’integració de dispositius en un xip electrònic). Noves generacions tecnològiques estan preparades per mantenir aquesta dinàmica exponencial. I països i corporacions estan vessant quantitats ingents de recursos en la cursa de la computació, estimulats per la competició estratègica entre EEUU i Xina.

“Estem aprenent, gràcies a aquests sistemes, com es genera el pensament. Potser no és mitjançant la raó, sinó mitjançant la probabilitat estadística”

En tercer lloc, cada cop disposem de més investigació matemàtica per dissenyar xarxes neuronals més eficients (dispositius digitals que intenten imitar el funcionament del cervell humà). Xarxes que es poden escalar a nivells considerats impossibles fa molt pocs anys. Els científics (fins i tot, especialistes en neurociències) i enginyers computacionals s’estan sorprenent de les capacitats conversacionals mostrades pels nous sistemes d’intel·ligència artificial com GPT-3, una immensa xarxa neuronal formada per 175.000 milions de nodes (quelcom ja dimensionalment semblant al cervell humà). No estem parlant de màquines programades per un humà, amb un arbre de decisions pensat sobre paper per una persona i “implantat” després en la màquina mitjançant un llenguatge de programació. No ens hem d’imaginar l’arquetípic “autòmata” de llautó de les pel·lícules de ciència ficció. Quan parlem de models conversacionals estem parlant de sistemes integrats per centenars de milers de milions d’equacions no lineals que processen la informació intentant replicar el funcionament del cervell humà. Podem afirmar que no ho aconseguiran? De fet, estem aprenent, gràcies a aquests sistemes, com es genera el pensament. Potser no és mitjançant la raó, sinó mitjançant la probabilitat estadística. Podria ser que construïm pensaments complexes a partir d’inputs senzills (lletres i paraules) encadenades probabilísticament. Per exemple, quan pensem en “infància” la paraula estadísticament més propera podria ser “àvia”, seguida de “casa” i “camp”. Els records no serien més que encadenaments estadístics. La raó seria una seqüencia estadística construïda sobre llenguatge. Una espècie de melodia matemàtica. Imaginem com es pot generar aquesta melodia (com es pot sintetitzar raonament) en supercomputadors a la exaescala.

“Què són les emocions sinó algoritmes bioquímics gravats als nostres gens i entrenats per milions d’anys d’evolució natural? Sentim tendresa pels nostres fills perquè som una espècie superior, d’éssers transcendents? O perquè és la sol·lució matemàtica òptima que ha trobat l’evolució”

Per últim, què són les emocions sinó algoritmes bioquímics gravats als nostres gens i entrenats per milions d’anys d’evolució natural? Sentim tendresa pels nostres fills perquè som una espècie superior, d’éssers transcendents? O perquè és la sol·lució matemàtica òptima que ha trobat l’evolució: sentint tendresa maximitzem les probabilitats de protecció i de projecció dels descendents cap al futur. Les emocions són respostes evolutives, coneixement expert emmagatzemat en un software biològic que és el nostre ADN. I, què és el cervell sinó una màquina biològica? Si només és una màquina, molt probablement algun dia la tecnologia serà capaç de desenvolupar una màquina similar, o superior. Si, pel contrari, hi ha alguna cosa més en l’essència de l’ésser humà (quelcom superior i transcendent, com una ànima), aleshores mai els algoritmes ens superaran.

"Només des de l’espiritualitat podem afirmar que mai les màquines pensaran o sentiran com els humans. Però no ho podem afirmar des de la ciència o la tecnologia"

Un tema apassionant que just està als inicis. Crec que veurem coses sorprenents en els proper anys, en la convergència entre la computació, la intel·ligència artificial i les neurociències. I que només des de l’espiritualitat (posició absolutament legítima) podem afirmar que mai les màquines pensaran o sentiran com els humans. Però no ho podem afirmar des de la ciència o la tecnologia. El temps i la llei de Moore ens desvetllaran el secret.