De l’estupidesa natural a la intel·ligència artificial

- Rose Weissman: Esteu totes estudiant un màster?

- Una alumna d’art: Doncs si.

- R: Uf, no m'ho puc ni imaginar. Un cop tingueu el màster, què fareu amb ell?

- A: Perdó?

- R: És que és molt valent: Un màster! Esteu aprenent molt. Què fareu amb tot aquest coneixement?

- A: De què estàs parlant?

- R: Què fareu quan us gradueu?

- A: Hi ha moltes coses que podem fer! Ensenyar.

- R: Clar, ensenyar. On?

- A: Aquí, suposo.

- R: Però aquí no hi ha cap professora, tot són homes.

- A: És veritat, hi ha molts homes.

- R: Crec que TOTS són homes.

- A1: Mai no me n’havia adonat.

- A2: Algunes volem ser artistes. Jo ho vull ser!

- R: Però no hi ha moltes dones artistes. No als Estats Units. En vaig conèixer algunes a París. Una ho va deixar i ara ningú no sap on és. L'altre es va suïcidar perquè era dona i ningú no comprava els seus quadres. Va intentar dir-se Bertum i posar-se un bombí, però no va funcionar.

Algunes feu això per trobar marit, veritat? La meva filla va anar a la universitat per això. Bé, també volia fer amigues i anar a les classes, però el seu objectiu de veritat era conèixer un home. I ho va aconseguir. Després ell la va deixar, així que ara té un treball de baix nivell perquè només va aconseguir un diploma en literatura russa, però no un màster.

- A1: Conèixer un home no estaria malament.

- A2: Sí, suposo que sí.

- R: Doncs si voleu conèixer un home, aquest no és el lloc adequat. La facultat d'art, no. Tot aquest edifici, tampoc. En canvi, l'escola de negocis, aquest sí és el lloc correcte. Hi ha molt per escollir i tots estan estudiant coses amb potencial.

Espero que les meves opinions no us molestin, sóc nova en tot això.

- A1: Per a res!

- A2: Sí, gràcies, Rose!

"Fins no fa pas gaire, els autors dels algorismes eren els líders religiosos. El costum era dir-ne “la paraula de Déu” i eren regles extremadament persistents, que duraven mil·lennis perquè eren molt difícils de modificar"

El que acabeu de llegir és el resultat de l'execució d'un algorisme. Sí, també és un diàleg, concretament del tercer capítol de la segona temporada de The marvelous Mrs. Maisel. Passa a la ciutat de Nova York els darrers anys de la dècada dels cinquanta del segle passat. La senyora Weissman passa per una crisi que li demana fer quelcom més que la vida social que li toca com a esposa jueva de classe mitja-alta. Abe Weissman -el seu marit- li suggereix que vagi d’oient a la facultat d'art de la universitat on ell fa de professor de matemàtiques. Un parell d’escenes després, el rector demana una reunió amb el professor Weissman: des que la seva dona va d’oient a la facultat d'art, un grapat d’alumnes s'han donat de baixa i ara tenen un problema, perquè ara l'aula és mig buida.

Rose Weissman va recordar l’existència de l’algorisme “és una dona” en la versió de finals dels 50, que donava com a resultat que no n’hi hagués gaires, de dones, que es dediquessin a l’art. Era prou greu, perquè l’art té una importància tremenda per a la societat. Però era així. Ho deia l’algorisme.

Un algorisme no és altra cosa que un conjunt de regles que, aplicades sistemàticament a unes dades d'entrada, resolen un problema en un nombre finit de passes elementals. Fins no fa pas gaire, els autors dels algorismes eren els líders religiosos. El costum era dir-ne “la paraula de Déu” i eren regles extremadament persistents, que duraven mil·lennis perquè eren molt difícils de modificar. Els algorismes religiosos són tan poderosos, encara avui, que condicionen fortament el funcionament dels ordinadors. Per això, en alguns països -i al 2019- quan una dona va a obrir un compte corrent, el banquer -que és un home- li diu “l'ordinador no em deixa si no té el permís del seu marit”.

Qui més qui menys pot recordar un “l'ordinador no em deixa”. El meu darrer fou quan vaig intentar afegir una línia telefònica al contracte familiar. L'algorisme obligava l’operadora a refer el contracte per un altre completament nou i considerablement més car:

- És que el seu contracte no existeix i no es pot modifcar.

- Però bé que el factureu cada mes.

- Ho fa l’ordinador.

Vaig intentar activar un altre algorisme, a veure si hi havia sort: vaig demanar la baixa. Va funcionar. L’algorisme “el client se’n va” va provocar que em telefonés una altra operadora oferint-me un descompte. El resultat era un preu tan raonable com el que era impossible aconseguir amb l’algorisme “afegir una línia telefònica al contracte”. Diuen que aquestes coses no passen a les empreses nipones, perquè les seves religions no fan servir gaire les nostres regles (o algorismes) basades en l’error i el penediment.

"Sempre que algú em diu “l'ordinador no em deixa”, sempre penso que és el nou “Déu no ho vol”

Per tot plegat, sempre que algú em diu “l'ordinador no em deixa”, sempre penso que és el nou “Déu no ho vol”. Algun cop se m’ha escapat dir-ho i l'operador s'ha ofés; passa que els camins del Senyor són inescrutables. Cal dir que, de vegades, he trobat operadors pietosos que havien après com saltar-se l’algorisme, però trobar-los era quelcom totalment imprevisible. Depenia de l'humor, de l'hora, del cansament, dels coneixements, les ganes o qualsevol altra variable. No era un algorisme perquè, recordem-ho, són conjunts de regles aplicades sistemàticament; era pietat humana arbitrària. Tenc la teoria que l’arbitrarietat és, en realitat, conseqüència de la incompetència; l’operador és pietós perquè prèviament algú altre no ha fet bé la seva feina.

La possibilitat, o no, de la pietat humana per compensar incompetències, o no, és el que em fa l'efecte hi ha darrere de la recent por als algorismes de la intel·ligència artificial. No trobareu pas gaire crítiques al que provocaven els celebèrrims “l'ordinador no em deixa” de tota la vida digital. En canvi, des del sorgiment de la inteligencia artificial vivim un festival continu de crítiques i de rebuig als algorismes informàtics.

Obro una crítica. És la primera que mostra el cercador -que ningú no s'enfadi. La introducció comença dient que els algorismes ho optimitzen tot, salven vides, fan les coses més fàcils i conquereixen el caos, PERÒ que els experts estan amoïnats perquè posarà massa control damunt les corporacions i els governs, perpetuaran els biaixos, crearan bombolles de filtres, retallaran opcions, creativitat i serendipitat. També destruiran molts llocs de treball. A l'article, del Pew Research Center, també hi dediquen prou espai als recents errors de programació dels algorismes.

En el fons hi veig temor per la no intervenció d’humans pietosos que avui resolen els casos “l’ordinador no em deixa”. Crec que no se n'adonen que els humans pietosos hi continuen essent, però a un altre lloc. Ara treballen en software i no en atenció directa a un sol client. Quan detecten un error, el solucionen programant. La solució -pietosa, perquè no?- no serveix només per al client de torn, un que l'ha trobat d'humor, a una bona hora, descansat, amb coneixements i esma per resoldre ocasionalment la incompetència d’algú altre; la solució serveix per a tothom, des d’aquell precís moment, i per a sempre. La inteligencia artificial pot haver d'avisar dels errors abans que no els pateixi el client en detectar, per exemple, patrons erronis de fidelització.

Aquesta, per a mi, és la part abans del “però” a la introducció de l'article del Pew Research Center sobre els avantatges i inconvenients dels algorismes: optimitzen qualsevol cosa, salven vides, fan les coses més fàcils i conquereixen el caos. Mentrestant, el que ve després del “però” continua majoritàriament sota el control dels algorismes basats en la paraula dels déus: l’excés de poder per a les corporacions i els governs, els biaixos, les bombolles de filtres, la falta d’opcions i els perills per la creativitat i la serendipitat. 

Des dels anys 50, els algorismes divins han rebut petites modificacions que permeten -per exemple- que algunes dones es dediquin a l'art, però no arreu ni cobrant el mateix que els homes artistes. L’edició 2019 de l’algorisme que Rose Weissman explicava a les alumnes de la facultat d’art encara té errors. Sense anar més lluny: la Marin Hinkle actriu, que fa de senyora Rose Weissman, cobra menys que l’actor Tony Shalhoub que fa de senyor Abe Weissman.

Per tot plegat, prefereixo la intel·ligència artificial a l’estupidesa natural.