No acceptis que una màquina no et deixi fer quelcom

Stephen Thaler és un doctor en física amb experiència en el camp de l’aeronàutica que fa 25 anys va fundar l’empresa Imagination Engines, dedicada al que ell anomenava “computació conscient” i que ara tothom anomena “intel·ligència artificial”. Un dels seus projectes és DABUS, un sistema de xarxes neuronals que es poden estimular per generar nocions simples, i aquestes nocions simples es poden combinar fins a obtenir altres nocions més complexes. Amb aquest mètode, aquí molt mal explicat, DABUS ha generat dos resultats nous i concrets: un contenidor fractal de líquids i un sistema de senyals lluminoses també amb fractals. O dit d’una altra manera, DABUS és un sistema d’intel·ligència artificial que ha creat dos invents.

El 3 de novembre de 2018 Thaler va presentar una sol·licitud per registrar els drets d’autor d’aquests invents, i va indicar que l’autoria corresponia a una “màquina creativa” indicant que els invents havien estat “creats de forma autònoma per un algoritme informàtic que s’executa a una màquina”. Nou mesos després, l’Oficina de Drets d’Autor dels Estats Units (US Copyright Office) va contestar denegant el registre perquè “cal l’autoria humana per poder reclamar drets d’autor”. És a dir, només un humà pot ser autor d’una idea, un invent o el que sigui. Thaler va apel·lar i aquest agost la Junta de Revisió ha confirmat que no, que no accepta el registre perquè cal que l’autor sigui humà. Thaler està portant el tema a diferents oficines de patents del món, i ja l’ha presentat a Europa, Austràlia, Sud-àfrica, Regne Unit i Nova Zelanda.

El veritable objectiu de Thaler no és registrar aquests dos invents, que són més aviat tontus, sinó provocar un debat i obligar a modificar la normativa de drets d’autor. De fet, el que fa Thaler és atendre el repte que li va llançar l’advocat Ryan Abbot, que el va provocar a crear un sistema d’intel·ligència artificial amb l’únic objectiu d’inventar alguna cosa que els permetés anar a una oficina de patents i provocar el problema.

Darrere de qualsevol procés informàtic hi ha algú, una persona humana, que se n’ha de fer responsable

El que estem discutint és el marc moral del nostre futur. Si les màquines són responsables dels seus actes, i si tenen drets i deures. No us ha passat mai que heu anat al banc a reclamar que us han cobrat una comissió, i la persona del taulell s’ha excusat dient “la màquina no em deixa treure-la”? No és culpa seva, ni de ningú. És la màquina que ha decidit que tu has de pagar comissions. Doncs no, al darrere de qualsevol procés informàtic hi ha algú, una persona humana, que se n’ha de fer responsable.

El 2018 la gent de Domestic Data Streamers varen inaugurar a Barcelona l’exposició Design Does (“el disseny ho fa”) que ja ha voltat per mig món. Una instal·lació que porta al visitant a reflexionar sobre el paper que juga el disseny a les nostres vides. Una de les peces presentava el cas real dels robots armats que vigilen la frontera entre Corea del Nord i Corea del Sud, i preguntava “si un dels robots dispara erròniament i mata algú, de qui és culpa?”, del dissenyador del sistema?, del comercial que l’ha posat al mercat?, del polític que l’ha comprat? El que no és, és culpa del robot. Algú, i no la màquina, és el responsable d’aquella mort.

"Si un dels robots dispara erròniament i mata algú, de qui és culpa?”

Actualment, s’estan desplegant sistemes de reconeixement facial als controls policials dels aeroports. Si el sistema et denega l’accés als Estats Units, no pots caure en el parany de limitar-te a dir “la màquina no em va deixar entrar”. No tornis a acceptar com a resposta “ho sento, la màquina no em deixa”. No acceptis la tecnologia com a responsable de cap decisió. Algú ha acceptat aquells paràmetres, algú ha acceptat que aquell procés es faci d’aquesta manera, algú ha acceptat que la màquina tingui aquest marge de decisió. La responsabilitat és un atribut humà, una altra diferència més entre humans i màquines.