L’any 2014 la paraula de moda era big data, i la meva pregunta als professionals es resumia en “a partir de quina casella de l’Excel passava de normal data a big data?”. L'any 2024 no podem donar dues passes sense que se’ns parli de la intel·ligència artificial, però no és un tema nou.
Fa uns anys, parlar d’intel·ligència artificial (IA) era com parlar de cotxes voladors i càpsules hoi-poi: un futur llunyà que només vèiem a les pel·lícules de ciència-ficció i a Bola de Drac. Avui, molta IA segueix sent pura especulació, però a poc a poc lluita per convertir-se en una eina que formi part del nostre dia a dia. Des de microones que calculen quant de temps necessites per escalfar el cafè, passant per càmeres de vigilància que identifiquen qui truca a la porta, fins a assistents virtuals que ens recorden que toca comprar més llet i fer una transferència al compte familiar. Però, més que amb qualssevol tecnologies poderoses que hàgim pogut veure fins ara, hi ha un debat molt seriós que plana al seu voltant: l’ètica.
Segueixo molt de prop les preocupacions dels col·lectius més creatius (dibuixants, actors, músics…) per l'ús sense permís de dades amb drets d'autor en l'entrenament dels models d'IA. Com que no deixen de ser caixes negres, a vegades és difícil saber què hi ha al darrere. No és que una IA hagi estat piratejant Star Trek per millorar la seva comprensió de l’exploració intergalàctica, però el cert és que s'ha demostrat que moltes d'aquestes màquines aprenen amb dades que no tenen llicència per a això.
"Fa uns anys, parlar d’intel·ligència artificial era com parlar de cotxes voladors i càpsules hoi-poi: un futur llunyà que només vèiem a les pel·lícules de ciència-ficció i a Bola de Drac"
Algunes instruccions fetes amb astúcia en poden aixecar la llebre d’aquestes caixes negres: Si jo li demano un dibuix amb l’estil d’Azpiri i me’l fa, vol dir que en algun moment aquell sistema ha begut de la seva obra. Si jo demano una cançó amb l’estil dels Amics de les Arts, vol dir que en algun moment n’ha sentit alguna. I potser cap dels dos ha donat permís per fer-ho.
Això obre moltes preguntes i alarmes sobre les obres derivades, fins a quin punt entra dins de la legalitat, si hi ha prou obres a l’espai públic i lliure per entrenar aquests sistemes, i si és correcte cobrar una quota als mateixos artistes als quals se’ls ha sostret l’obra per fer-la servir. No voldríem que una IA acabi convertint-se en un plagiador digital, oi?
I, per descomptat, no ens podem oblidar del tema dels biaixos. El problema és que la IA apren del que veu, i si l'entrenem amb dades esbiaixades, acabarem amb màquines que reprodueixen i amplifiquen els mateixos prejudicis.
"El problema és que la IA apren del que veu, i si l'entrenem amb dades esbiaixades, acabarem amb màquines que reprodueixen i amplifiquen els mateixos prejudicis"
Quan preguntes a alguns sistemes que et pintin un enginyer, acaben posant-hi tot de senyors blancs entre 30-50 anys. És l’equivalent a quan traduïes nurse o secretary a Google Translate l'any 2012 i et tornava “infermera” i “secretària”, però no passava amb enginyer, president o boss.
Però no és el primer repte amb el qual ens trobem amb la tecnologia, en tenim molts altres de pendents. Alguns de ben grossos, com l’accessibilitat o la transparència.
Si encara no hem pogut fer que la gent (o un sistema de reconeixement automàtic) escrigui les descripcions de les imatges a les fotos que penja perquè els sistemes de gent amb discapacitat visual pugui saber què hi has posat, com pretenem abordar un problema com el de l'ètica a la IA?
I l’accessibilitat no és només per persones amb discapacitat. A vegades ho poden necessitar les persones que no en conviuen amb cap, però per un fet puntual els hi fa servei. Com una rampa quan vas amb cotxet, o uns subtítols quan has perdut els auriculars.
Em (i ens) preocupen aquestes distorsions, i amb raó: un sistema sense accessibilitat deixa fora a molta gent, i una IA mal entrenada pot ser tant o més perillosa que un humà amb idees preconcebudes.
"Una IA mal entrenada pot ser tant o més perillosa que un humà amb idees preconcebudes"
Com pot ser que en ple 2024, un assistent de veu funcioni amb el so de la veu, però no ho pugui implementar a l’ascensor de la biblioteca de la ciutat? Com pot ser que les solucions tecnològiques de moltes empreses no estiguin amb tots els idiomes del món?
I això no és només una qüestió de bugs o de falta de recursos, és una qüestió de visió i de directiva en operacions d’una empresa. La inclusió, la mirada crítica als biaixos, l’ètica, i l’accessibilitat tecnològica no han de ser un afegit de darrera hora, una mena de "si ens hi sobra temps, ho fem". Els desenvolupadors, enginyers i tecnòlegs hem de pensar en totes aquestes vessants més“ humanistes” com a part del procés de disseny, no com un pedaç que posem després. Fa mal de dir, però som la Renfe de l’ètica tecnològica.
És sorprenent com, mentre dediquem hores i hores a discutir sobre la privacitat i la ciberseguretat, dos temes cabdals i també rellevants, els drets d’autor i les implicacions ètiques de la IA, ens passem per alt la inclusió digital bàsica.
No té cap sentit que siguem capaços de crear sistemes que poden generar obres d’art digitals increïbles, però que no pensem en com una persona cega accedirà a aquella mateixa obra o com una persona gran podrà gestionar el seu compte bancari sense sentir-se humiliada per un chatbot que l’obliga a canviar d’idioma.
La tecnologia hauria de ser una eina de llibertat, no una barrera. Si estem disposats a debatre durant hores sobre si una IA pot esdevenir massa poderosa o esbiaixada, també hauríem de debatre durant hores sobre com fer que aquesta IA i totes les tecnologies siguin accessibles a tothom. Potser hauríem de dedicar-hi com a mínim el mateix esforç.
"Si estem disposats a debatre durant hores sobre si una IA pot esdevenir massa poderosa o esbiaixada, també hauríem de debatre durant hores sobre com fer que aquesta IA i totes les tecnologies siguin accessibles a tothom"
No es tracta només de ser ètic, sinó de ser inclusiu. Ser ètic també vol dir ser inclusiu, no? Per què de què serveix un futur en el qual les màquines són justes i éssers de llum, però la meitat de la població no hi pot accedir?
La nostra missió és doble: assegurar-nos que les màquines que creem no només siguin ètiques en la seva concepció, sinó també accessibles en la seva execució. Un món on tothom, independentment de les seves capacitats físiques o cognitives, pugui beneficiar-se de la tecnologia. En definitiva, un futur en el qual no només evitem meteorit que ha vingut a carregar-se la terra, sinó també a fer útil la televisió i el telèfon d’última generació.
Perquè sí, el debat sobre l'ètica de la IA és important. Però el debat sobre l'accessibilitat tecnològica és igual d'essencial, tot i que sovint no fa tant soroll per què potser no afecta els col·lectius amb més visibilitat, que porten les Apple VisionPro, i viuen en cases amb menjador.
Potser la pròxima vegada que parlem d'inclusió digital ho fem amb la mateixa passió amb què defensem els drets d’autor a Internet. I si no, sempre ens quedarà la IA per recordar-nos que toca comprar més llet, i que hem de pagar la quota per seguir generant imatges entrenades amb material sense permís.