La intel·ligència artificial està impactant de múltiples formes a la nostra vida quotidiana. De la seva presència, estan sorgint qüestions complexes, relacionades amb la sostenibilitat, l’ètica, el paper dels mitjans de comunicació, la justícia social o perspectives més transversals. Alguns d’aquests interrogants són els que s’afronten al Màster en Disseny per una intel·ligència artificial responsable, impartit per l’escola de disseny Elisava i dirigit per Andrés Colmenares.
Quines possibilitats ofereix el Màster in Design for Responsible AI?
El programa del Màster in Design for Responsible AI, creat pel laboratori de recerca creativa IAM i l'escola Elisava, busca oferir a professionals en àrees com el periodisme, la comunicació, la producció cultural, l’enginyeria i la recerca o que treballen en organitzacions i empreses especialitzades en disseny d'interacció, experiències, serveis, productes i estratègies digitals, un context ideal per a desenvolupar habilitats en recerca creativa, anàlisi de contextos complexos, pensament crític i disseny de narratives per a prendre decisions estratègiques a través d'investigar les múltiples formes en què els sistemes d'Intel·ligència Artificial (IA) estan impactant a la nostra vida diària.
En aprendre col·lectivament a identificar, analitzar i descodificar la relació entre sistemes sociotècnics i el seu impacte ambiental, cultural, social i ètic, el màster ofereix la possibilitat a perfils no-tècnics a convertir-se en especialistes en disseny responsable de tecnologies relacionades amb la Intel·ligència Artificial i així desenvolupar les capacitats necessàries per a crear metodologies, guies, serveis i altres eines perquè organitzacions i ciutadans prenguem decisions més responsables respecte a l'automatització i la digitalització de les nostres vides.
També estem creant al voltant del màster una xarxa internacional d'especialistes, experts, investigadors i divulgadors que des de diversos camps i perspectives estan liderant projectes en disseny responsable d'Intel·ligència Artificial, per la qual cosa els participants tindran l'oportunitat de connectar i participar activament en aquesta xarxa.
Com es pot fer responsable l'ús de la intel·ligència artificial?
El Master in Design for Responsible AI neix en part per la urgent necessitat de desconstruir, analitzar i reformular aquest tipus de preguntes que reflecteixen una narrativa dominant i errònia en mitjans de comunicació en referir-se a la Intel·ligència Artificial com una tecnologia, eina o entitat única.
"La IA té més a veure amb l'estadística aplicada i l'adopció massiva de processos com l'automatització i la digitalització que amb la idea d'una tecnologia singular i innovadora"
Per això, en la definició del programa ens referim a sistemes d'Intel·ligència Artificial i aclarim aquesta primer de tot es refereix a un camp d'estudi creat fa 70 anys i més recentment s'associa a un sector empresarial i a una àmplia i diversa categoria de productes, serveis i recerca relacionada amb l'increment exponencial de la capacitat de computació i el volum de dades disponible per a calcular probabilitats i fer tot tipus de prediccions. Es podria dir que la IA té més a veure amb l'estadística aplicada i l'adopció massiva de processos com l'automatització i la digitalització que amb la idea d'una tecnologia singular i innovadora.
Esmento això perquè per a usar (i dissenyar, implementar o desenvolupar) sistemes d'Intel·ligència Artificial de manera responsable és fonamental desmitificar el seu significat, i realment entendre la materialitat d'aquests sistemes, és a dir entendre que el boom de la IA és possible perquè hi ha milers de centres de dades que usen processadors fets a base de minerals escassos i en molts casos explotats en llocs on no es respecten els drets humans. Aquests centres de dades també consumeixen enormes quantitats d'aigua i energia, contribuint de manera significativa a l'emissió de gasos. D'altra banda, està la mà d'obra barata necessària per a etiquetar i processar les dades que alimenten aquests sistemes i molts altres temes relacionats amb l'ús indegut de tota mena d'informació, textos, imatges i sons digitals. Després estan totes la qüestions i conflictes ètics a l'hora d'analitzar els contextos d'ús, els riscos de delegar decisions a sistemes automatitzats, els biaixos de les dades usades en aquests sistemes que reflecteixen i multipliquen la discriminació i el racisme tan present en les societats actuals.
Des de fa uns anys, està emergint una àrea de recerca des de diverses universitats denominada ‘Responsible AI’ o ‘Trustworthy AI’, que ha estat adoptada en diversos projectes al voltant del món per a dissenyar conjunts de principis, marcs ètics i reguladors des del sector públic i privat. Per exemple, la Comissió Europea ha estat treballant en un marc jurídic sobre la IA que parteix d'una sèrie de directrius basades en principis ètics com el respecte de l'autonomia humana, prevenció de danys i riscos, l'equitat i fer-la explicable, particularment important en usos d'eines basades en IA per a automatitzar la presa de decisions. Inclou també requisits com la supervisió humana, la solidesa i seguretat tècnica, transparència, privacitat en l'ús de dades, evitar la discriminació en aquestes dades i mesurar l'impacte ambiental que l'ús d'aquestes eines pot tenir abans d'usar-les.
Així que, la responsabilitat hauria de començar abans de normalitzar l'ús d'aquesta mena de sistemes. Per a fer responsable l'ús de sistemes de IA, hem de preguntar-nos primer si és responsable usar aquest tipus de solucions en segons quin context. Aquest aspecte em sembla particularment fascinant ja que a través de relacionar-nos de manera responsable amb les tecnologies digitals també hem de qüestionar les relacions de poder que existeixen entre les corporacions i els governs, entre el denominat Nord i Sud Global, entre milionaris i treballadors precaris.
"Les empreses necessiten professionals que puguin anticipar els riscos perquè ens relacionem amb les tecnologies digitals de maneres més sanes i constructives"
Quina demanda existeix a Europa i als EUA per a professionals especialistes en el disseny per a una intel·ligència artificial responsable?
La demanda per part d'empreses en molts sectors (no sols el tecnològic) i també organitzacions en el sector públic, està creixent cada vegada més en part per la gran cobertura mediàtica que estan tenint els usos (en molts casos irresponsable) de productes com ChatGPT, i les veus alertant pels perills de la IA. Un de les fites més recents en aquesta línia va ser l'anunci en la cimera de la G7 sobre la imperant necessitat de fer un ús responsable de la IA generativa, posant aquest tema com una prioritat en l'agenda de governs i corporacions.
Grans empreses com IKEA, H&M, Nokia o el mateix Google tenen departaments sencers dedicats a la IA Responsable, on treballen equips multidisciplinaris de científics, investigadors, dissenyadors i experts en ètica al costat dels enginyers que desenvolupen els seus productes i serveis. També existeixen empreses més petites, algunes startups també desenvolupant consultories, metodologies i alguns productes enfocats en usos responsables de les tecnologies en sectors concrets com el sector salut, mitjans de comunicació o fins i tot en el sector de la moda.
Amb l'auge de la digitalització i l'automatització, les empreses de pràcticament tots els sectors econòmics necessiten professionals que puguin identificar i anticipar els riscos d'usar unes certes tecnologies així com dissenyar guies d'ús, metodologies, serveis relacionats i sobretot formar a altres professionals, directius i la societat en general perquè ens relacionem amb les tecnologies digitals de maneres més sanes i constructives.
Quin impacte tindrà a mitjà i llarg termini la intel·ligència artificial en el disseny?
Depèn de què ens referim per disseny. Si per disseny parlem de l'impacte en els professionals de diverses àrees del disseny en les indústries creatives particularment (disseny gràfic, industrial, interacció, etc.) l'adopció d'eines de IA ja està causant un impacte significatiu ja que la velocitat a la qual s'estan integrant diversos productes que s'utilitzen per a automatitzar processos és molt accelerada. Això no vol dir que la IA està reemplaçant als humans, vol dir que per a algunes empreses pot arribar a ser més rendible integrar eines avançades per a automatitzar algunes tasques que demanda equips de treball diferents. Empreses del sector a Espanya, com *Domestika, ja estan fent acomiadaments massius, excusant-se en l'adopció d'aquesta mena d'eines. Crec que aquest impacte té més a veure amb canvis en les estratègies dels inversors i el capital de risc que mana en el sector tecnològic, que es resumeixen a reduir costos i alguns excessos propis del capital de risc i el model de startups.
L'aposta per la IA per part de les grans corporacions és absoluta, per la qual cosa podem anticipar que diversos d'aquests productes seran el pròxim Microsoft Office, és a dir que seran usats per milions d'empreses i milers de milions de persones. Molts haurem d'aprendre a usar aquestes eines. S'estan creant nous ecosistemes de startups al voltant d'aquestes eines, amb productes que creen noves necessitats a l'hora de dissenyar processos, interfícies, productes digitals, etc.
"La gran novetat que fa possible l'actual boom al voltant de la Intel·ligència Artificial és l'increment exponencial de la capacitat computacional interconnectada disponible"
També s'obren múltiples possibilitats a l'hora de dissenyar, entenent dissenyar per la pràctica de prendre decisions, ja sigui a l'hora d'imaginar i fabricar una cadira o un cotxe o a l'hora de prendre decisions complexes basades en dades, per exemple de dissenyar la governança d'una empresa. Però això no ocorre ni ocorrerà en un món virtual. Cada vegada més enfrontarem els límits de les tecnologies digitals a causa de l'acceleració de les implicacions del canvi climàtic i l'emergència social ambiental derivada d'aquest. Les recents crisis de subministraments i d'energia són una mostra d'aquests límits. Avui dia ja són freqüents les falles de serveis de productes de corporacions com Google a causa d'incendis o inundacions que afecten els seus centres de dades. Per aquesta raó, crec que la filosofia del disseny, en bona part l'art d'aprendre a prendre decisions creatives, innovadores i sobretot responsables, tindrà un impacte enorme en el sector de la Intel·ligència Artificial.
Quins exemples existeixen d'un ús responsable de la IA?
La majoria d'exemples d'implementacions de IA responsable fan referència al disseny de guies o principis i a l'establiment d'equips de treball especialitzats a avaluar riscos i possibles impactes. Per exemple des de 2018, el grup H&M dissenya tots els seus productes relacionats amb IA en línia amb nou principis que inclouen conceptes com la transparència, governança, seguretat o privacitat i qualsevol ús d'eines ha de ser revisat pel departament de IA responsable.
Un altre bon exemple de pràctiques responsables és el de l'empresa Hugging Face, que desenvolupa eines per a crear aplicacions utilitzant l'aprenentatge automàtic seguint els principis del codi obert, que està creant eines per a calcular les emissions de carboni relacionades amb l'ús dels seus models i treballant activament per a reduir-los.
Quins coneixements adquirirà l'estudiant que realitzi el màster?
La proposta del màster és posicionar als estudiants com a investigadors creatius i està més centrat en el desenvolupament d'habilitats i pensament crític que a tenir accés o adquirir coneixements. Per aquesta raó, proposem un full de ruta establert a partir d'un marc teòric que comença amb establir un colaboratori entre els participants, professors i col·laboradors per a investigar i debatre què és la Intel·ligència Artificial, com funcionen els sistemes de xarxes neuronals, Machine Learning, eines generatives com ChatGPT, així com la història de la IA, les narratives i aspectes filosòfics d'aquest camp. També investigarem com s'estan usant aquestes eines en diversos sectors, així com els usos més creatius de la IA des de perspectives artístiques.
Després, entrem a contextualitzar la IA com a sistemes sociotècnics, la dimensió de justícia social, les estructures de poder que replica, el seu impacte mediambiental, la dimensió ètica, el seu impacte cultural i l'ús de IA en l'emergència climàtica. En la segona del programa, entrem de ple en la IA Responsable, investigant les diverses iniciatives públiques i privades per a regular el sector, els principis, directrius i normatives des de perspectives crítiques, filosòfiques i creatives. Això ens permet connectar amb el disseny d'un projecte final orientat a proposar metodologies, narratives i eines per a identificar i analitzar riscos o implementar estratègies de IA Responsable amb un enfocament a explicar a altres ciutadans com funcionen aquests sistemes de manera creativa, col·lectiva i col·laborativa.
Quina novetat aporta la IA en relació a altres tecnologies recents?
És important ressaltar que la IA no és una tecnologia, encara que el terme s'usi per a referir-se a la implementació d'un ampli ventall de tecnologies algunes emergents i altres més establertes. La IA com a camp d'estudi i recerca tampoc és recent, ja que té els seus orígens al voltant de 1950. La gran novetat que fa possible l'actual boom al voltant de la Intel·ligència Artificial és l'increment exponencial de la capacitat computacional interconnectada disponible. En resum, es pot extreure, analitzar, processar i generar un volum de dades inimaginable en molt poc temps. Això és el que fa possible tècniques com l'aprenentatge automàtic (Machine Learning) o el Processament de Llenguatge Natural (NLP per les seves sigles en anglès). Es podria dir que són tecnologies recents com a 5G o avanços tècnics en la fabricació de microprocessadors les que aporten al camp de la IA.