La intel·ligència artificial és un canvi on hi estem tots immersos, tant la societat com les empreses. El ChatGPT, que ha servit per popularitzar aquesta tecnologia, ha propiciat un ampli debat sobre els seus usos, els seus límits i la seva necessària regulació.
De fet, aquest any, en què 4.000 milions de persones acudiran a les urnes, la IA generativa tindrà un paper fonamental: serà utilitzada per tots els actors per influir en les campanyes electorals. Sabem que els votants accedeixen cada vegada més a la informació per les xarxes socials, i aquestes poden ser vulnerables i manipulables per la IA. Per tant, la tecnologia IA està a punt de convertir-se en un risc principal per donar forma a les decisions polítiques, cada cop més emprades per influenciar l'opinió pública, desacreditar proves reals i inflamar encara més les tensions geopolítiques a tot el món.
Fins ara, la IA ha estat dominada pels Estats Units i la Xina, però aquest any, han aparegut nous actors geopolítics capaços de desenvolupar i adquirir capacitats d'intel·ligència artificial avançades, models recolzats pels estats, i aplicacions avançades per l'ús de la seguretat nacional. És comprensible que desperti tant d'interès com per desfermar les lluites aferrissades, però està en joc la seva dimensió ètica i legal en la mesura en què replanteja la relació persona-màquina que s'ha viscut als darrers anys. No tots els usos són bons, i els ciberdelinqüents aprofiten les capacitats per cometre estafes i enganys.
A finals d'any la companyia OpenAI va generar un dels serials més intensos del sector tecnològic, manifestant que estava desenvolupant una IA que podia ser una amenaça per a la societat. A mesura que els possibles riscos negatius de la IA són més evidents, augmenten les preocupacions i la desconfiança pública cap a les empreses que desenvolupen la IA.
"La UE potser no és una potència militar, ni política, però sí que és una potència reguladora"
El rol regulador de la Unió Europea
De fet, molts experts han alertat dels seus perills i han animat a la seva regulació. I Europa s'ha convertit en la primera regió del món on s'ha regulat aquesta tecnologia. La UE potser no és una potència militar, ni política, però sí que és una potència reguladora. I també utilitzarà aquesta tecnologia per al seu bé: en aquesta llei, els estats membres han incorporat l'ús i el tractament de la IA per casos de seguretat nacional, com per exemple, recerca de víctimes de segrests, tràfic d'éssers humans, per prevenir atacs terroristes o per identificar persones sospitoses d'haver comès delictes de terrorisme, assassinats, violacions o tràfic sexual.
S'ha de valorar que la llei manté un equilibri entre la protecció dels drets fonamentals i no ser obstacle per al progrés d'una tecnologia, de la qual les mateixes institucions europees saben que Europa no pot quedar al marge. Aquesta ha estat una de les queixes dels EUA, que creu que l'excés regulador de la UE complica que les empreses tecnològiques, la majoria nord-americanes, puguin desenvolupar l'activitat amb normalitat dins del marc de la UE.
L'Eurocambra va demanar d'incloure en la llei una regulació de la intel·ligència artificial generativa per tal que compleixi uns requisits de transparència, com ara que els sistemes respectin els drets d'autor o que s'especifiqui si un contingut ha estat generat per IA. En aquest sentit, la Unió té previst crear una oficina europea d'intel·ligència artificial que coordini els països, assessorada per científics i agents de la societat civil.
El punt més calent de la negociació ha estat l'ús que les forces de l'ordre públic puguin fer de les càmeres d'identificació biomètrica en espais públics
El punt més calent de la negociació ha estat l'ús que les forces de l'ordre públic puguin fer de les càmeres d'identificació biomètrica en espais públics. De fet, els activistes dels drets digitals de la UE han denunciat que l'ús d'aquesta tecnologia podria violar els drets humans i ser abusiva, retallant certes llibertats en nom de la seguretat.
Més actors en el tauler geopolític
En els últims mesos, la IA ha estat un dels grans temes de debat en fòrums internacionals. I no és d'estranyar: l'ús de la IA pot tenir un paper fonamental en els diferents conflictes bèl·lics que hi ha al món, tant en l'intent rus de recuperar les fronteres de la Unió Soviètica, en el perill que el conflicte a Gaza es converteixi en un conflicte de dimensions globals, o fins i tot en la possibilitat que Donald Trump torni a ser president dels Estats Units.
Per aquest motiu, el primer ministre britànic, Rishi Sunak, va convocar a polítics d'una trentena de països, científics i empresaris del sector de l'alta tecnologia, com el multimilionari Elon Musk, per debatre els pros i els contres de l'ús de la IA, i sobretot els perills, amb el propòsit d'intentar establir les bases d'una jurisdicció i un marc regulador. La cimera, més enllà d'exposar i debatre la necessitat de prendre mesures perquè la IA no es faci servir per manipular processos electorals, desinformar i crear realitats paral·leles mitjançant vídeos i àudios, va servir per confirmar les grans diferències entre els Estats Units, la Xina i la Unió Europea. I aprofitant aquesta desentesa, el Regne Unit vol adquirir un nou rol en aquest tauler geopolític: Sunak vol que el Regne Unit faci d'intermediari per establir unes regles del joc universalment acceptades abans que empreses com Google o OpenAI posin en marxa la nova generació d'IA.
Ara per ara, però, cap país ha aprovat encara una regulació integral de la IA o de la IA generativa. De fet, els enfocaments adoptats pels diferents països són molt variats, acollint-se alguns a regulacions existents de, per exemple, protecció de dades o ciberseguretat, i fins a lleis sectorials; altres estan optant per principis més generals o enfocaments basats en directrius. Cada enfocament té els seus beneficis i inconvenients, i anirem veient com alguns mercats passaran de directrius basades en principis a una legislació estricta.
"La governança de la IA surt de les fronteres dels països on es desenvolupa"
Veurem, també, que els avenços en la governança de la IA es faran més evidents aquest any, a mesura que els esforços reguladors vagin fallant i les empreses tecnològiques més potents vagin més enllà del control dels governs.
La governança de la IA surt de les fronteres dels països on es desenvolupa i, per això, després de l'estiu està previst que l'ONU organitzi la Cimera del Futur, per decidir si els estats membres donen suport o no a l'establiment d'una agència de IA de l'ONU. La proposta de Nacions Unides és crear una agència internacional similar a l'Agència Internacional d'Energia Atòmica (OIEA) que desenvolupi els estàndards per a tota la indústria i permeti monitorar si s'estan complint, de forma segura, els requisits dels sistemes d'intel·ligència artificial més sofisticats. En definitiva, ser una autoritat internacional que pugui inspeccionar, auditar i provar el compliment de les normes de seguretat i, fins i tot, imposar restriccions. Ara bé, malauradament, alguns experts s'han mostrat pessimistes i han manifestat que serà molt difícil el suport entre els responsables governamentals per poder arribar a crear una agència similar a la OIEA per a la IA.
La governança en la intel·ligència artificial és geopolítica i, per tant, és poder.