IA, regulació i futur

Aquests dies la regulació de la IA està de moda, ChatGPT ha posat sobre la taula d'una manera palesa temes que, encara que hi eren fa anys, no havien arribat al debat públic.

Coincidint amb tot això, la Mobile World Capital ens ha convidat a un grup d'uns 20 experts del camp a conèixer de prop l'extensa i àmplia regulació sobre privadesa, dades i Intel·ligència Artificial de la Comunitat Europea. Una experiència fantàstica amb ponents experts i això sí, ppts retro dels 70 amb bullet-points rodons i plens de text, tot el que a Esade no admetem.

Europa és indiscutiblement líder en l'àmbit de la legislació sobre privadesa, dades i AI, i segurament ja haureu llegit els articles de Ganyet i Albert Cuesta sobre aquesta experiència. Vull sumar-se a aquesta conversa i destacar-ne la rellevància.

La legislació sobre privadesa i protecció de dades a Europa, coneguda com a GDPR (o RGPD en espanyol), es troba vigent des de fa temps. Entre els seus efectes hi ha l'obligació d'incloure cookies que tots els ciutadans europeus acceptem mecànicament i la imposició de multes milionàries a empreses multinacionals per incompliment. Aquestes mesures han estat fonamentals en l'esforç per garantir la privadesa i protecció de dades en l'àmbit digital Europeu.

La “IA Act” classifica els usos de la intel·ligència artificial segons el risc que representen, prohibint pràctiques com el 'social scoring' i considerant d'alt risc la identificació facial

Una legislació menys coneguda, però de gran rellevància és la “IA Act”, que entrarà en vigor en pocs mesos. Com que es tracta d'un reglament, no requerirà transposició nacional i s'aplicarà de manera immediata a tots els països membres. Aquesta normativa classifica els usos de la intel·ligència artificial segons el risc que representen, prohibint pràctiques com el social scoring i considerant d'alt risc la identificació facial i el perfilat d'usuaris.

Les aplicacions d'IA classificades com a risc alt necessitaran autorització prèvia abans de la seva implementació i estaran subjectes a rigorosos controls. Aquelles de risc mitjà tindran menys restriccions, mentre que les de risc baix estaran plenament permeses. Un tema candent a les discussions actuals de la Comissió és la possible classificació de la IA generativa com d'alt risc. Tot i que aquest assumpte encara no està resolt, la tendència apunta a mantenir el principi de regular els usos de la IA en lloc de les tecnologies en si, amb l'objectiu d'establir legislacions duradores i independents d'avenços tecnològics específics.

La Data Act introdueix la figura d'intermediaris i empodera els ciutadans, atorgant-los la capacitat de conèixer les dades generades pels seus dispositius

Un dels aspectes més innovadors en el panorama legislatiu europeu és la imminent Data Act, enfocada a dades provinents de l'Internet de les Coses (IoT), especialment a l'àmbit industrial. Aquesta legislació ha estat aprovada al Parlament Europeu amb un suport superior al 80%, una cosa sense precedents a la institució. La Data Act introdueix la figura d'intermediaris i empodera els ciutadans, atorgant-los la capacitat de conèixer les dades generades pels seus dispositius (per exemple, el cotxe) i decidir si permeten o no la venda a tercers. Aquesta legislació resulta particularment interessant, ja que no només s'enfoca a garantir la protecció dels usuaris, sinó que també cerca dissenyar un mercat i crear actors dins d'aquest, és a dir, és una llei pro-innovació.

Europa és un líder mundial en legislació de privadesa i, ara també, en intel·ligència artificial i dades. Tot i això, sorgeixen dues qüestions crucials: la sobirania i la implementació d'aquestes lleis, així com l'escenari futur que dibuixen.

Quin tipus de futur estan modelant aquestes legislacions? La resposta a aquesta pregunta serà clau per entendre com Europa enfrontarà els reptes i les oportunitats que sorgeixen a l'era digital ia l'adopció generalitzada de la intel·ligència artificial.

Una legislació pot ser realment efectiva en un camp on no es posseeix sobirania? Aquesta és una de les qüestions que ChatGPT ha posat de manifest

La primera pregunta que sorgeix és senzilla i evident: una legislació pot ser realment efectiva en un camp on no es posseeix sobirania? Aquesta és una de les qüestions que ChatGPT ha posat de manifest, ja que Europa no compta amb empreses ni organitzacions públiques capdavanteres en el desenvolupament de models de llenguatge com aquests. Sens dubte, Europa pot legislar fent palesa la mida del seu mercat i la influència que això li atorga, però en fer-ho podria estar deixant els ciutadans europeus sense opcions reals.

És evident que qualsevol legislació només serà veritablement efectiva si es té sobirania en aquest àmbit, i en la mesura que es tingui més sobirania, potser es necessiti menys legislació.

La Comissió Europea és plenament conscient d'aquesta situació, però la seva capacitat per impulsar la innovació en aquests camps és limitada. Això és degut no només al seu pressupost, que representa poc més de l'1% del PIB d'Europa i d'aquest, la meitat es destina a la política agrària, sinó perquè l'execució de polítiques en molts d'aquests àmbits depèn dels estats membres .

Aquest escenari planteja la necessitat de reflexionar sobre l'efectivitat de les legislacions europees a l'àmbit de la IA i les dades, així com el rol que han d'exercir les institucions i els estats membres per enfortir la sobirania tecnològica i garantir un futur més pròsper i innovador .

El segon aspecte que cal considerar és la implementació de la legislació. Una llei pot tenir objectius lloables, però si la seva aplicació no aconsegueix assolir-los, serà inútil i fins i tot contraproduent. En darrer terme, una legislació és tan bona com la nostra capacitat per implementar-la. El cas de les cookies és un exemple clar: tots estem d'acord amb els seus objectius, però la seva implementació ha fet que milions d'europeus facin “click” en cookies que mai ningú no ha llegit i que, en molts casos, no tenen alternatives realistes. Novament, una legislació és tan bona com la seva aplicació; si creem lleis que no podem implementar de manera eficient, només estarem augmentant les traves i burocràcia.

Malauradament, els països europeus solen no tenir implementacions digitals àgils i sense friccions. Més aviat, allò que preval és el contrari.

Els efectes combinats de la manca de sobirania i una implementació burocratitzada poden ser molt perjudicials

Els efectes combinats de la manca de sobirania i una implementació burocratitzada poden ser molt perjudicials, generant barreres d'entrada que impedeixin que la legislació protegeixi adequadament i, alhora, frenin la innovació.

Això vol dir que hem de deixar de promoure legislacions progressistes? De cap manera. Al contrari, hem de millorar la nostra sobirania i la nostra capacitat d'implementació. És necessari equilibrar la velocitat de la legislació amb la nostra capacitat per realitzar implementacions digitals àgils i la nostra sobirania.

Potser alguna cosa. podríem aprendre de la carta que sol·licita una pausa en el desenvolupament de GPTs i aplicar una pausa similar a la legislació fins que la seva implementació i la sobirania estiguin a l'alçada de les nostres ambicions ...

En cas contrari, com assenyala Ganyet, a Europa seguirem fent PPTs, amb bullet points i molt de text, mentre que a la resta del món fa GPTs.