Un jutge robot per guanyar imparcialitat
L'aplicació d'aquesta tecnologia "comporta millores d'eficiència, rapidesa, previsibilitat i seguretat", però també té perills ètics i limitacions tècniques
Un jutge robot que pugui celebrar petits judicis a través d'Intel·ligència Artificial (IA) i ofereixi respostes "més ràpides, imparcials i fiables". A Estònia ja treballen en això i, de fet, diferents ministeris han introduït la IA i l'aprenentatge automàtic per racionalitzar els serveis als ciutadans. De moment, ja són més d'una desena els llocs de treball en què un algoritme ha substituït els funcionaris.
Segons el professor dels Estudis de Dret i Ciència Política de la UOC, David Martínez, "tenir un sistema automatitzat per a resoldre casos poc importants i, sobretot, senzills o amb una resposta jurídica clara pot ajudar a descongestionar els òrgans judicials i oferir respostes més ràpides, imparcials i fiables". De fet, afegeix que "l'ús d'algoritmes sempre comporta millores d'eficiència, rapidesa, previsibilitat i seguretat", així com que "s'eliminen els aspectes subjectius que poden afectar la presa de decisions i introduir distorsions que en principi no haurien d'influir en aquestes decisions".
Segons Martínez, "en la mesura que un algoritme no té per si mateix cap element de subjectivitat, sinó que es limita a executar una sèrie d'ordres, s'elimina la possibilitat d'interferència de prejudicis o creences que puguin alterar l'aplicació mecànica de les normes". Ara bé, l'aplicació d'aquesta tecnologia també té perills ètics i limitacions tècniques. "Pel que fa a la tecnologia, la presa de decisions judicials és força limitada, per exemple, perquè no és adequada en casos que involucren discrepàncies relatives a la interpretació de preceptes legals o en discussions al voltant de quins són els fets provats", detalla el professor de la UOC.
"És important tenir la possibilitat d'examinar i supervisar el codi d'aquests algoritmes, ja que es corre el risc d'incorporar, intencionalment o no, biaixos, prejudicis o altres elements en la mateixa programació que d'alguna manera contaminin la resposta"
Aquest és un dels reptes pendents més importants donada la repercussió que pot tenir en la vida de les persones. "És important tenir la possibilitat d'examinar i supervisar el codi d'aquests algoritmes, ja que es corre el risc d'incorporar, intencionalment o no, biaixos, prejudicis o altres elements en la mateixa programació que d'alguna manera contaminin la resposta", adverteix Martínez.
Tecnologia als tribunals
Un exemple controvertit és l'algoritme COMPAS, que fan servir, entre altres, els tribunals penals de l'estat de Wisconsin, als Estats Units, per a estimar el grau de perillositat i el risc de reincidència de l'acusat i així calcular la pena que se li ha d'imposar. Hi ha hagut acusacions, amb un cert grau de credibilitat, que l'algoritme discrimina determinats col·lectius, com ara els afroamericans, però no s'ha pogut demostrar ni desmentir perquè el codi no és accessible, atès que és propietat d'una empresa privada.
Els 1,3 milions de ciutadans d'Estònia ja utilitzen la targeta d'identitat nacional per a serveis en línia com ara la votació electrònica i la presentació d'impostos digitals. Per tant, la idea d'un jutge robot hi té moltes possibilitats de funcionar. Aquesta figura, gairebé provinent de la ciència-ficció, seria importable a Espanya? "Des del punt de vista tècnic, no hi ha cap diferència que els algoritmes de decisió artificial s'apliquin en un estat o en un altre; solament els caldria ajustar als continguts del sistema jurídic de cada lloc", assenyala el professor de la UOC.
Però, en tot això, hi ha un canvi de mentalitat. La ciutadania acceptaria ser jutjada per un robot? Martínez soste que "s'ha de tenir present la possible reticència tant dels professionals del dret com dels ciutadans a acceptar que un algoritme prengui decisions amb certa transcendència". Ara bé, l'eficiència i la rapidesa d'aquesta tecnologia podrien ajudar els tribunals. "Tenint en compte la manca de recursos suficients i la saturació dels òrgans judicials, es podria alleugerir derivant una part dels casos (els més mecànics o de tràmit) a sistemes de decisió automatitzada, cosa que podria tenir efectes positius", conclou l'expert.