Un equip de científics ha desenvolupat FA*IR, un un algoritme per evitar la discriminació en la cerca de persones online, que permetrà impedir greuges en portals de cerca de feina o de parella per raons de gènere, procedència o aparença física.
Aquest grup multidisciplinar de la Unitat de Data Science del centre tecnològic Eurecat (membre de Tecnio), conjuntament amb la Universitat Pompeu Fabra i la Universitat Tècnica de Berlín, ha estudiat dades d’ofertes de feina, de reincidència de presos i rànquings d’admissió a les universitats per detectar patrons de discriminació en directoris digitals que poden afavorir o relegar certs col·lectius.
Segons explica l’investigador Carlos Castillo, director de la Unitat de Data Science d’Eurecat i integrant del projecte, cada cop són més comuns els “motors de cerca en què els ítems que es busquen no són pàgines web sinó persones”. En paraules de l’investigador, això pot afavorir “patrons discriminatoris, apresos per algoritmes que no estan programats per compensar o corregir els prejudicis humans”.
Castillo posa com a exemple el cas d’un portal de feina i explica que “si hi ha 100 perfils d’homes i dones igualment qualificats i en els primers resultats del cercador només hi apareixen homes, tenim un problema”. Per evitar-ho, els investigadors de FA*IR han creat un algoritme de cerca que incorpora “un mecanisme d’acció positiva”, per “reorganitzar els resultats i evitar la discriminació sense afectar la validesa del rànquing”.
Reconeixement i segona fase
El projecte FA*IR ha estat un dels guanyadors de les beques que atorga anualment la comunitat Data Transparency Lab, que promou la transparència i la protecció de les dades a Internet mitjançant solucions innovadores. En concret, el Data Transparency Lab ha atorgat 50.000 euros que permetran als investigadors iniciar la segona fase del projecte, en què es desenvoluparà una “eina de cerca justa”, basada en l’algorisme antidiscriminació ja dissenyat.
El Data Transparency Lab és una entitat formada per investigadors, tecnòlegs, representants públics i empreses que té entre els seus objectius crear consciència entre els internautes sobre la privacitat de les seves dades. Entre els seus promotors hi ha empreses com Telefònica i Mozilla i el grup de recerca Connection Science del MIT.