Un equipo de científicos ha desarrollado HACE*IR, uno un algoritmo para evitar la discriminación en la busca de personas online, que permitirá impedir agravios en portales de busca de trabajo o de pareja por razones de género, procedencia o apariencia física.
Este grupo multidisciplinar de la Unidad de Fecha Science del centro tecnológico Eurecat (miembro de Tecnio), conjuntamente con la Universitat Pompeu Fabra y la Universidad Técnica de Berlín, ha estudiado datos de ofertas de trabajo, de reincidencia de presos y rankings de admisión a las universidades para detectar patrones de discriminación en directorios digitales que pueden favorecer o relegar ciertos colectivos.
Según explica el investigador Carlos Castillo, director de la Unidad de Fecha Science de Eurecat e integrante del proyecto, cada vez son más comunes los "motores de busca en que los ítems que se buscan no son páginas web sino personas". En palabras del investigador, esto puede favorecer "patrones discriminatorios, aprendidos por algoritmos que no están programados para compensar o corregir los prejuicios humanos".
Castillo pone como ejemplo el caso de un portal de trabajo y explica que "si hay 100 perfiles de hombres y mujeres igualmente cualificados y en los primeros resultados del buscador sóloaparecen hombres, tenemos un problema". Para evitarlo, los investigadores de HACE*IR han creado un algoritmo de busca que incorpora "un mecanismo de acción positiva", para "reorganizar los resultados y evitar la discriminación sin afectar la validez del ranking".
Reconocimiento y segunda fase
El proyecto HACE*IR ha sido uno de los ganadores de las becas que otorga anualmente la comunidad Data Transparency Lab, que promueve la transparencia y la protección de los datos a Internet mediante soluciones innovadoras. En concreto, lo Data Transparency Lab ha otorgado 50.000 euros que permitirán a los investigadores iniciar la segunda fase del proyecto, en que se desarrollará una "herramienta de busca justa", basada en el algoritmo antidiscriminació ya diseñado.
El Fecha Transparency Lab es una entidad formada por investigadores, tecnólogos, representantes públicos y empresas que tiene entre sus objetivos crear conciencia entre los internautas sobre la privacitat de sus datos. Entre sus promotores hay empresas como Telefónica y Mozilla y el grupo de investigación Connection Science del MIT.