Cuando el algoritmo habla, es el humano quien susurra

Hay una especie de encantamiento tecnológico, que la gran mayoría de las personas tratan como si tuvieran verdades incuestionables: los algoritmos. 

Para mucha gente, son como oráculos digitales, seres casi divinos que deciden qué es justo, qué es relevante o qué es necesario. Les atribuyen una infalibilidad que ni siquiera los humanos pueden tener. Pero la realidad es más prosaica: los algoritmos no son más que el eco de aquello que un grupo de personas ha escrito. Y, como cualquier eco, amplifican las voces de sus creadores, con todas sus contradicciones, intereses, sesgos y prejuicios.

Lo que diré ahora puede parecer demasiado evidente, pero es necesario repetirlo: los algoritmos son solo un conjunto de instrucciones matemáticas escritas por programadores que han alterado la receta para que el resultado sea el que les gusta. Decisiones que responden a objetivos concretos, ya sea maximizar beneficios, aumentar el tiempo de visualización, o determinar quién merece una hipoteca. Estas instrucciones son fruto de una mesa de despacho, a menudo dominada por un grupo de hombres que se dan palmaditas en la espalda y toman decisiones según los intereses de quien preside la mesa del despacho. 

Cuando atribuimos decisiones "al algoritmo", nos estamos eximiendo de responsabilidad. Diciendo que "¡Oh! ¡Oráculo! El algoritmo ha hablado", los eximimos de competencia. El algoritmo no decide nada por sí solo. Es un mensajero ciego, cojo, sordo y mudo. Es como cuando decimos que "el archivo está en la nube" y queremos decir que está en un ordenador en casa de otro, pero no suena tan romántico como una cosita suave impertérrita y que no contamina.

"El algoritmo no decide nada por sí solo; es un mensajero ciego, cojo, sordo y mudo"

Si un algoritmo (o red neuronal, entiéndanme la simplificación) decide que tus contenidos no lleguen al público, no es porque el código tenga criterio, sino porque alguien, con nombre y apellidos, decidió unas reglas del juego que determinan este resultado. No partiendo de TI sino de gente COMO TÚ. Al grupo, al montón.

Si un contenido incendiario o polarizador aparece primero en tu muro de X, no es por azar, sino porque alguien decidió que era más rentable maximizar tu atención a costa de tu serenidad. ¿Es magia? No. Es matemática aplicada a intereses concretos.

Otros ejemplos históricos donde podemos ver hoy las consecuencias pueden ser cuando YouTube comenzó a priorizar los vídeos largos (más de 10 minutos) para monetizarlos mejor, y creadores como ElRubius o Vegeta777 triunfaron, mientras otros formatos quedaron relegados. O cuando Instagram, que había nacido como una red para compartir fotografías, decidió competir con Musically (ahora llamada TikTok) creando los reels y relegó las imágenes estáticas a un segundo plano. 

No son cambios casuales ni decisiones espontáneas de "el algoritmo". Son estrategias premeditadas para captar la atención y aumentar ingresos. Y no solo se trata de redes sociales. ¿Podemos confiar en un sistema que penaliza una dirección postal porque está en un barrio "poco rentable"? ¿O que discrimina género o edad porque así "optimiza" resultados? Así se acaban ganando elecciones o criterios vitales.