IA y democracia dejadas

Las redes sociales ya no son lo que eran. Google ya no es lo que era. Internet ya no es lo que era. Todo se ha embarrado. Perdonen la palabra, pero es el término académico que se utiliza para describir el fenómeno por el cual los productos y servicios en línea se degradan a medida que pasa el tiempo. 

En un principio, los proveedores en línea crean servicios de alto valor añadido, generalmente de forma gratuita, que así logran atraer a muchos usuarios. Piensen en Google, Facebook o Instagram. Poco a poco, el servicio se va degradando —con publicidad, abuso de los términos de uso, disminución de funcionalidades— hasta que resulta inservible. Si queremos recuperar su utilidad solo podemos hacerlo pagando. El término fue acuñado por el escritor canadiense Cory Doctorow en noviembre de 2022.

Cuando te pones gafas por primera vez te das cuenta de que todo el mundo las lleva. Pues con la merdificación pasa lo mismo: una vez que conoces el fenómeno, lo ves por todas partes.

La última ola de la merdificación de internet afecta al contenido. Cada vez más de lo que encontramos está creado con IA generativa; traducciones automáticas, textos de ChatGPT, ilustraciones (que no lo son) hechas con Midjourney o música generada con Suno o Udio. Observen que utilizo el verbo generar y no crear —generar es solo una parte del proceso de escribir, dibujar o componer—. Y como estamos en un entorno de mierda, la calidad del contenido generado es entre baja y muy baja sin que eso sea importante. Este tipo de contenido se conoce como AI slop, que podríamos traducir como IA dejada.

Si quieres saber más

 

   

Josep M. Ganyet-'Teletienda' en la Casa Blanca

El término hace referencia al aluvión de contenido generado por IA de baja calidad: desde correos basura escritos automáticamente e imágenes engañosas hasta vídeos y audio falsificados. El resultado es que cantidades ingentes de IA dejada inundan los canales de información y ahogan el contenido genuino de fuentes autorizadas. Los periodistas no pueden competir contra las granjas de creación de contenido, que pueden producir texto e imágenes a raudales con IA.

"Como estamos en un entorno de mierda, la calidad del contenido generado es entre baja y muy baja sin que eso sea importante"

Los ejemplos son incontables, especialmente en el ámbito político donde la IA se ha convertido en un arma de desinformación masiva. La campaña presidencial de Estados Unidos ya fue un festival, pero ha sido la llegada del Grok de X la que lo ha llevado a otro nivel. Gratis para todos los usuarios de la plataforma, no tiene ninguna limitación ni salvaguarda; permite generar cualquier tipo de imagen aunque sea derogatoria para una persona o grupo. Si a alguien le hacía falta un empujón para utilizar la realidad como arma, Musk acaba de subirlo a lo más alto del Dragon Khan.

Una de las principales víctimas de la proliferación de la IA dejada es la confianza en lo que los medios de comunicación nos muestran como realidad. Para entendernos, si mañana el Vaticano publicara una foto real del Papa Francisco vestido de Balenciaga, no nos lo creeríamos porque ya hemos visto una imagen que ha resultado ser IA dejada. El simple hecho de saber que las imágenes pueden ser generadas por IA hace que de manera preventiva descartemos imágenes y vídeos genuinos. 

Elon Musk ha transformado por completo X | EP

Y cuando la verdad y la mentira se vuelven indistinguibles a los ojos de los limpios de corazón, gana el más maligno, que se aprovecha de la duda razonable para cubrir sus mentiras. Es lo que se conoce como “el dividendo del mentiroso” y que vemos día sí día también en la práctica. En Catalunya lo hemos sufrido en carne propia: a pesar de la infinidad de filmaciones de la policía española golpeando a votantes, las autoridades se esforzaron por desacreditar algunos montajes burdos con el objetivo de extender la duda a las imágenes genuinas. “Generado con IA” se ha convertido en el comodín del mentiroso.

Si no se combate, el aumento de la IA dejada puede suponer una amenaza seria para la democracia. Un exceso de contenido falso o engañoso puede erosionar el pensamiento crítico. Los votantes bombardeados con historias o imágenes falsas convincentes pueden encontrarse cada vez más indefensos a la hora de discernir lo que es cierto de lo que no, una tarea que requiere cada vez más esfuerzo, y pueden optar por dejarlo estar. Esto abre la puerta para que narrativas extremas y teorías de la conspiración arraiguen y crezcan: las refutaciones, por definición, mucho más costosas de elaborar, quedan en el fondo. En segundo lugar, la capacidad de producir desinformación a escala, personalizada y microorientada mediante algoritmos, significa que la manipulación de los votantes es más fácil —y barata— que nunca. 

"Cuando la verdad y la mentira se vuelven indistinguibles a los ojos de los limpios de corazón, gana el más maligno"

La democracia se basa en la realidad compartida: un acuerdo común sobre hechos y pruebas. Si no podemos confiar en lo que leemos, vemos o escuchamos, ¿cómo podemos decidir colectivamente cualquier cosa? Parecería que no hay solución, pero la hay, y viene del lugar más inimaginable posible: de Elon Musk.

Musk compró Twitter sin saber muy bien por qué lo hacía más allá de la machada de hacerse el machote en la red diciendo que podía hacerlo. Después se dio cuenta —nos dimos cuenta— de cómo podía influir en la conversación global llenando primero X de mierda —readmitiendo nazis y conspiranoicos— y luego permitiendo que sus usuarios embarraran internet con sus creaciones de IA dejada. Sin darse cuenta —sin darnos cuenta— su dedo nos mostró el camino, que no es otro que nos compremos también un medio cada uno de nosotros.

Sí, ya sé que no todo el mundo tiene 44.000 millones en el bolsillo para comprar Twitter, pero sí que todos tienen un eurito al mes, o 60 al año para una suscripción a un boletín de Substack, al digital de la comarca, a su diario nacional de referencia o al internacional que les haga más rabia.