IA, edición, traducción, lección

El lunes y martes tuvo lugar en el auditorio del edificio de Balmes de la UPF el octavo encuentro del Fòrum Edita que reúne el mundo editorial del Estado. Las jornadas han contado con expertos del sector que se han cerrado tres días a hablar sobre el futuro, aquello que por definición no llega nunca y que siempre cambia. A pesar de que el libro en formato papel continúa siendo la mejor interfaz a la hora de leer, a cada nueva revolución tecnológica le han cantado las absueltas. Parecía que el ordenador personal lo haría obsoleto, después llegó la web, el Kindle, TikTok, y… nada. Me recuerda aquel chiste gráfico donde un libro "hijo" le preguntaba a su "padre" que qué era aquello que tenían delante. El padre le respondía que era un Kindle, un invento llegado del futuro para exterminarlos, pero que no había conseguido su objetivo.

Si en ediciones anteriores del Fòrum Edita la amenaza venía de Amazon o de TikTok; este año, cómo no podía ser de otra forma, venía de la IA en general, y de ChatGPT en particular. Tuve el placer de asistir como oyente y como invitado a hablar sobre la IA y el impacto en el mundo editorial. La sesión era en catalán y para los asistentes españoles había habilitado un servicio de interpretación al castellano.

Cómo siempre empecé con la ya habitual "exención de responsabilidades"; que yo no sé cómo será el futuro y que la opinión de cualquier experto es tan buena o tan mala cómo la de cualquiera de los presentes. Una buena excusa para comenzar el diálogo es preguntarse si "la IA puede ser creativa" que es muy fácil de preguntar y muy difícil de responder, más que nada porque la pregunta no tiene ningún sentido cómo veremos más adelante.

"Nos preocupamos tanto por el impacto de la inteligencia artificial que no vemos el de la estupidez natural"

Siempre va bien empezar desautorizando los Harari, Bostrom, Yudkowsky y otros jinetes del Apocalipsis, más interesados en vender libros y que los contraten para hacer conferencias, que informar de lo que realmente pasa. También va bien desmitificar el ChatGPT en el inicio de la charla. Para la gran mayoría su primero y único contacto consciente con la IA ha sido con el ChatGPT. Conviene dejar claro que ni toda la IA es ChatGPT ni todo lo que hay en ChatGPT es IA.

Nos preocupamos por el impacto de la IA en nuestra vida sin ser conscientes que los algoritmos de selección de contenidos y recomendación de Twitter, Facebook, Instagram, TikTok, Netflix y Spotify ya lo hacen. Nos preocupamos tanto por el impacto de la inteligencia artificial que no vemos el de la estupidez natural. Y la combinación es letal; es el asalto al Capitolio, el terraplanismo, el negacionismo climático y todas las teorías de la conspiración que corren. Para estar al día podéis seguir Negacionistas Out of Context en Twitter (la última es que unos láseres desde los satélites van provocando incendios en el mundo, pero que si pintáis los tejados de color azul los podéis repeler, por eso los chinos pintan los suyos y los cascos de los soldados de la ONU son azules).

La manera de entender bien la IA generativa es compararla con el texto predictivo del móvil. Los grandes modelos de lenguaje se crean a partir de todos los textos con la que una red neuronal profunda ha sido entrenada; entre otros, con los textos de Wikipedia, de Twitter, de libros, de blogs, de Forocoches y todo lo que el robot de OpenAI ha podido leer de webs en abierto (recientemente el New York Times le ha prohibido el acceso a sus contenidos y prepara una demanda contra OpenAI que podría implicar tener que borrar el ChatGPT). Una vez entrenada —un proceso muy costoso solo al alcance de los grandes— es capaz de encontrar correlaciones que a nosotros se nos escaparían. Es por eso que ChatGPT es capaz de generar una palabra detrás de otra hasta llegar a componer textos semánticamente muy bien construidos. Cómo que esta capacidad era hasta no hace demasiado exclusivamente humana, de manera inconsciente —en los dos sentidos del término— atribuimos a estos sistemas una inteligencia que no tienen.

Que estos grandes modelos de lenguaje sean capaces de establecer correlaciones entre datos y como consecuencia generar textos (o imágenes o música) no quiere decir que sepan lo que hacen. De hecho, cómo que no tienen ningún conocimiento del mundo no saben qué es un texto, ni una imagen, ni quién era Mercè Rodoreda o Micky Mouse. En general no saben qué es "saber" y, por lo tanto, no saben que no saben nada. Por eso no tienen ningún problema en "inventarse" textos; de hecho, para ellos son un texto más, el concepto de verdad no lo tienen. Precisamente hablaba con un editor catalán que me lo explicaba: "El ChatGPT se inventa cosas. Le pedí que me buscara críticas en diarios de los EE.UU. de un libro editado en 1939 y algunas se las inventó". Observáis, además de la antropomorfización, el mal uso de la palabra "buscar". ¡Cómo si ChatGPT fuera un Google avanzado!

"Que estos grandes modelos de lenguaje sean capaces de establecer correlaciones entre datos y como consecuencia generar textos (o imágenes o música) no quiere decir que sepan lo que hacen"

Llegados a este punto ya os habréis dado cuenta de que la pregunta de si "la IA puede ser creativa" no tiene ningún sentido. Si hacemos, en cambio, la pregunta correcta —"¿Podemos ser más creativos con el uso de la IA?" La respuesta es un claro y rotundo sí. La IA, las máquinas en general, no tienen agencia, no tienen objetivos; somos las personas las que se los damos.

Después de la introducción siempre pongo el vídeo del tiktoker Jarred Jermaine de la canción de Shakira para ilustrar que la creatividad en los humanos funciona copiando, transformando y combinando, y que quizás no somos tan diferentes del ChatGPT. Mi intervención prosiguió con una conversación muy interesante con el doctor y catedrático Javier Aparicio Maydeu. Uno de los temas fue el impacto de la IA en el mundo editorial y el efecto en toda la cadena de valor. A pesar de ser un reputado autor;) no conozco bastante bien el negocio editorial para atreverme a hacer predicciones. El comodín siempre es hablar de cómo tendríamos que dejar de pensar en nuestras faenas como monolíticas y pensar en tareas. De estas, muchas son cognitivas y adaptativas y otras cognitivas y repetitivas. Entre las primeras hay la toma de decisiones y entre las segundas las de enviar correos y wasaps para montar una reunión. Sencillamente, todos los trabajos robóticos que hacemos al cabo del día los tendríamos que dejar a las máquinas —no se cansan ni se equivocan—. En cambio, nos tendríamos que quedar con las que nos hacen humanos y en las que somos insustituibles. Pensad en cómo querríais recibir un diagnóstico de una dolencia, si por WhatsApp, o que os lo explicara un médico mirándoos a los ojos. Por mucho que nos tranquilice saber que no tenemos ningún sistema de IA realmente inteligente, el impacto en nuestros trabajos está: los móviles son de todo menos inteligentes y observad cómo han cambiado nuestra manera de hacer y de ser.

"Pensad en cómo querríais recibir un diagnóstico de una dolencia, si por WhatsApp, o que os lo explicara un médico mirándoos a los ojos"

Tengo que decir que me lo pasé muy bien, que la gente del mundo editorial son gente simpática y muy leída, y parece que mi concurrencia gustó. Entre la gente que al terminal me felicitó hubo una chica que lo hizo de manera especialmente efusiva. Me dijo que le había gustado mucho, que la intervención había sido muy didáctica, que no se le había escapado nada, excepto alguna referencia a algún nombre propio, que lo había entendido todo y, más importante, que había aprendido mucho. Le había gustado especialmente la parte que hacía énfasis en el hecho que nos teníamos que dedicar a hacer los trabajos que nos hacen humanos, que son las que las máquinas no saben hacer. Era la traductora simultánea de la conferencia.

También me explicó que Zoom nos había regalado conferencias a todos durante la pandemia y que ahora, con lo que había aprendido su IA, ofrecía servicios de interpretación automática en su plataforma y que ya empezaba a mirar de cambiar de trabajo. Ya lo he añadido a mi presentación.