- Rose Weissman: Estáis estudiando un máster?
- Una alumna de arte: Pues sí.
- R: Uf, no me lo puedo ni imaginar. Una vez tengáis el máster, que haréis con él?
- A: Perdón?
- R: Es que es muy valiente: Un máster! Estáis aprendiendo mucho. Qué haréis con todo este conocimiento?
- A: De qué estás hablando?
- R: Qué haréis cuando os graduéis?
- A: Hay muchas cosas que podemos hacer! Enseñar.
- R: Claro, enseñar. Dónde?
- A: Aquí, supongo.
- R: Pero aquí no hay ninguna profesora, todo son hombres.
- A: Es verdad, hay muchos hombres.
- R: Creo que TODOS son hombres.
- A1: Nunca me había dado cuenta.
- A2: Algunas queremos ser artistas. Yo lo quiero ser!
- R: Pero no hay muchas mujeres artistas. No en los Estados Unidos. Conocí algunas en París. Una lo dejó y ahora nadie sabe donde está. La otra se suicidó porque era mujer y nadie compraba sus cuadros. Intentó llamarse Bertum y ponerse un bombín, pero no funcionó.
Algunas haceis esto para encontrar marido, verdad? Mi hija fue a la universidad para eso. Bien, también quería hacer amigas e ir a las clases, pero su objetivo de verdad era conocer un hombre. Y lo consiguió. Después él la dejó, así que ahora tiene un trabajo de bajo nivel porque sólo consiguió un diploma en literatura rusa, pero no un máster.
- A1: Conocer un hombre no estaría mal.
- A2: Sí, supongo que sí.
- R: Pues si queréis conocer un hombre, este no es el lugar adecuado. La facultad de arte, no. Todo este edificio, tampoco. En cambio, la escuela de negocios, ese sí es el lugar correcto. Hay mucho para escoger y todos están estudiando cosas con potencial.
Espero que mis opiniones no os molesten, soy nueva en todo esto.
- A1: Para nada!
- A2: Sí, gracias, Rose!
"Hasta no hace mucho, los autores de los algoritmos eran los líderes religiosos. La costumbre era decir "la palabra de Dios" y eran reglas extremadamente persistentes, que duraban milenios porque eran muy difíciles de modificar"
Lo que acabáis de leer es el resultado de la ejecución de un algoritmo. Sí, también es un diálogo, concretamente del tercer capítulo de la segunda temporada de The marvelous Mrs. Maisel. Pasa en la ciudad de Nueva York los últimos años de la década de los cincuenta del siglo pasado. La señora Weissman pasa por una crisis que le pide hacer algo más que la vida social que le toca como esposa judía de clase media-alta. Abe Weissman -su marido- le sugiere que vaya de oyente a la facultad de arte de la universidad donde él hace de profesor de matemáticas. Un par de escenas después, el rector pide una reunión con el profesor Weissman: desde que su mujer va de oyente a la facultad de arte, un puñado de alumnas se han dado de baja y ahora tienen un problema, porque ahora el aula es medio vacía.
Rose Weissman recordó la existencia del algoritmo "es una mujer" en la versión de finales de los 50, que daba como resultado que no hubiera muchas, de mujeres, que se dedicaran al arte. Era bastante grave, porque el arte tiene una importancia tremenda para la sociedad. Pero era así. Lo decía el algoritmo.
Un algoritmo no es otra cosa que un conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada, resuelven un problema en un número finito de pasos elementales. Hasta no hace paso mucho, los autores de los algoritmos eran los líderes religiosos. La costumbre era decir "la palabra de Dios" y eran reglas extremadamente persistentes, que duraban milenios porque eran muy difíciles de modificar. Los algoritmos religiosos son tan poderosos, todavía hoy, que condicionan fuertemente el funcionamiento de los ordenadores. Por eso, en algunos países -y en 2019- cuando una mujer va a abrir una cuenta corriente, el banquero -que es un hombre- le dice "el ordenador no me deja si no tiene el permiso de su marido".
Quien más quien menos puede recordar un "el ordenador no me deja". Mi último fue cuando intenté añadir una línea telefónica al contrato familiar. El algoritmo obligaba a la operadora a rehacer el contrato por otro completamente nuevo y considerablemente más caro:
- Es que su contrato no existe y no se puede modifcar.
- Pero bien que lo facturáis cada mes.
- Lo hace el ordenador.
Intenté activar otro algoritmo, a ver si había suerte: pedí la baja. Funcionó. El algoritmo "el cliente se va" provocó que me telefoneara otra operadora ofreciéndome un descuento. El resultado era un precio tan razonable como el que era imposible conseguir con el algoritmo "añadir una línea telefónica al contrato". Dicen que estas cosas no pasan en las empresas niponas, porque sus religiones no usan muchas de nuestras reglas (o algoritmos) basadas en el error y el arrepentimiento.
"Siempre que alguien me dice "el ordenador no me deja", siempre pienso que es el nuevo "Dios no lo quiere"
Por todo ello, siempre que alguien me dice "el ordenador no me deja", siempre pienso que es el nuevo "Dios no lo quiere". Alguna vez se me ha escapado decirlo y el operador se ha ofendido; pasa que los caminos del Señor son inescrutables. Hay que decir que, a veces, he encontrado operadores pietosos que habían aprendido como saltarse el algoritmo, pero encontrarlos era algo totalmente imprevisible. Dependía del humor, de la hora, del cansancio, de los conocimientos, las ganas o cualquier otra variable. No era un algoritmo porque, recordémoslo, son conjuntos de reglas aplicadas sistemáticamente; era piedad humana arbitraria. Tengo la teoría que la arbitrariedad es, en realidad, consecuencia de la incompetencia; el operador es piedoso porque previamente alguien no ha hecho bien su trabajo.
La posibilidad, o no, de la piedad humana para compensar incompetencias, o no, es lo que me da la impresión que hay detrás del reciente miedo a los algoritmos de la inteligencia artificial. No encontraréis muchas críticas a los que provocaban los célebres "el ordenador no me deja" de toda la vida digital. En cambio, desde el surgimiento de la inteligencia artificial vivimos un festival continuo de críticas y de rechazo a los algoritmos informáticos.
Abro una crítica. Es la primera que muestra el buscador -que nadie se enfade. La introducción empieza diciendo que los algoritmos lo optimizan todo, salvan vidas, hacen las cosas más fáciles y conquistan el caos, PERO que los expertos están preocupados porque pondrá demasiado control encima de las corporaciones y los gobiernos, perpetuarán los sesgos, crearán burbujas de filtros, recortarán opciones, creatividad y serendipidad. También destruirán muchos puestos de trabajo. En el artículo, del Pew Research Center, también dedican suficiente espacio a los recientes errores de programación de los algoritmos.
En el fondo veo temor por la no intervención de humanos piedosos que hoy resuelven los casos "el ordenador no me deja". Creo que no se dan cuenta que los humanos piedosos continúan estando, pero en otro lugar. Ahora trabajan en software y no en atención directa a un solo cliente. Cuando detectan un error, lo solucionan programando. La solución -piedosa, porque no?- no sirve sólo para el cliente de turno, uno que lo ha encontrado de humor, a una buena hora, descansado, con conocimientos y ánimo para resolver ocasionalmente la incompetencia de alguien otro; la solución sirve para todo el mundo, desde aquel preciso momento, y para siempre. La inteligencia artificial puede tener que avisar de los errores antes de que no los sufra el cliente al detectar, por ejemplo, patrones erróneos de fidelización.
Esta, para mí, es la parte antes del "pero" en la introducción del artículo del Pew Research Center sobre las ventajas e inconvenientes de los algoritmos: optimizan cualquier cosa, salvan vidas, hacen las cosas más fáciles y conquistan el caos. Mientras tanto, lo que viene después del "pero" continúa mayoritariamente bajo el control de los algoritmos basados en la palabra de los dioses: el exceso de poder para las corporaciones y los gobiernos, los sesgos, las burbujas de filtros, la falta de opciones y los peligros para la creatividad y la serendipidad.
Desde los años 50, los algoritmos divinos han recibido pequeñas modificaciones que permiten -por ejemplo- que algunas mujeres se dediquen al arte, pero no por todas partes ni cobrando lo mismo que los hombres artistas. La edición 2019 del algoritmo que Rose Weissman explicaba a las alumnas de la facultad de arte todavía tiene errores. Sin ir más lejos: Marin Hinkle actriz, que hace de señora Rose Weissman, cobra menos que el actor Tony Shalhoub que hace de señor Abe Weissman.
Por todo ello, prefiero la inteligencia artificial a la estupidez natural.