¿Ha vuelto la magia?

La humanidad estuvo durante milenios conviviendo con hechos inexplicables y en su afán por entender el mundo acabó recurriendo en muchos casos a lo mágico y lo divino. Los vikingos creían que las auroras boreales eran el reflejo de las armaduras de las valquirias, para los mayas y aztecas un eclipse era el peor de los augurios, y en muchas culturas se ha invocado a los dioses cuando se ha necesitado lluvia. Hasta que llegó la ciencia. El método científico aplica la observación y la experimentación, rechaza cualquier acto de fe y consolida el conocimiento mediante teorías que deben poder ser comprobadas, reproducidas y revisadas por pares. Con este rigor Copérnico expulsó a la Tierra del centro del Universo, Darwin expulsó al ser humano del centro de la evolución, y en general la ciencia expulsó lo divino del centro del conocimiento.

Estos días estamos asistiendo al impetuoso y espectacular desarrollo de los sistemas de inteligencia artificial. Más allá del popular ChatGPT, orientado a procesar lenguaje y generar respuestas coherentes, hay otra multitud de sistemas que ya están presentes en la toma de decisiones de muchos aspectos de nuestro día a día, unos más consolidados como los que apoyan la decisión en inversiones financieras, elaboran modelos climatológicos o analizan imágenes médicas para realizar diagnósticos, y otros todavía incipientes como los que dicen que acabarán sustituyendo abogados o incluso jueces.

Es ilusionante a la vez que inquietante. Hay oportunidades evidentes, pero también riesgos ante los más que previsibles malos usos. Italia ya ha prohibido ChatGPT por no disponer de medidas contra el acceso de menores ni garantías en el respeto a los derechos de autor. Un número significativo de investigadores, científicos y empresarios consideran que se ha entrado en una carrera fuera de control que está poniendo en riesgo la sociedad y la humanidad, y han firmado una carta abierta reclamando pararlo todo durante al menos seis meses para concentrarse en legislar y ordenar los usos de esta tecnología, como ya hemos hecho con la nuclear o con la modificación genética de humanos.

"Se desconoce lo que sucede dentro de esa caja negra en que se ha convertido la inteligencia artificial"

La carta reconoce que con la inteligencia artificial hemos llegado a un punto en el que ni los propios creadores de estos sistemas son capaces de entender, predecir y controlar cómo logran sus resultados. Se conocen los principios básicos, pero llevará mucho tiempo y esfuerzo saber qué hace cada capa de una red neuronal. Se hacen experimentos ciegos de los cuales ya se conoce la respuesta la cual cosa permite validar que los sistemas dan respuestas válidas, pero se desconoce lo que sucede dentro de esa caja negra en que se ha convertido la inteligencia artificial.

Es decir, estamos logrando resultados científicos sin respetar algunos de los sagrados preceptos del método científico. Hay resultados que no somos capaces de entender del todo ¿Podemos aceptar un conocimiento que no se basa del todo en el método científico? ¿Volveremos a aceptar la magia como respuesta? Puede que estemos ante un punto de inflexión de la historia.