Tech 4 Good, Tech 4 Bad

Hace pocos días, el ejército israelí abatió un pequeño dron iraní que había entrado a territorio de Israel. No está claro si era un dron-espia, o traía algún tipo de arma. Netanyahu, primer ministro israelí mostró públicamente, amenazando, un fragmento de este dron ante representantes iraníes. Este es un ejemplo de como una tecnología emergente puede acontecer una arma letal. La combinación de drons e inteligencia artificial tiene una capacidad destructiva inimaginable.

Hace poco, el Future of Life Institute, fundación dedicada a fomentar el buen uso de la tecnología, popularizó un vídeo que se hizo viral. En él, se visualizaban enjambres de pequeños drons, de una medida similar a la de un puño, portadores de una pequeña carga explosiva. Miles de estos drons eran liberados sobre una ciudad, y, con sistemas de visión artificial y reconocimiento facial, mataban selectivamente. Sus sistemas de inteligencia artificial permitían seleccionar las víctimas. Por ejemplo, hombres mayores de 18 años con aspecto asiático, o europeo, y tendencias políticas determinadas. La tecnología permite reconocer una cara, identificarla en las redes sociales, analizar sus comentarios en estas, y, si se da el caso, poner el dron sobre su cabeza y explosionarlo. El objetivo del vídeo era sensibilizar a las Naciones Unidas sobre la necesidad de prohibir el uso de armas autónomas basadas en inteligencia artificial, dispositivos que dejan obsoletas las mismas armas nucleares.

Hay quién afirma que la tecnología nos ha hecho humanos. La capacidad de nuestros antepasados primates de utilizar herramientas cada vez más sofisticadas, de transmitir el conocimiento vía cultural (más allá de la herencia biológica), y de organizarse para abordar tareas complejas permitió la supervivencia y la emergencia de nuestra especie. La tecnología, el conocimiento puesto en acción, es hoy una fuente liberadora de recursos. En pleno siglo XXI, el control de diferentes tecnologías nos acerca a un escenario de abundancia. Técnicamente, podríamos tener casi de todo para mantener, en condiciones dignas y respetuosas medioambientalmente, a toda la población humana.

"La tecnología, el conocimiento puesto en acción, es hoy una fuente liberadora de recursos"

 

Aun así, la revolución tecnológica nos trae nuevas e inquietantes amenazas. La digitalización del mundo, y la interconexión global, generan escenarios inesperados hasta hace poco. Hoy sabemos que grandes plataformas digitales, como Facebook, alimentadas por inteligencia artificial, tienen el potencial de identificar perfiles personales y utilizar esta información por determinados usos. Por ejemplo, pueden identificar qué usuarios pueden ser propensos a comprar un determinado producto. O qué ciudadanos de una determinada zona están posiblemente indecisos ante unas elecciones, y podrían inyectar material publicitario para inducir una compra, o decantar un voto en un sentido determinado. Millones de americanos estuvieron expuestos a material político introducido en las redes sociales por agentes rusos, entre 2015 y 2017, para alterar la opinión pública y el sentido de las elecciones.

La tecnología tendrá que generar nueva tecnología para controlar la misma tecnología. Nos podemos imaginar un futuro de movilidad autoconduïda, donde el sistema de control de los vehículos sea hackejat por un pirata informático, que ordene a los coches atropellar todo el que se mueva? O sistemas sanitarios inteligentes en una población, donde las personas dispongan de chips de control y de dosificación de medicamentos, controlados por terroristas?

"El poder acumulado por el grupo llamado GAFA (Google, Amazon, Facebook y Apple) es immesurable"

 

Para no hablar del impacto del cambio tecnológico en la economía y la sociedad. En palabras de Marietje Schaake, europarlamentaria holandesa, "la revolución digital ha traído una redistribución del poder, pero no del rendimiento de cuentas. Las empresas digitales globales son los nuevos soberanos". Efectivamente, el poder acumulado por el grupo llamado GAFA (Google, Amazon, Facebook y Apple) es immesurable. La nueva economía está gobernada por plataformas omnipresentes, alimentadas por billones de dólares de inteligencia artificial, que están construyendo ventajas competitivas imbatibles. Plataformas que pronto serán cognitivas: nos podremos relacionar con ellas con voz.

Pronto, empezaremos a ver avatares digitales por todas partes (sistemas de inteligencia artificial con apariencia totalmente humana). Serán nuestro asistente personal, nuestro médico, nuestro abogado, psicólogo, gestor administrativo. O nuestra cabeza. O, incluso nuestro mejor amigo: desarrollaremos vínculos emocionales con ellos. Al fin, no nos generan dependencia ya las redes sociales? Tecnología por el bien, o por el mal? Tech 4 Good oro Tech 4 Bad?

De todo esto hablaremos con los amigos de Ship2B, en Xavier Pont y la Leonora Buckland este miércoles 28 de febrero al 4YFN.