Tech 4 Good, Tech 4 Bad

Fa pocs dies, l'exèrcit israelià va abatre un petit dron iranià que havia entrat a territori d'Israel. No està clar si era un dron-espia, o portava algun tipus d'arma. Netanyahu, primer ministre israelià va mostrar públicament, amenaçant, un fragment d'aquest dron davant representants iranians. Aquest és un exemple de com una tecnologia emergent pot esdevenir una arma letal. La combinació de drons i intel·ligència artificial té una capacitat destructiva inimaginable.

Fa poc, el Future of Life Institute, fundació dedicada a fomentar el bon ús de la tecnologia, va popularitzar un vídeo que es va fer viral. En ell, es visualitzaven eixams de petits drons, d'una mida similar a la d'un puny, portadors d'una petita càrrega explosiva. Milers d'aquests drons eren alliberats sobre una ciutat, i, amb sistemes de visió artificial i reconeixement facial, mataven selectivament. Els seus sistemes d'intel·ligència artificial permetien seleccionar les víctimes. Per exemple, homes majors de 18 anys amb aspecte asiàtic, o europeu, i tendències polítiques determinades. La tecnologia permet reconèixer una cara, identificar-la a les xarxes socials, analitzar els seus comentaris en aquestes, i, si es dóna el cas, posar el dron sobre el seu cap i fer-lo explotar. L'objectiu del vídeo era sensibilitzar a les Nacions Unides sobre la necessitat de prohibir l'ús d'armes autònomes basades en intel·ligència artificial, dispositius que deixen obsoletes les mateixes armes nuclears.

Hi ha qui afirma que la tecnologia ens ha fet humans. La capacitat dels nostres avantpassats primats d'utilitzar eines cada cop més sofisticades, de transmetre el coneixement via cultural (més enllà de l'herència biològica), i d'organitzar-se per abordar tasques complexes va permetre la supervivència i l'emergència de la nostra espècie. La tecnologia, el coneixement posat en acció, és avui una font alliberadora de recursos. En ple segle XXI, el control de diferents tecnologies ens apropa a un escenari d'abundància. Tècnicament, podríem tenir gairebé de tot per mantenir, en condicions dignes i respectuoses mediambientalment, a tota la població humana.

"La tecnologia, el coneixement posat en acció, és avui una font alliberadora de recursos"

Tanmateix, la revolució tecnològica ens porta noves i inquietants amenaces. La digitalització del món, i la interconnexió global, generen escenaris inesperats fins fa poc. Avui sabem que grans plataformes digitals, com Facebook, alimentades per intel·ligència artificial, tenen el potencial d'identificar perfils personals i utilitzar aquesta informació per determinats usos. Per exemple, poden identificar quins usuaris poden ser propensos a comprar un determinat producte. O quins ciutadans d'una determinada zona estan possiblement indecisos davant unes eleccions, i podrien injectar material publicitari per induir una compra, o decantar un vot en un sentit determinat. Milions d'americans van estar exposats a material polític introduït a les xarxes socials per agents russos, entre 2015 i 2017, per alterar l'opinió pública i el sentit de les eleccions.

La tecnologia haurà de generar nova tecnologia per controlar la mateixa tecnologia. Ens podem imaginar un futur de mobilitat autoconduïda, on el sistema de control dels vehicles sigui hackejat per un pirata informàtic, que ordeni als cotxes atropellar tot el que es mogui? O sistemes sanitaris intel·ligents en una població, on les persones disposin de xips de control i de dosificació de medicaments, controlats per terroristes?

"El poder acumulat pel grup anomenat GAFA (Google, Amazon, Facebook i Apple) és immesurable"

Per no parlar de l'impacte del canvi tecnològic en l'economia i la societat. En paraules de Marietje Schaake, europarlamentària holandesa, "la revolució digital ha portat una redistribució del poder, però no del rendiment de comptes. Les empreses digitals globals són els nous sobirans". Efectivament, el poder acumulat pel grup anomenat GAFA (Google, Amazon, Facebook i Apple) és immesurable. La nova economia està governada per plataformes omnipresents, alimentades per bilions de dòlars d'intel·ligència artificial, que estan construint avantatges competitius imbatibles. Plataformes que aviat seran cognitives: ens podrem relacionar amb elles amb veu.

Aviat, començarem a veure avatars digitals per tot arreu (sistemes d'intel·ligència artificial amb aparença totalment humana). Seran el nostre assistent personal, el nostre metge, el nostre advocat, psicòleg, gestor administratiu. O el nostre cap. O, fins i tot el nostre millor amic: desenvoluparem vincles emocionals amb ells. A la fi, no ens generen dependència ja les xarxes socials? Tecnologia pel bé, o pel mal? Tech 4 Good or Tech 4 Bad?

De tot això parlarem amb els amics de Ship2B, en Xavier Pont i la Leonora Buckland aquest dimecres 28 de febrer  al 4YFN.