• Opinió
  • IA, estupidesa natural o com vaig aprendre a estimar la bomba

IA, estupidesa natural o com vaig aprendre a estimar la bomba

05 de Setembre de 2019
Act. 05 de Setembre de 2019
Josep Maria Ganyet | VIA Empresa

“Ho tinc. Ho tinc. Per què no els tirem una bomba nuclear? Es comença a formar a les costes d’Àfrica, i mentre viatja per l’Atlàntic li tirem la bomba a l’ull de l’huracà i així el pertorbem. Per què no ho podem fer?”

Aquesta frase la va pronunciar Donald Trump a la Casa Blanca en un dels briefings sobre l’estat dels huracans als EUA. Ho sabem per una font anònima present a la reunió segons n’informa Axios. No seria la primera vegada que l’inefable president suggereix aital mesura. Un memoràndum d’una reunió del Consell Nacional de Seguretat (NSC) del 2017 descriu una conversa on Trump s’expressa en termes similars. El fet que el mateix Trump es prengui la molèstia de respondre a la informació des del seu compte de Twitter qualificant-la de FAKE NEWS (what else?) hi afegeix credibilitat.

"El fet que Trump es prengui la molèstia de respondre a la informació des del seu compte de Twitter qualificant-la de FAKE NEWS (what else?) hi afegeix credibilitat"

Bàsicament tirar una bomba atòmica a un huracà és una mala idea per tres motius: 1) la quantitat d’energia necessària per alterar un huracà, la NOAA estima que la calor alliberada per un huracà és l’equivalent a una bomba atòmica de 10 megatones cada 20 minuts; 2) els tractats internacionals limiten les explosions nuclears per a usos no militars a 150 quilotones, per evitar casos com aquest; i 3) el petit detall de la pluja radioactiva que provocaria la detonació que arribaria a terra amb el vent del que quedés de l’huracà.

Aquest mateix president, que manté la innocència d’un nen de primària, és el mateix que tindria uns sis minuts per decidir el destí de la humanitat en cas d’un atac nuclear. La tecnologia i les telecomunicacions han comprimit el temps; el temps informatiu, el temps polític, el temps cultural, també el temps militar. Als 1950 els bombarders soviètics trigaven hores a arribar a un objectiu dels EUA, als 60s amb els míssils, fins a 30 minuts que es van reduir a 15 amb els submarins nuclears. Amb les armes hipersòniques actuals (20 Mach) el temps s’ha reduït a cap de sis minuts com a molt. Sis minuts que tindria el president per a decidir què fer d'acord amb uns protocols (algorismes) preestablerts. Fins i tot podria passar que un atac d’aquest tipus arribés al seu objectiu abans que el sistema de defensa nord-americà NC3 pogués respondre.

"La tecnologia i les telecomunicacions han comprimit el temps; informatiu, polític, cultural, també militar"

A War on the Rocks, mitjà rigorós i imparcial que informa sobre seguretat i defensa, el Dr. Adam Lowther (director de Recerca i Educació de l’Institut Tecnològic de Louisiana) i Curtis McGiffin (coronel retirat de l’Aire i degà de l’Escola d’Estudis Estratègics de Força) proposen com a solució donar el control del botó vermell a un sistema d’intel·ligència artificial. “Potser cal desenvolupar un sistema basat en intel·ligència artificial, amb decisions de resposta predeterminades, que detecti, decideixi i dirigeixi forces estratègiques amb tanta velocitat que el repte de compressió en temps d'atac no situï els EUA en una posició impossible."

Llegir això em remet ineludiblement la reacció de HAL als dubtes dels astronautes a 2001, Una Odissea de l’Espai, la impossibilitat de parar l’atac nuclear de Dr. Strangelove, i a l’ordinador que juga un joc de guerra real de Jocs de Guerra. Però no només el cinema ha explorat aquests escenaris, la realitat també ho ha fet.

El 26 de setembre del 1983 el Tinent-Coronel Stanislav Petrov era l’oficial de guàrdia a càrrec del sistema automàtic de defensa aèria soviètica. A mitjanit, el sistema el va alertar de la presència de sis míssils nord-americans que viatjaven en la seva direcció. Tenia mitja hora per decidir si informava els seus superiors d’un atac nuclear o, si confiant en el seu coneixement del món —els EUA no llençarien mai un atac nuclear amb només sis míssils—, contradir l’algorisme i desobeir el protocol. Per sort de la humanitat, Petrov va deixar passar el temps i no en va informar els seus superiors. Al cap de 23 minuts va poder comprovar que no s’equivocava. El cas del Tinent-Coronel Petrov ens il·lustra la importància de mantenir els humans en el cicle de decisió, especialment les de vida o mort (supervivència o extinció, en aquest cas).

"El cas del Tinent-Coronel Petrov ens il·lustra la importància de mantenir els humans en el cicle de decisió, especialment les de vida o mort (supervivència o extinció)"

Però el contra-argument el podem trobar en els mateixos sistemes de predicció: els algorismes d’IA actuals, les tècniques d’aprenentatge màquina i els molts més punts d’informació per a la presa de decisions no tenen res a veure amb els dels EUA de fa 40 anys. Si a això hi afegim que Donald Trump és qui hauria de prendre la decisió, la balança es decanta clarament a favor dels algorismes. De moment se’n comença a parlar, que passi, només és qüestió de temps.