La IA al cor de l'empresa: com navegar pels riscos?

Recentment, vaig tenir el plaer de participar en una trobada d'alumni de l'Escola de Consellers d'Iese, celebrada a la seu d'Aenor a Madrid. Durant la meva intervenció, vaig aprofundir en l'impacte de la intel·ligència artificial (IA) en l’entorn empresarial, examinant tant les estratègies generals com els reptes i oportunitats que aquesta tecnologia presenta per a les organitzacions. Un dels aspectes centrals de la meva ponència va ser l'impacte de la nova regulació europea sobre la IA, l'IA Act, que identifica riscos, estableix penalitzacions i proposa estratègies per mitigar-los.

L'IA Act de la Unió Europea representa la primera regulació global integral sobre intel·ligència artificial. Aquesta normativa classifica els sistemes d'IA segons els seus nivells de risc i imposa requisits estrictes per als quals es consideren d’alt risc. Els sectors més afectats per aquesta regulació seran la sanitat, el transport, la banca, els recursos humans i qualsevol aplicació que pugui vulnerar els drets fonamentals dels ciutadans.

Classificació dels nivells de risc segons l'IA Act

• Risc inacceptable: Sistemes completament prohibits per posar en perill drets fonamentals (per exemple, manipulació subliminal o vigilància massiva).
• Alt risc: Sistemes que poden afectar drets fonamentals, com la IA en processos de contractació, crèdit bancari o gestió de serveis essencials.
• Risc limitat: Aplicacions amb requisits de transparència, com ara assistents virtuals o eines de reconeixement facial.
• Risc mínim: La majoria de sistemes d'IA, com els filtres de correu brossa o les recomanacions en plataformes de streaming.

Principals aspectes de l'IA Act:

1. Transparència i explicabilitat: Els sistemes d'IA han de ser comprensibles per als usuaris i facilitar la seva interpretació.
2. Supervisió humana: Ha d'existir un control humà en les decisions crítiques, garantint responsabilitat.
3. Gestió de riscos i seguretat: Es requereixen mesures per mitigar els riscos associats a l'ús de la IA, assegurant la seva seguretat i fiabilitat.

Aquesta regulació marcarà un abans i un després en la manera com les empreses adopten la IA, establint un marc clar per a la seva gestió responsable i segura. La seva aplicació obligarà les organitzacions a no només innovar, sinó també a comprometre’s fermament amb la transparència, la seguretat i la protecció dels drets individuals.

• Prohibició de certes aplicacions: Algunes tecnologies, com la vigilància massiva i la manipulació subliminal, estan restringides o directament prohibides per la seva capacitat de vulnerar drets fonamentals.
• Sancions severes: L'incompliment de la normativa pot comportar multes que poden arribar fins al 6% del volum de negoci global de l'empresa, una sanció considerable que posa de manifest la importància de complir amb la regulació.

Més enllà dels debats sobre si Europa està regulant en excés o si calia establir una normativa abans de desenvolupar i innovar, la realitat és que la regulació ja està aquí i les empreses han d’adaptar-s'hi. Quan analitzem les directrius descrites anteriorment, molts dels elements són de sentit comú en la gestió diària d’una empresa. A més, en un mercat canviant, demostrar que una empresa és èticament responsable i compleix amb les normatives de la IA pot convertir-se en un valor diferencial, millorant la competitivitat.

Durant aquesta trobada, també vaig constatar que Aenor està desenvolupant certificacions específiques per garantir que les empreses compleixin amb els principis ètics i normatius establerts pel reglament de la IA. Aenor ofereix certificacions i formacions especialitzades, com ara:

• Certificació ISO/IEC 42001:2023: Aquesta certificació proporciona un marc per gestionar els riscos i les oportunitats associades a l'ús de la IA, assegurant una gestió responsable i alineada amb l'IA Act.
• Curs S-39: Fonaments per a una Intel·ligència Artificial responsable: Aquest curs ofereix els coneixements necessaris per adoptar una IA ètica i complir amb la normativa europea.

Aquestes iniciatives d'Aenor permeten a les organitzacions demostrar el seu compromís amb una IA fiable, segura i alineada amb les normatives, reforçant la confiança dels clients i socis i millorant la seva reputació en un mercat cada vegada més regulat.

"A mesura que la IA continua avançant, és fonamental que les empreses es preparin per garantir el seu ús ètic i transparent"

El desenvolupament i la implementació de la intel·ligència artificial en les empreses han de realitzar-se amb responsabilitat, complint amb les normatives vigents i assegurant una gestió ètica. L'IA Act europeu estableix un marc clar per a l'ús de la IA, i iniciatives com les certificacions d'Aenor ajuden les empreses a adaptar-se a aquesta nova realitat.

A mesura que la IA continua avançant, és fonamental que les empreses es preparin per garantir el seu ús ètic i transparent, assegurant la confiança dels usuaris i evitant males pràctiques que, més enllà de les sancions establertes per l'IA Act, podrien tenir un gran impacte econòmic i reputacional.