IA, regulación y futuro

Estos días la regulación de la IA está de moda, ChatGPT ha puesto sobre la mesa de una manera patente temas que, aunque estaban allí hace años, no habían llegado al debate público.

Coincidiendo con todo ello la Mobile World Capital nos ha invitado a un grupo de unos 20 expertos en el campo a conocer de cerca la extensa y amplia regulación sobre privacidad, datos e Inteligencia Artificial de la Comunidad Europea. Una experiencia fantástica con expertos ponentes y eso sí, ppts retro de los 70 con bullet-points redondos y llenos de texto, todo lo que en Esade no admitimos.

Europa es indiscutiblemente líder en el ámbito de la legislación sobre privacidad, datos y AI, y seguramente ya habréis leído los artículos de Ganyet y Albert Cuesta al respecto. Quiero sumarse a esta conversación y destacar la relevancia de este tema.

La legislación sobre privacidad y protección de datos en Europa, conocida como GDPR (o RGPD en español), se encuentra vigente desde hace tiempo. Entre sus efectos se encuentra la obligación de incluir cookies que todos ciudadanos europeos aceptamos mecánicamente y la imposición de multas millonarias a empresas multinacionales por incumplimiento. Estas medidas han sido fundamentales en el esfuerzo por garantizar la privacidad y protección de datos en el ámbito digital Europeo.

La IA Act clasifica los usos de la inteligencia artificial según el riesgo que representan, prohibiendo prácticas como el social scoring y considerando de alto riesgo la identificación facial

Una legislación menos conocida, pero de gran relevancia es la "IA Act", que entrará en vigor en pocos meses. Al tratarse de un reglamento, no requerirá trasposición nacional y se aplicará de manera inmediata en todos los países miembros. Esta normativa clasifica los usos de la inteligencia artificial según el riesgo que representan, prohibiendo prácticas como el "social scoring" y considerando de alto riesgo la identificación facial y el perfilado de usuarios.

Las aplicaciones de IA clasificadas como de alto riesgo necesitarán autorización previa antes de su implementación y estarán sujetas a rigurosos controles. Aquellas de riesgo medio tendrán menos restricciones, mientras que las de bajo riesgo estarán plenamente permitidas. Un tema candente en las discusiones actuales de la Comisión es la posible clasificación de la IA generativa como de alto riesgo. Aunque este asunto aún no está resuelto, la tendencia apunta a mantener el principio de regular los usos de la IA en lugar de las tecnologías en sí, con el objetivo de establecer legislaciones duraderas e independientes de avances tecnológicos específicos.

La Data Act introduce la figura de intermediarios y empodera a los ciudadanos, otorgándoles la capacidad de conocer los datos generados por sus dispositivos

Uno de los aspectos más innovadores en el panorama legislativo europeo es la inminente Data Act, enfocada en datos provenientes del Internet de las Cosas (IoT), especialmente en el ámbito industrial. Esta legislación ha sido aprobada en el Parlamento Europeo con un apoyo superior al 80%, algo sin precedentes en la institución. La Data Act introduce la figura de intermediarios y empodera a los ciudadanos, otorgándoles la capacidad de conocer los datos generados por sus dispositivos (por ejemplo, tu coche) y decidir si permiten o no su venta a terceros. Esta legislación resulta particularmente interesante, ya que no solo se enfoca en garantizar la protección de los usuarios, sino que también busca diseñar un mercado y crear actores dentro de este, es decir es una ley pro-innovación.

Europa es un líder mundial en legislación de privacidad y, ahora también, en inteligencia artificial y datos. Sin embargo, surgen dos cuestiones cruciales: la soberanía y la implementación de estas leyes, así como el escenario futuro que dibujan.

¿Qué tipo de futuro están moldeando estas legislaciones? La respuesta a esta pregunta será clave para entender cómo Europa enfrentará los retos y oportunidades que surgen en la era digital y en la adopción generalizada de la inteligencia artificial.

¿Una legislación puede ser realmente efectiva en un campo donde no se posee soberanía? Ésta es una de las cuestiones que ChatGPT ha puesto de manifiesto

La primera pregunta que surge es sencilla y evidente: ¿puede una legislación ser realmente efectiva en un campo donde no se posee soberanía? Esta es una de las cuestiones que ChatGPT ha puesto de manifiesto, ya que Europa no cuenta con empresas ni organizaciones públicas líderes en el desarrollo de modelos de lenguaje como este. Sin duda, Europa puede legislar aprovechando el tamaño de su mercado y la influencia que ello le otorga, pero al hacerlo podría estar dejando a los ciudadanos europeos sin opciones reales.

Resulta evidente que cualquier legislación solo será verdaderamente efectiva si se tiene soberanía en ese ámbito, y en la medida en que se tenga más soberanía, quizás se necesite menos legislación.

La Comisión Europea es plenamente consciente de esta situación, pero su capacidad para impulsar la innovación en estos campos es limitada. Esto se debe no solo a su presupuesto, que representa poco más del 1% del PIB de Europa y de este, la mitad se destina a la política agraria, sino también porque la ejecución de políticas en muchos de estos ámbitos depende de los estados miembros.

Este escenario plantea la necesidad de reflexionar sobre la efectividad de las legislaciones europeas en el ámbito de la IA y los datos, así como el rol que deben desempeñar las instituciones y los estados miembros para fortalecer la soberanía tecnológica y garantizar un futuro más próspero e innovador.

El segundo aspecto a considerar es la implementación de la legislación. Una ley puede tener objetivos loables, pero si su aplicación no logra alcanzarlos, será inútil e incluso contraproducente. En última instancia, una legislación es tan buena como nuestra capacidad para implementarla. El caso de las cookies es un claro ejemplo: todos estamos de acuerdo con sus objetivos, pero su implementación ha llevado a que millones de europeos hagan “click” en cookies que nunca nadie ha leido y que, en muchos casos carecen de alternativas realistas. De nuevo, una legislación es tan buena como su aplicación; si creamos leyes que no podemos implementar de manera eficiente, solo estaremos aumentando las trabas y burocracia.

Desafortunadamente, los países europeos suelen carecer de implementaciones digitales ágiles y sin fricciones. Más bien, lo que prevalece es lo contrario.

Los efectos combinados de la falta de soberanía y una implementación burocratizada pueden ser muy perjudiciales

Los efectos combinados de la falta de soberanía y una implementación burocratizada pueden ser muy perjudiciales, generando barreras de entrada que impidan que la legislación proteja adecuadamente y, al mismo tiempo, frenen la innovación.

¿Significa esto que debemos dejar de promover legislaciones progresistas? De ninguna manera. Al contrario, debemos mejorar nuestra soberanía y capacidad de implementación. Es necesario equilibrar la velocidad de la legislación con nuestra capacidad para realizar implementaciones digitales ágiles y nuestra soberanía.

Quizás algo. podríamos aprender de la carta que solicita una pausa en el desarrollo de GPTs y aplicar una pausa similar en la legislación hasta que su implementación y la soberanía estén a la altura de nuestras ambiciones …

De lo contrario, como señala Ganyet, en Europa seguiremos haciendo PPTs, con bullet points y mucho texto, mientras que en el resto del mundo hace GPTs.