Hoy en día, la inteligencia artificial proyecta una sombra y genera miedo debido a la desinformación, burbujas de contenido impulsadas por algoritmos y posibles pérdidas de trabajo. Este miedo proviene principalmente de no entender el funcionamiento y las decisiones de la IA. A pesar de la integración de la IA durante décadas, ofreciendo beneficios significativos y destacando en tareas como la previsión y la optimización, todavía hay preguntas a resolver: ¿si la IA supera a los humanos en muchos ámbitos, por qué preocuparse de comprenderla y regularla?
Esta cuestión ha llegado a una necesidad máxima especialmente durante el último año, cuando ChatGPT y Midjourney entraron en el mundo de la IA y marcaron una nueva era en la creación de contenido y plantearon preguntas sobre nuestra interacción futura con la IA. A pesar de que la opacidad en la toma de decisiones de la IA puede parecer menor para tareas simples como escribir un haiku, acontece una preocupación importante para decisiones vitales significativas. Comprender los criterios de toma de decisiones de la IA, los sesgos potenciales y la relevancia de los datos acontece crucial. La IA responsable aborda estos retos éticos y prácticos, con el objetivo de alinear la implementación de la IA con los valores sociales, y destacando la necesidad de transparencia y responsabilidad tanto como una necesidad técnica como un imperativo moral.
La IA responsable pone de manifiesto una realización crucial: los modelos de IA son esencialmente herramientas obedientes, sin ética, conciencia de sí mismos o pensamiento crítico. Sus acciones son un reflejo directo de las instrucciones que les proporcionamos y solo son tan buenos como los datos con los que se forman. Si los datos contienen sesgos, los modelos reproducirán inherentemente estos sesgos. A diferencia de los humanos, los modelos de IA no evolucionan con los cambios en los valores y normas sociales. Esto plantea cuestiones fundamentales:
¿Tendríamos que implementar un modelo que mejore el estado actual si sabemos que lleva sesgos? ¿Tendríamos que utilizar un modelo incluso si nos falta un entendimiento claro de cómo funciona? El experimento de Amazon con la IA en la contratación favoreció involuntariamente a los candidatos masculinos, poniendo de relieve las consecuencias no deseadas de los algoritmos de IA con sesgos.
El experimento de Amazon con la IA en la contratación favoreció involuntariamente a los candidatos masculinos
Otra limitación de la IA radica en la representatividad de los datos que recibe. Es imperativo cuestionar si los datos que proporcionamos ofrecen una imagen completa. Tomamos como ejemplo el caso de un robot de seguridad denominado Steve, que cayó accidentalmente a una fuente a Washington DC, generando inicialmente sospechas de "suicidio robótico". Sin embargo, un análisis más detallado de los datos de Steve reveló que el accidente se debió a una carencia de datos de entrenamiento y formación.
De manera similar, investigadores de la Universidad de Tübingen descubrieron el comportamiento peculiar de una red neuronal entrenada para reconocer imágenes. Cuando se le pidió que identificara "tenca", un tipo de pez, la red neuronal destacaba consistentemente dichos humanos contra un fondo verde. Este resultado extraño fue consecuencia de la red neuronal asociando la mayoría de imágenes de tenca con personas que tenían el pez como trofeo, a falta de un entendimiento más profundo de qué es un pez tenca.
Estos ejemplos pueden provocar diversión, pero un incidente grave ocurrió en el 2019 con el Autopiloto de Tesla, que trágicamente no reconoció un camión, provocando una colisión fatal. El sistema Autopiloto de Tesla había aprendido predominantemente de datos relacionados con autopistas y nunca se había encontrado con una pista perpendicular en la carretera, puesto que es un escenario técnicamente imposible para las autopistas. Este trágico incidente subraya la necesidad que los sistemas de IA se entrenen en una gamma diversa de escenarios para garantizar la seguridad y la eficacia.
Otro reto fundamental en el mundo de la IA es el desarrollo de modelos basados en hipótesis razonables. Por ejemplo, consideramos la controversia en torno a la tecnología de reconocimiento facial. En un informe de la BBC, los investigadores de la Universidad de Harrisburg afirmaron que su software podía predecir si alguien era un criminal basándose solo en una imagen de su cara. Otro ejemplo inquietante proviene del The Washington Post, donde los investigadores utilizaron herramientas de reconocimiento facial para predecir la orientación sexual.
Además, la cuestión crítica no es solo sobre las capacidades de los modelos de IA, sino también cómo las utliizamos Un ejemplo notable es la dimisión del gobierno neerlandés después de un escándalo de beneficios. Un informe parlamentario encontró que las autoridades tributarias dirigieron injustamente las familias de bajos ingresos en relación con los beneficios para la cura de los niños, conduciendo a la dimisión del primer ministro Mark Rutte y todo su gabinete.
La IA actúa como espejo de la sociedad que la crea y la utiliza
En respuesta a los desafíos mencionados anteriormente, UIC Barcelona ha adoptado una postura proactiva lanzando el Observatorio de Inteligencia Artificial. Este proyecto tiene como objetivo proporcionar conocimientos críticos para las decisiones estratégicas de la universidad, apoyar al desarrollo de un programa de gestión del cambio para su comunidad y establecer un foro reflexivo que utilice las fuerzas de la universidad, especialmente en ética, legislación y medicina. La misión del Observatorio incluye asegurarse que los graduados de UIC Barcelona estén muy versados en IA, centrándose en las implicaciones profesionales y éticas de las tecnologías emergentes en el ámbito académico y la sociedad.
Esta iniciativa es particularmente pertinente dado que la IA actúa como espejo de la sociedad que la crea y la utiliza. Para aprovechar al máximo el potencial de la IA, la comunicación efectiva con ella es crucial. Sin embargo, esta interacción plantea cuestiones éticas complejas sobre a quienes beneficia las aplicaciones de IA, que requieren una reflexión profunda.
El Observatorio, por lo tanto, juega un papel crítico no solo al comprender la IA, sino al guiar su desarrollo de manera responsable y ética para el bien colectivo de la sociedad, alineándose con la perspectiva más amplia de que el impacto de la IA trasciende los avances tecnológicos para tocar preguntas éticas y sociales fundamentales.