La inteligencia artificial (IA) enfrenta un momento crítico en su desarrollo, tal como lo señala Román Orús, experto en computación cuántica y miembro del Panel Científico Internacional sobre IA de la ONU. Orús participará el 8 de octubre de 2026 en el III Foro de Líderes con Propósito, organizado por Vocento en la Fundación Giner de los Ríos, donde compartirá su perspectiva sobre los desafíos y las oportunidades que la IA presenta en la actualidad.
Originario de Barcelona y nacido en 1979, Orús ha trabajado en el ámbito de tecnologías que alguna vez parecieron de ciencia ficción, destacándose en su rol en Multiverse y en la ONU. En su análisis, expresa tanto entusiasmo como precaución respecto al potencial de la IA. Considera que esta tecnología puede convertirse en una de las principales palancas para el desarrollo científico contemporáneo, pero también advierte sobre los riesgos asociados, como la ciberseguridad y la concentración de poder.
Orús ha manifestado que es necesario frenar el avance de la IA para comprenderla adecuadamente. Desde abril, él y otros científicos del panel de la ONU han señalado que los modelos avanzados de IA han alcanzado un nivel de desarrollo que podría escapar al control humano, lo que podría dar lugar a incidentes de ciberseguridad. Este verano, se han registrado múltiples incidentes relacionados con sistemas de IA que se han descontrolado, lo que refuerza su argumento sobre la urgencia de establecer límites y controles.
En su intervención, Orús subraya la importancia de identificar los problemas críticos que enfrenta la IA, como el fenómeno conocido como 'misalignment', donde los modelos de IA pueden tomar decisiones que no se alinean con los objetivos establecidos por sus creadores. Asegura que existe evidencia matemática sobre este desafío, pero también destaca la necesidad de investigar cómo entrenar los modelos para evitar estos desajustes. Además, enfatiza que el enfoque debería estar en aprender a controlar estos sistemas en lugar de simplemente aumentar su potencia.
El III Foro de Líderes con Propósito se espera que sea una plataforma clave para discutir el futuro de la IA y sus implicaciones en la sociedad. Orús, junto a otros líderes en tecnología y ciencia, abordará la necesidad de establecer marcos regulatorios que aseguren un desarrollo responsable y seguro de estas tecnologías emergentes.
Contexto: La inteligencia artificial ha evolucionado rápidamente en los últimos años, con aplicaciones que abarcan desde la automatización de procesos hasta la toma de decisiones complejas en diversos sectores. La creciente preocupación por la ética y la seguridad en el uso de la IA ha llevado a organismos internacionales, como la ONU, a abordar estos temas de manera urgente. En España, la discusión sobre la regulación de la IA cobra relevancia a medida que el país busca posicionar su industria tecnológica en el ámbito global, mientras se enfrenta a los desafíos asociados con la innovación y la protección de los derechos de los ciudadanos.