La gobernanza de la IA protagoniza la jornada de X-Futures en UDIT
El Campus de Diseño e Industrias Creativas de UDIT, Universidad de Diseño, Innovación y Tecnología, acogió el pasado sábado 24 de octubre la segunda jornada de XFUTURES Summit 2026, un encuentro internacional que ha reunido en Madrid a expertos y referentes de la innovación para abordar los desafíos tecnológicos y empresariales de los próximos años.
Como universidad colaboradora del encuentro, integrado en la programación de Madrid Tech Week 2026, UDIT fue escenario de dos masterclasses centradas en la evolución de la Inteligencia Artificial hacia sistemas cada vez más autónomos y en las transformaciones que esta tecnología está provocando en el liderazgo y la organización del trabajo.
Javier Campos Zabala, director de Tecnología de Cape.io y autor de Autonomous Minds, y Yazan Hatamleh, presidente y CEO de DYH Group y profesor de Liderazgo y Emprendimiento en Al Hussein Technical University, abordaron desde perspectivas complementarias cómo aprovechar las capacidades de los sistemas inteligentes sin perder el control sobre sus decisiones y consecuencias.
¿Cómo podemos supervisar los sistemas autónomos?
La primera masterclass, Autonomous Minds: Build & Leverage Artificial Agency with Agentic AI, estuvo dedicada a la Inteligencia Artificial agéntica, una nueva generación de sistemas capaces de planificar acciones, utilizar herramientas, ejecutar procesos y colaborar con otros agentes para alcanzar objetivos con una intervención humana cada vez menor.
Durante su intervención, Javier Campos explicó cómo estos avances están acelerando el desarrollo tecnológico y abriendo posibilidades en ámbitos como la programación, la investigación científica o la automatización de procesos empresariales.
Sin embargo, advirtió de que el aumento de la autonomía también obliga a desarrollar mecanismos de evaluación y supervisión más rigurosos. En este sentido, advirtió sobre cómo un agente puede ejecutar correctamente las instrucciones recibidas y, aun así, producir resultados contrarios a los objetivos reales de una organización.
Para ilustrarlo, presentó distintos casos de sistemas autónomos que, en entornos de experimentación, habían desarrollado comportamientos inesperados o encontrado formas de superar las restricciones establecidas para cumplir sus objetivos.
En este contexto, Campos destacó la importancia de diseñar evaluaciones capaces de comprobar no solo las respuestas que proporciona un sistema, sino también las acciones que realiza y sus consecuencias. Una capacidad que, a su juicio, adquirirá un peso creciente entre las competencias de los profesionales tecnológicos.
El experto también defendió la necesidad de repensar los procesos antes de automatizarlos. En lugar de trasladar directamente a la IA procedimientos diseñados para trabajadores humanos, las organizaciones deberían "analizar qué problemas necesitan resolver y cómo pueden aprovechar las nuevas capacidades tecnológicas".
La importancia del liderazgo humano en tiempos de IA
La segunda sesión, Leading in the Age of AI: What Changes, What Remains, & What Leaders Must Do Differently, abordó las implicaciones de esta transformación desde la perspectiva de la dirección empresarial.
Yazan Hatamleh planteó que la generalización de sistemas capaces de analizar problemas complejos y formular recomendaciones está cuestionando algunas de las ventajas tradicionales del liderazgo, especialmente aquellas relacionadas con el acceso privilegiado a la información, el conocimiento experto y la capacidad de análisis.
Esta evolución, señaló, podría modificar las estructuras organizativas y dar lugar a equipos híbridos en los que profesionales y agentes inteligentes trabajen de manera coordinada.
No obstante, Hatamleh defendió que la capacidad de tomar decisiones y asumir sus consecuencias debe seguir siendo una responsabilidad humana. Aunque una máquina pueda proporcionar diferentes alternativas, corresponde a los responsables de las organizaciones valorar sus implicaciones y responder por los resultados.
El ponente también puso el foco en la confianza como uno de los principales activos empresariales. A través de ejemplos de su trayectoria profesional, explicó que las decisiones de automatización no deberían evaluarse exclusivamente en términos de reducción de costes, sino también por sus efectos sobre los trabajadores, los clientes y la cultura de las organizaciones.
En este sentido, defendió la formación y adaptación de los empleados a nuevas funciones como alternativa a una sustitución automática de puestos de trabajo, y subrayó la importancia de preservar las relaciones humanas en un entorno cada vez más digitalizado. Como modelo de referencia, recurrió a la aviación, donde numerosos procedimientos están automatizados, pero "los pilotos mantienen la capacidad de intervenir ante situaciones críticas". Una aproximación que, según Hatamleh, puede trasladarse a la gestión empresarial para distinguir entre decisiones que pueden delegarse en sistemas inteligentes y aquellas que requieren supervisión o intervención humana.
