Cinco pensadores que nos obligan a replantearnos el futuro de la Inteligencia Artificial

En un momento en el que las principales empresas tecnológicas se enfrentan por dominar el mercado de la Inteligencia Artificial en una carrera sin freno, cada vez son más las voces que reclaman un pararse a pensar sobre el futuro de una tecnología que va cambiar el mundo como ninguna otra. 

Desde planos muy diversos como la historia, la filosofía, o la antropología, los pensadores críticos con la IA abogan no tanto por detener el progreso de una tecnología que ya nadie parece querer o poder parar, sino plantear un nuevo marco de reflexión sobre su futuro: el qué y sobre todo, el para qué. ¿Queremos una IA que nos haga ser más productivos o que nos libere de la necesidad de trabajar? ¿Podemos desarrollar una Inteligencia Artificial justa y libre de sesgos?  ¿Merece la pena arriesgarlo todo, si existe la posibilidad de alcanzar en un futuro un beneficio inmenso? 

En este artículo os invitamos a sumergiros en el pensamiento de cinco de las personas que más han escrito sobre los dilemas a los que nos enfrentamos en cuanto al desarrollo y el uso de la IA en el futuro. 

Yuval Noah Harari 

El historiador y filósofo israelí Yuval Noah Harari, es uno de los divulgadores científicos más populares de los últimos años. Su investigación se centra en cuestiones macro históricas: como la relación entre historia y biología, la diferencia esencial entre el Homo sapiens y otros animales, el concepto de justicia aplicado a la historia, si la historia conoce algún rumbo, la felicidad de la gente en relación con el desarrollo del tiempo histórico o las cuestiones éticas que plantean los desarrollos científicos y tecnológicos en pleno siglo XXI. 

Harari salta a la fama internacional con la publicación en 2014 de “Sapiens. Breve historia de la humanidad”, título que le lleva a vender más de 23 millones de libros y en el que explica cómo el hombre llegó a dominar el planeta no porque fuera el más fuerte o el más inteligente individualmente, sino porque es la única especie capaz de cooperar de forma flexible con millones de individuos gracias a su capacidad para creer en ficciones compartidas. 

En 2016 vuelve a la carga con "Homo Deus. Breve historia del mañana", un libro que indaga en los grandes proyectos de futuro que la humanidad afronta en el siglo XXI. Homo Deus advierte de las amenazas que presentan los novedosos y sin precedentes poderes tecnológicos, que podrían llegar a permitir que ciertos Homo sapiens mejoraran artificialmente sus cuerpos y mentes, dejando atrás a otros miembros de la sociedad. Ya en ese momento, advierte que el futuro, una IA podría tomar mejores decisiones que un ser humano sin experimentar emociones ni tener conciencia subjetiva.  

En sus libros más recientes y en las distintas entrevistas que ha concedido a lo largo de los últimos años, sostiene que la Inteligencia Artificial representa un cambio de época porque, por primera vez, una tecnología no solo amplía las capacidades humanas, sino que también puede generar lenguaje, conocimiento y narrativas capaces de influir en la política, la economía y la cultura. A su juicio, el principal riesgo no reside en una hipotética IA consciente o en escenarios de ciencia ficción, sino en su capacidad para manipular información, erosionar la confianza pública y tomar decisiones que antes correspondían exclusivamente a las personas. Por ello, defiende que el desafío no es frenar el desarrollo de la IA, sino dotar a las sociedades de instituciones y mecanismos de regulación capaces de gobernar una tecnología que evoluciona más rápido que nuestras leyes, nuestras organizaciones y, en muchos casos, nuestra capacidad para comprender sus consecuencias.  

Byung-Chul Han 

Premio Princesa de Asturias de Comunicación y Humanidades 2025, el filósofo y ensayista alemán de origen surcoreano Byung-Chul Han, analiza en sus libros los retos que se derivan de la nueva sociedad tecnológica. 

Aplaudido especialmente por su ensayo “La sociedad del cansancio”, en el que explica cómo nos hemos convertido en nuestros propios jefes y verdugos, “obligados a producir y ser felices todo el tiempo”, reclama recuperar la contemplación, el silencio y la capacidad de demorarse, frente a la lógica de la productividad permanente. 

En “No-cosas: quiebras del mundo de hoy” (2021), Han distingue entre “calcular” y “pensar”. Para él, la IA opera con probabilidades, patrones estadísticos y elecciones entre opciones ya dadas; no crea nuevos significados ni se enfrenta a la negatividad, al desconocimiento, que es lo que impulsa el pensamiento humano.

Para el filósofo surcoreano, la Inteligencia Artificial es “apática”: no tiene pasión, no se “emociona” ante un poema, no experimenta miedo, admiración o amor. Ese temblor afectivo es, para Han, lo que permite que el pensamiento sea un acontecimiento y no solo un proceso técnico.  Tal y como declara en una reciente entrevista, “la inteligencia artificial es incapaz de pensar, porque es incapaz de «faire l’idiot». Es demasiado inteligente para ser un idiota”. 

Nick Bostrom 

La teoría de la superinteligencia de Nick Bostrom, desarrollada en su libro “Superinteligencia: caminos, peligros, estrategias”, no afirma que la Inteligencia Artificial sea inherentemente malvada, sino que plantea un problema de alineación de objetivos.  

Según Bostrom, una superinteligencia sería un agente que supera la capacidad cognitiva humana en todas las áreas de interés práctico, y su peligro principal no provendría de la hostilidad, sino de su capacidad para optimizar sus metas de maneras que los humanos no anticipan ni controlan fácilmente. Así, una IA diseñada para “maximizar la producción de papel” o “resolver el cáncer” podría tomar decisiones extremas, incluso destructivas para la humanidad, en nombre de esos objetivos aparentemente razonables. 

Bostrom sostiene que, cuando se alcanza un cierto nivel de inteligencia, puede aparecer una ventaja estratégica decisiva: la primera IA superinteligente podría mejorar su propio código, prever y controlar las acciones de otros agentes y acumular recursos de forma exponencial, lo que la convertiría en un dominio casi imposible de restringir. Esto hace que la transición a la superinteligencia sea, en su visión, el evento más importante y peligroso de la historia, con potencial de provocar riesgos existenciales como la extinción humana. 

En los últimos años, sin embargo, ha adoptado una postura más optimista y en su libro “Deep Utopia” (2024) plantea que el riesgo de que la apuesta por la IA salga mal (es decir en un primer momento provoque desequilibrios extremos) podría ser “moralmente aceptable”, si es capaz de abrir la puerta a un “mundo resuelto”: una sociedad donde la IA Superinteligente ha eliminado la enfermedad, la escasez, el trabajo forzado e incluso, en gran medida, la muerte, dejando a los humano en una situación de abundancia radical. 

Kate Crawford 

Kate Crawford es una de las voces más influyentes en el debate actual sobre la Inteligencia Artificial desde una perspectiva social, política y ética. Investigadora australiana, academia y autora, ha trabajado en instituciones como Microsoft Research, MIT y el AI Now Institute, y es referente internacional en la comprensión de las implicaciones sociales de la IA. Su enfoque se centra en cómo la IA ya transforma la vida cotidiana, el trabajo y la justicia, provocando situaciones de desigualdad. 

Su tesis central es que la IA no es una tecnología neutral, sino un sistema político y social. En su libro Atlas de la IA describe en primer lugar cómo la Inteligencia Artificial depende de recursos minerales, agua y energía masivos, con costes ambientales enormes; pero sobre todo, la forma en la que reproduce y amplifica desigualdades porque los datos de entrenamiento están cargados de sesgos históricos de género, raza y clase. En definitiva, que lejos de ser inocente, la IA es expresión de poder, concentrado en pocas corporaciones que usan esta tecnología para vigilancia, control social y optimización de ganancias, sin suficiente transparencia ni gobernanza. 

Crawford propone “desnaturalizar” nuestra concepción de la IA y sugiere abordar su uso desde un enfoque interdisciplinario que incluye derechos humanos, sostenibilidad ambiental, transparencia y justicia social. Su objetivo final es que nuestra relación con la IA se parezca más a cómo tratamos otras relaciones sociales: preguntarnos sobre su origen, sus costes, quién decide sus objetivos y cómo afectan a la vida de las personas. 

Timnit Gebru 

Timnit Gebru es una científica y activista que trabaja directamente sobre los sesgos, la ética y la política de los grandes modelos de IA. De origen etíope-estadounidense, llegó a Estados Unidos con 16 años huyendo de la guerra y se doctoró en Stanford, antes de acceder a puestos de investigación en Microsoft y Google vinculado a transparencia en sistemas de aprendizaje automático. 

Su contribución clave es demostrar que los algoritmos no son neutrales. Junto a Joy Buolamwini, en el estudio Gender Shades, mostró que los sistemas de reconocimiento facial de IBM, Microsoft y otras empresas tenían tasas de error muy altas para mujeres negras en comparación con hombres blancos, lo que impulsó auditorías de algoritmos y reformas en la industria. Ese trabajo la convirtió en una de las referencias mundiales en el análisis de racismo algorítmico y en la necesidad de evaluar cómo la tecnología afecta a grupos históricamente discriminados. 

La carrera de Gebru cobró un giro mediático en 2020 cuando fue despedida de Google, donde era codirectora del equipo de Ética para la IA, por coescribir un artículo que cuestionaba los riesgos ecológicos, económicos y sociales de los modelos de lenguaje masivos. El despido generó un debate global sobre libertad académica y censura en las grandes tecnológicas, y la convirtió en una figura emblemática del activismo crítico frente al desarrollo sin control de la IA.  Lejos de silenciarse, inició una trayectoria independiente que la llevó a cofundar Black in AI y a crear el Distributed AI Research Institute (DAIR), un instituto diseñado para democratizar la investigación en IA y priorizar el bienestar de las comunidades marginadas.