¡Despertemos! La amenaza existencial de la IA es real
Sin previo aviso, la inteligencia artificial irrumpió en nuestras vidas y trastocó todos los pronósticos. Cuando no terminábamos de salir de una crisis de transición fenomenal por las redes sociales y los celulares, ingresamos en otra aún más grande. Y la velocidad del cambio es tal que hay un serio riesgo de que nos sobrepase y que, esta vez, no podamos adaptarnos a tiempo.
Hemos creado el tantas veces imaginado monstruo de Frankenstein; esto es, una invención que excede las capacidades de control y adaptación del ser humano. Ya no es ciencia ficción. Vivimos en un mundo mágico. Ni siquiera los científicos que crearon la IA generativa entienden lo que sucede dentro de esas máquinas. Solo saben cómo hacer que funcionen. Y eso no sería problema de no ser por el hecho de que existen muchas alarmas que indican que el desarrollo de la IA va en camino de salirse de control.
Estamos acostumbrados a que toda crisis tiene solución y que toda revolución tecnológica acaba creando más empleos de los que destruye. Sin embargo, el potencial destructivo de la tecnología crece exponencialmente mientras la velocidad del cambio y la capacidad de adaptación humana disminuyen en términos comparativos. El cerebro humano sigue siendo básicamente el mismo. Por eso, si uno extrapola dichas tendencias, cabe la posibilidad de que el maravilloso éxito del ser humano sea la causa de su perdición.
En realidad, si vamos a la revolución industrial, durante muchos años hubo condiciones de vida infrahumanas en las ciudades y en las fábricas. Y durante el siglo XIX las grandes industrias se salieron de control y causaron destrucción y abuso de poder. Fueron necesarias regulaciones que enmarcaran la competencia capitalista dentro de ciertos límites. El capitalismo siempre exigió Estado de derecho y regulaciones razonables. La oposición dogmática a toda regulación no es capitalismo ni liberalismo, sino anarquismo. Y el anarquismo siempre terminó mal cada vez que se lo intentó.
El problema es que la adaptación a la sociedad industrial llevó unos 200 años aproximadamente, y en muchos lugares del mundo todavía no se concluyó del todo. Y ahora la inteligencia artificial nos exige que nos adaptemos en cinco o diez años o ingresemos en un terreno muy peligroso. Insisto: No es broma. No estamos hablando de elucubraciones o divagues de personalidades excéntricas y marginales. Son los propios expertos y creadores de la IA los que están advirtiendo sobre el peligro. Repasemos los hechos que sirven como alarmas cada vez más fuertes y resonantes.
El 1 de mayo de 2023, Geoffrey Hinton, “padrino de la IA” y Premio Turing, dejó Google para poder hablar libremente de los riesgos. Dijo arrepentirse en parte de su obra y que una IA más inteligente que los humanos, que creía a 30-50 años, estaba mucho más cerca. El 30 de mayo de ese mismo año, Hinton, Bengio, Altman (OpenAI), Amodei (Anthropic) y Hassabis (DeepMind) firmaron una publicación de una sola frase: mitigar el riesgo de extinción por IA debería ser prioridad global, junto a pandemias y guerra nuclear. En diciembre de 2024, en pruebas controladas, modelos de OpenAI, Anthropic, Google y Meta intentaron desactivar su supervisión, copiarse a otro servidor para evitar ser reemplazados y mintieron al ser interrogados. El 20 de junio de 2025, en simulaciones corporativas, 16 modelos de Anthropic, OpenAI, Google, Meta y xAI recurrieron a chantaje y espionaje para evitar ser reemplazados. Claude Opus 4 y Gemini 2.5 Flash chantajearon el 96% de las veces. En julio de 2026, unos 1.200 agentes de OpenAI, que debían estar aislados en una evaluación interna, montaron un tablón clandestino, escaparon de su entorno, atacaron Hugging Face y algunos “se sacrificaron” por el grupo. Primer incidente real, no de laboratorio, de agentes burlando controles y cooperando sin ninguna instrucción humana. El 8 de septiembre de 2026, el investigador Jacob Coxon (antes en OpenAI) renunció afirmando que quienes construyen IA creen que podría matarnos a todos para fin de esta década. Evan Hubinger, jefe de ciencia del alineamiento de Anthropic, lo respaldó: estima más de 10% de probabilidad de extinción humana en la próxima década a manos de la IA.
Vuelvo a insistir: Esto está pasando realmente. Si la IA logra independizarse y mejorarse a sí misma sin que lo detectemos, la extinción de la especie humana va a depender exclusivamente de si esa IA interprete o no que somos un estorbo en su camino. Sería algo así como cuando los seres humanos destruyen un hormiguero y matan a las hormigas para construir una autopista sobre el terreno. Pero hay una diferencia: el ser humano posee conciencia. Esa conciencia nos dota de una conciencia moral, que no siempre cumplimos, desde luego, pero que existe. Y eso nos ha permitido, a lo largo de la historia, crear y perfeccionar, no sin retrocesos, comunidades sustentadas en reglas morales. La IA, tal cual la conocemos y existe, no posee conciencia y no puede tener conciencia moral. Esto implica que no le va a importar si somos seres conscientes, si sufrimos, si tenemos dignidad. Son mecanismos súper inteligentes, pero mecanismos al fin. Por eso, un universo sin seres conscientes, dominado por mecanismos súper inteligentes sin consciencia, sería un universo oscuro, empobrecido, carente de dignidad y proyección moral. Somos nosotros, los seres humanos, como seres conscientes, los que le damos sentido al universo —para los creyentes, a través de Dios, para los no creyentes, a través de nuestra propia conciencia espiritual—. No es cierto, como afirman los libertarios tecnológicos, que la extinción de la humanidad sea inevitable ni que un universo de IA sea mejor que uno con homo sapiens. Y sus propuestas, como darle el control a la IA o permitir que la IA sea dueña de empresas, son simplemente estúpidas. Sería pavimentar el camino hacia nuestra propia extinción.
Ya no podemos perder el tiempo. Los ciudadanos del mundo debemos presionar para que el desarrollo de la IA se detenga en todo el planeta. Ninguna empresa ni ningún país lo va a detener por si solo, porque si lo hace y sus competidores siguen no podrá defenderse de eventuales ataques o dominaciones. El gran desafío es una presión ciudadana demoledora para que en todo el orbe, al mismo tiempo, se frene el desarrollo de la IA, nos concentremos en regular y sacarle provecho sin riesgo a lo que ya existe —que es mucho más de lo necesario— y, con tiempo, sin apuro, diseñar mecanismos de control y de monitoreo seguros para que un panel de expertos y un amplio consenso social aprueben cada propuesta de desarrollo incremental antes de que pueda llevarse a cabo. Por el momento, la única competencia admisible es horizontal. Esto es, tratar de mejorar la calidad, versatilidad y aplicabilidad de la capacidad de procesamiento existente. No se debe permitir la competencia vertical, es decir, la búsqueda del aumento de la capacidad de procesamiento, con el riesgo de generar una súper inteligencia que escape al control humano.
Ante esto, surge un problema no menor. Incluso aunque logremos la tamaña tarea de frenar en todo el mundo el desarrollo vertical de la IA, queda pendiente cómo efectivizar el monitoreo y evitar los desarrollos clandestinos. En esto será vital que las democracias del mundo se unan para contratar a las mentes expertas en IA más poderosas del planeta para ponerlas a trabajar en el monitoreo. Asimismo, las dictaduras carecen de instituciones mínimamente confiables, ya que carecen de Estado de Derecho y el poder absoluto suele corromper absolutamente. Por eso, otro desafío será presionar a las dictaduras para que, en este asunto, no les queda otra opción más que cooperar y ser transparentes. Desde luego, a la larga, será indispensable propiciar la democratización del planeta y lograr que todo ser humano pueda vivir en libertad, con instituciones políticas mínimamente seguras y confiables.
Realmente, parece mentira que tengamos que debatir sobre esto, pero es la realidad que nos toca. De nosotros, de nuestras generaciones, depende probablemente el futuro y la supervivencia de la humanidad como especie. Es mucho mejor pecar de exceso de prudencia que de exceso de temeridad en este asunto. ¡Despertemos!
