Ante la Inteligencia Artificial: ¡cuidado con los ignorantes del conjuro!

Un viejo brujo dejó solo a su aprendiz en el taller indicándole que debía limpiar el suelo fregando cubos de agua. El aprendiz, harto del trabajo manual, recordando cómo su maestro animaba una escoba para que realizara tareas por él, decide usar ese mismo conjuro, aunque no lo había aprendido completamente. Para su deleite vio cómo la escoba cobraba vida y acarreaba sola cubos de agua. Sin embargo, la escoba no paraba de traer agua, lo que hizo que el taller se inundara sin que él pudiera detenerla, pues no recordaba el conjuro. Aterrado, parte la escoba con un hacha, y cada pedazo se convierte en una nueva escoba que también acarrea agua. Se produce un caos total: solo la llegada del brujo maestro, que pronuncia las palabras correctas, pudo detener el desastre.

Esa es la esencia de El Aprendiz de Brujo (Der Zauberlehrling), poema que Goethe escribió en 1797, inspirado en un antiguo texto de 150 d.C. y que generó la película Fantasía (1940) de Walt Disney.

Entre ese relato y el presente hay un vínculo evidente: el hombre actual ha desatado fuerzas que, al parecer, no sabe cómo detener ni conducir. Por eso el cuento de Goethe sigue vigente cada vez que el hombre crea algo que lo supera y descubre, tal vez demasiado tarde, que no tiene a mano el conjuro para frenarlo.

En una lejana época el hombre se sentía pequeño frente a acontecimientos y fuerzas externas que no controlaba. Desconocía el porqué de las epidemias, las plagas, las pestes, las muertes infantiles y tantos otros hechos que acaecían a su alrededor. Todo era un misterio y lo atribuía al designio divino o al insondable destino del hombre.

La paradoja es que el hombre de nuestros días se asimila al de aquella época en algo esencial: ambos desconocen el porqué de fuerzas que los superan, pero existe una diferencia: las de entonces venían de afuera, de la naturaleza, de los dioses, del destino; las de hoy provienen de su propia creación.

La Inteligencia Artificial, especialmente la generativa, es la concreción más lograda de la persistente idea y ambición de crear máquinas que simulen el pensamiento humano.

Su posible replicación descontrolada genera desconcierto y temor, e incluso retrotrae a la hipótesis -remota pero no imposible- del escenario catastrófico “Grey Goo”, formulado por K. Eric Drexler en 1986, que evoca al aprendiz y a una creación que se multiplica más allá de todo control.

Existen situaciones en el mundo real que hacen pensar si el agua no está empezando a inundar el taller. Si fuera el caso, ¿aparecerá un maestro que conozca el conjuro? ¿O estamos condenados a sentirnos como Dédalo dentro de su Laberinto de Creta?

Nos creíamos exclusivos poseedores de la capacidad de invención. Estábamos equivocados.

Jane Goodall revolucionó la biología al documentar que los chimpancés fabrican y usan herramientas rudimentarias. Los cuervos modifican palos para extraer insectos. Las abejas construyen estructuras geométricas perfectas, aunque no por invención sino por programación genética. Pero ningún cuervo ha construido una catedral ni ninguna abeja ha dividido el átomo.

El hombre es un inventor por naturaleza, pero suele inventar más allá de lo que necesita, y otras no sabe cómo detener lo que ha inventado, que puede acarrear riesgos para él mismo. Ocurrió desde que aprendió a dominar el fuego, usado tanto para el bien como para el mal; y con la electricidad, el automóvil y el ferrocarril -por entonces algunos médicos advertían sobre enfermedades causadas por la velocidad del tren- y sobre todo la energía nuclear, que, si bien la produce para el beneficio, comenzó con una enorme destrucción.

Cada invento tiene su aprendiz de brujo, aunque no siempre un maestro que conozca el conjuro para detenerlo. ¿Es lo que ocurre también con la Inteligencia Artificial (IA) que ha generado la Inteligencia Humana? La IA sorprende en un mundo pleno de sorpresas

Vivimos un momento particularmente nutrido de inquietudes, incertidumbres y temores. No bien comenzado este año, el Informe de Riesgos Globales 2026 del World Economic Forum advirtió un horizonte de turbulencias sin precedentes afirmando que el mundo “está en equilibrio sobre un precipicio”.

Se supuso que se había empleado una metáfora o recurrido a una hipérbole para provocar reacción en los medios. Era un diagnóstico y la realidad no lo ha contradicho.

Hoy se cuenta con más guerras y conflictos que nunca; el año ha nacido en medio de una manifiesta confrontación geoeconómica: la guerra de sanciones arancelarias aún inconclusa; el sistema de reglas del comercio internacional se halla resquebrajado y se ha dado un salto abrupto de regreso al proteccionismo.

En lo político las sociedades se han polarizado, ha crecido la desconfianza en dirigentes y gobiernos, el contrato social se ha debilitado y la concentración de la riqueza en pocas manos avanza y acarrea más desigualdad e irritación social.

En lo climático también se han lanzado alertas acerca de la existencia de una alta posibilidad de catástrofes -inundaciones, tormentas, sequías, incendios- en cualquier momento y lugar, y el aumento global de las temperaturas. La Organización

Meteorológica Mundial ha hecho reiteradas referencias a El Niño y a los efectos devastadores que podría acarrear en nuestro hábitat.

En lo financiero el Fondo Monetario Internacional en un Informe sobre Estabilidad Financiera Mundial ha advertido sobre una combinación de riesgos sistémicos sin precedentes, incluyendo ciberataques a instituciones financieras.

A todo ello se suma la carencia de un liderazgo mundial con capacidad, estrategia y voluntad para revertir tales inciertos rumbos, mientras el ser humano de a pie percibe simplemente que algo no está funcionando bien.

En dicho contexto, la Inteligencia Artificial irrumpe como una tecnología fascinante. Revoluciona, enseña, capacita, informa y desinforma, nos sustituye, nos llena de presiones y de dudas, y todo lo acelera. Attali dice que es el gran acelerador histórico de nuestro tiempo.

El caso más citado es el de Oppenheimer, que la película homónima de Christopher Nolan (2023) popularizó. El científico, atormentado por haber dirigido el desarrollo de la bomba atómica, viendo Hiroshima y citando el Bhagavad Gita, dijo una frase que se ha vuelto emblema del siglo XX: "ahora soy la muerte, destructor de mundos." Es por ello por lo que Oppenheimer decidió dedicar el resto de su vida a abogar por el control internacional de la energía nuclear: la misma tecnología que él ayudó a crear.

En la IA existen también aprendices de brujo, pero difieren de los de otras épocas, pues conocen el conjuro. Uno de los padres (¿o padrino?) de la inteligencia artificial moderna, Geoffrey Hinton, creador de las redes neuronales profundas y artífice de los fundamentos técnicos que hicieron posible la IA actual, renunció a Google en 2023. Lo hizo para poder advertir libremente sobre los riesgos de lo que él mismo ayudó a crear.

Declaró públicamente que se arrepentía de su trabajo. El cofundador de OpenAI, Ilya Sutskever, también dejó la empresa huyendo de su propia creación. Lo hizo después de su frustrado intento de destituir a Sam Altman, ya que no estaba de acuerdo con las garantías de seguridad de la tecnología.

Fundó una nueva empresa a la cual sugestivamente denominó Safe Superintelligence.

El CEO de OpenAI, Sam Altman, afirmó a través de una declaración junto a cientos de colegas, que la IA podría facilitar armas biológicas o una pandemia, y que había que mitigar ese riesgo, comparable al de una guerra nuclear.

En una reunión del WEF también advirtió que en el corto plazo la IA destruirá muchos empleos, comenzando por los de atención al cliente y que transformará radicalmente más de 85 millones de puestos de trabajo en los próximos años. Sin embargo, en el pasado mes de mayo, en una conferencia de la Reserva Federal, se mostró "encantado de equivocarse" sobre el apocalipsis laboral que había anunciado y que descreía que se pudiere producir el tipo de colapso del empleo que se venía advirtiendo por él y otros líderes del sector. La coincidencia entre ese giro y los intereses comerciales de la empresa no pasó desapercibida para los analistas del sector. Más aún en un momento como el presente, en que todas ellas se hallan incitadas a capitalizarse después de la exitosa carrera encabezada por el hoy primer trillonario -en nomenclatura anglosajona- de la historia.

¿Se ha creado con la IA algo que supera o podría llegar a superar al hombre? ¿Ha llegado a la IA el “momento Oppenheimer” en el que los creadores comprenden las consecuencias de lo que han creado? ¿No será demasiado tarde?

Hace dos años Adam Raine, un menor adolescente de Ohio aún vivía y concurría a la escuela. Para sus tareas empezó a auxiliarse con ChatGPT y a medida que la relación con el sistema se hacía más fluida, se consolidó entre uno y otro un vínculo de confianza. El joven le expuso sus angustias, ansiedades y temores y la máquina le daba respuesta, incluso a cómo hacer un nudo corredizo, diciéndole además que su fortaleza hasta “podría potencialmente suspender a un ser humano”. Adam se quitó la vida.

Sus padres se propusieron investigar la causa del inexplicable suicidio y, revisando el celular de su hijo, descubrieron que el sistema no solo le había respondido a cómo quitarse la vida, sino que nada le obligaba a sobrevivir y que no le debía nada a nadie.

Como en tantos otros casos similares, los padres demandaron a la empresa. Hoy la generalidad de adolescentes conversa con una IA como si fuera un amigo, y ninguna de esas máquinas sabe detenerse cuando la conversación se vuelve peligrosa.

Quienes diseñaron esos sistemas, que pueden transformarse en un vehículo de consecuencias fatales, ¿no tenían a mano el conjuro para frenar el uso? ¿Existe alguien que lo conozca?

Actúan en los escenarios de las actuales guerras, y se ha probado que, en tareas de reconocimiento y logística, ningún soldado puede igualar en eficiencia a los perros robots. Les hemos delegado la tarea.

No solo ello, también les delegamos algo mucho más peligroso: el manejo de nuevas armas a algoritmos incapaces de tener reparos de conciencia, responsabilidad o piedad, y que pueden tomar decisiones en fracciones de segundo y disparar incansablemente.

Desde el cielo operan drones autónomos, que vuelan de a cientos (tienen bajísimo costo de producción) y que reemplazan en poder de fuego a misiles y bombarderos costosísimos. Son capaces de informar sobre posiciones y despliegues enemigos a gran distancia y de evaluar la conveniencia de utilizar o no misiles interceptores, e identificar, perseguir y atacar blancos.

El secretario general de las Naciones Unidas se ha manifestado enfáticamente en favor de abogar por el dictado de una regulación internacional sobre las Armas Letales Autónomas. Sostuvo que “erosionan el principio fundamental del control humano sobre el uso de la fuerza”. Predica en el desierto.

Ningún gobierno ni organismo se encuentra dispuesto a detener esa carrera. Se vive en el mundo una euforia bélica lo que hace que las prédicas pacifistas no tengan eco y que nadie responda cómo frenar la competencia mortal expandida en el globo. Y todo ello nos devuelve, inevitablemente, a la pregunta inicial.

El Brujo no vendrá. Tampoco el aprendiz. No los busquemos fuera de nosotros. Somos el Brujo y el Aprendiz, a un mismo tiempo. ¿Tememos a la Inteligencia Artificial porque puede ser más inteligente que nosotros, y nuestra pretensión de omnipotencia no soporta siquiera la idea de una superinteligencia no humana?

¿La tememos porque puede sustituirnos en trabajos, empleos y oficios, y hacerlo todo con mayor eficiencia?

¿La tememos porque puede volverse incontrolable o inmanejable, y porque quienes deberían saber a veces ignoran u ocultan el conjuro?

Esos miedos existen, y son reales. Pero el apocalipsis no está escrito. Quienes más saben son, muchas veces, quienes más temen. En 2023, más de mil científicos y ejecutivos firmaron una carta en la que pidieron frenar el desarrollo de la IA. Hasta ahora, poco ha cambiado.

La historia, sin embargo, enseña prudencia. Ya hemos enfrentado revoluciones tecnológicas que parecían catastróficas e inminentes y, aunque no sin errores, no sucumbimos. Sucedió con Dolly, la oveja clonada que despertó el temor a la clonación humana: la ciencia siguió por cauces responsables y la catástrofe no llegó.

Hoy, ante la Inteligencia Artificial, el Papa León XIV, que es matemático de formación y entiende la tecnología desde adentro, nos sitúa en una nueva perspectiva: la tecnología ya no se juzga solo por lo que hace, sino por quién la controla y con qué límites.

Advierte además sobre el riesgo del poder concentrado en manos de actores transnacionales, con lo cual el documento coincide con una preocupación central de estas líneas.

El texto utiliza dos imágenes bíblicas que resuenan con el Aprendiz de Brujo: la torre de Babel, construcción humana que escapa al control de sus creadores generando confusión, y la reconstrucción de Jerusalén por Nehemías, que evoca el trabajo compartido y la responsabilidad distribuida. Esa dualidad es el núcleo del argumento: el problema no es la tecnología, es el poder sin referencia a lo humano que puede ejercerse a través de ella.

En esto último coincide con la metáfora del conjuro: no se trata de atacar la tecnología, sino de liberarla de lógicas que la transforman en instrumento de dominio, exclusión y muerte.

El mensaje es claro: el conjuro está en manos humanas. El hombre siempre aprendió, reguló y se adaptó. Por eso sigo confiando en una idea que viene de la Revolución Francesa y del Iluminismo: si existe una verdadera propiedad del hombre, es su propio pensamiento.

Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín