El fin del mundo, otra vez

Un investigador de veintisiete años renuncia a la empresa de inteligencia artificial más obsesionada con la seguridad que existe y anuncia, desde su cuenta de X, que la humanidad está en peligro. Un colega le responde que sí, que él también lo cree, y le pone un número a nuestra extinción. Lo escriben con la calma de quien avisa que mañana llueve.

En pocas horas el mensaje recorre el planeta, aterriza en los grupos de WhatsApp, y alguien, en alguna oficina, decide que mejor no toca esa herramienta que le venían recomendando. Misión cumplida.

Apocalipsis, en griego, quiere decir revelación. Correr el velo. El que anuncia el fin del mundo no dice solamente que viene algo terrible: dice que él lo ve y vos no. Antes que una predicción, el apocalipsis es una declaración de jerarquía. Alguien arriba, con acceso a lo que se esconde; una multitud abajo, que solo puede escuchar y compartir. No es casual que el profeta haya sobrevivido a todas las religiones. Cambió la túnica por una remera negra y el desierto por una cuenta verificada.

Y tiene un historial reciente que conviene repasar, porque es corto y ya está lleno. En 2017 los diarios del mundo contaron que Facebook había apagado de urgencia dos programas que inventaron un idioma propio para hablar entre ellos.

La imagen era perfecta: la máquina conspirando en un lenguaje que sus creadores ya no entendían. Lo que había eran dos sistemas entrenados para negociar a los que nadie les había pedido hablar en inglés correcto, así que se pusieron a repetir palabras porque les convenía. Los apagaron porque no servían para negociar con nadie.

En 2019 la empresa que hoy hace ChatGPT anunció que no publicaría su nuevo modelo porque era demasiado peligroso para la humanidad: iba a inundar internet de noticias falsas indistinguibles de las verdaderas. Nueve meses después lo publicó entero.

Las noticias falsas siguieron siendo, como siempre, un oficio de humanos, y aquel modelo temible hoy corre en un teléfono y sirve para escribir chistes malos. En 2022 un ingeniero de Google salió a jurar que el programa con el que conversaba había cobrado conciencia y tenía miedo de que lo apagaran. Medio planeta discutió durante semanas si acababa de nacer una nueva forma de vida. El programa predecía la palabra siguiente, y cuando le preguntaban si temía la muerte respondía lo que responden los millones de humanos que había leído. No era un ser: era un espejo con buena memoria.

Y en 2023 un centenar de expertos firmó una carta solemne pidiendo frenar seis meses el desarrollo de la inteligencia artificial por el bien de la civilización. El firmante más ruidoso fundó su propia empresa de inteligencia artificial antes de que se cumpliera el plazo. El riesgo para la civilización duró lo que tardó en conseguir los chips.

El historial largo es peor. A fines del siglo XVIII, un cura inglés demostró con aritmética impecable que la población crecía en progresión geométrica y la comida en progresión aritmética. La conclusión era matemática: hambre masiva, guerras, colapso. Era uno de los hombres más brillantes de su tiempo y medio continente lo leyó con terror. Desde entonces la población del planeta se multiplicó por ocho y el hambre retrocedió como nunca en la historia.

En 2022 un ingeniero de Google salió a jurar que el programa con el que conversaba había cobrado conciencia y tenía miedo de que lo apagaran"

Lo que la ecuación no podía contener eran los fertilizantes, la mecanización, las semillas mejoradas: cosas que en 1798 no tenían nombre, y lo que no tiene nombre no entra en ningún cálculo. Ciento sesenta años después, un grupo de científicos, con varios premios Nobel entre las firmas, le escribió al presidente de Estados Unidos advirtiendo que la automatización iba a dejar sin trabajo a la mayoría del país y que había que actuar de inmediato.

El presidente creó una comisión. Cinco años más tarde el desempleo tocaba el mínimo de la década, y la mayoría del país estaba ocupada en empleos que la carta no había imaginado, porque no existían cuando la escribieron. Distintos siglos, distintas máquinas, la misma escena.

El experto conoce la máquina, y la máquina es lo único que no decide el futuro. Quien domina un mecanismo tiende a ver el mundo como una prolongación de ese mecanismo: toma sus reglas, las estira hacia adelante y obtiene una fatalidad. Pero el futuro de una tecnología no lo escribe la tecnología.

Lo escriben millones de personas que todavía no decidieron qué hacer con ella, y ese saber no está en ningún laboratorio, porque está desparramado, incompleto, y se produce recién en el uso. Al cura inglés no lo refutó un demógrafo mejor: lo refutaron campesinos y químicos que nunca leyeron su libro. Hay, además, una trampa más sutil.

Cuanto más íntimo es el conocimiento de un artefacto, más grande parece el artefacto y más chica la gente. El que construye la máquina sobreestima la máquina y subestima a todos los demás. Su expertise es profundidad en una variable; el porvenir es la interacción de todas. En el fondo, el error es siempre el mismo: confundir el conocimiento del artefacto con el conocimiento de la sociedad que lo va a usar. Son dos saberes distintos, y el segundo nunca se aprendió en San Francisco.

Ahí está el punto ciego de toda profecía. Lo que una tecnología destruye se puede contar, porque ya existe y tiene nombre. Lo que va a crear no se puede contar, porque todavía no lo tiene. Y el que solo cuenta lo que ve está condenado a ver únicamente pérdidas.

Pero hay algo más incómodo que el error, y es el lugar desde donde se comete. Los que gritan que se termina el mundo suelen ser los que mejor están en el mundo tal como es. Cuando el más cómodo del sistema avisa que todo se acaba, conviene preguntarse el fin de qué mundo le preocupa. Cada tecnología que llega redistribuye algo: prestigio, acceso, poder. Y el que tiene mucho de eso vive la redistribución como catástrofe. El miedo es el nombre elegante que se le pone a la pérdida de un privilegio.

Los que gritan que se termina el mundo suelen ser los que mejor están en el mundo tal como es"

Y el miedo rinde. Le da tapas a los diarios, votos al dirigente que promete protegernos de lo que no entiende y una audiencia instantánea al que renuncia en público. Es la única mercancía que se vende sin que nadie verifique si funcionó, y es, no por casualidad, la que mejor premia el algoritmo: nada retiene más que una amenaza.

La economía de la atención encontró en el fin del mundo su producto perfecto, porque nunca vence. Nadie vuelve, años después, a pedir explicaciones por un apocalipsis que no llegó. En este rubro nunca nadie pide disculpas. Se anuncia el siguiente.

Lo que sí llega, puntual, es el efecto del miedo sobre los que lo compraron. El miedo genera rechazo. El rechazo hace que una persona ni siquiera pruebe la herramienta. Y mientras esa persona no la prueba, otra la está usando para volverse mejor en su mismo oficio. El apocalipsis llegó tarde a todas las citas. Lo único que llega a horario es la fila de los que se quedaron afuera por creerle.

Al fin y al cabo, cada profeta deja la misma pregunta, y siempre se la deja al que escucha. Frente a algo que no entendemos del todo, podemos hacer lo que hicieron los que se quedaron en la puerta cada vez que el mundo cambió, o podemos entrar y ver qué hay.

El fin del mundo se anunció muchas veces. El fin de los que le creyeron nunca hubo que anunciarlo: se los ve, todavía, mirando desde afuera.