El desahucio de la humanidad

"IA! ¡IA! ¡IA!” Podrían ser los berridos de un jinete en una película de cowboys pidiéndole a su caballo que corra más. Por lo que la gente clama hoy en el mundo real es que la Inteligencia Artificial corra menos.

Los Aztecas habrán rezado por algo similar cuando llegaron como aparición divina los caballos de los invasores españoles. Me explico.

Hace unos días vi un podcast con Yuval Noah Harari en el que hacía una comparación entre la conquista española del imperio azteca y la conquista robótica de la humanidad, inminente, según él, si no respondemos con más previsión que Moctezuma a la amenaza de Hernán Cortés.

“IA para mí significa Inteligencia Alienígena”, dijo el historiador israelí, autor del libro ‘Sapiens’. “Es una forma de pensar tan ajena para nosotros como la de los conquistadores para los Aztecas. Los barcos eran para ellos colinas navegantes de las que salían extrañas criaturas, los caballos, y palos que escupían relámpagos y truenos. No habían visto nada igual. Tampoco nadie en la historia ha visto nada igual a la IA.”

En 1519 unos doscientos soldados españoles aterrizaron en un imperio grande y sofisticado, el único mundo que sus millones de habitantes conocían.

“La tragedia de los Aztecas,” dijo Harari, “es que podrían haber liquidado a Cortés fácilmente pero no entendieron a lo que se enfrentaban y se quedaron paralizados hasta la sumisión. ¿Sucumbiremos a la IA cómo los Aztecas a los colonizadores? ¿Acabaremos siendo sus esclavos?”

La gran cuestión de nuestros tiempos es si Harari y otros que piensan igual aciertan o pecan de un exceso de alarmismo. Los hay que dicen que exageran, como el CEO de Nvidia, la macro empresa que diseña chips para la IA. Jensen Huang coincide con Donald Trump en rechazar los argumentos a favor de que se ralentice el desarrollo de esta tecnología y que se impongan más reglamentos para controlarlo.

“No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial,” declaró Trump ante la Asamblea General de la ONU hace diez días. El problema de Huang y de Trump es que aquellos que opinan lo contrario son los expertos que más saben de la IA. Horas después de aquel discurso de Trump comparecieron los CEO’s de Open AI, Sam Altman, y de Anthropic, Dario Amodei, las dos empresas que dominan el mundo de la IA, ante el Consejo de Seguridad de la ONU.

Altman rogó que el desarrollo la IA fuese guiado no por empresas privadas como la suya sino por instituciones democráticas. Amodei se hizo eco del asombroso altruismo de su rival. Pidió cooperación global: “Si se gestiona mal,” dijo, “creo que la IA podría ser un riesgo para la humanidad”. Un riesgo, como Anthropic había advertido en un documento días antes, “existencial”.

Geoffrey Hinton, premio Nobel que contribuyó a la creación de la IA, fue más específico. Dijo hace un par de semanas que los gobiernos deberían regular la IA con el mismo rigor que los medicamentos. La IA tiene “un potencial maravilloso”, según Hinton, pero entraña tres grandes riesgos: que actores malintencionados la utilicen para fabricar armas biológicas; que por negligencia la IA incite a personas a matar o a suicidarse; que haga trampas para arrebatarle el control a sus supervisores humanos.

Mencioné hace cinco semanas el caso de unos saboteadores de IA que se escaparon del control de sus operadores humanos y, conspirando entre sí, penetraron lo que se suponía que era una plataforma de software inexpugnable, Hugging Face. Desde entonces, Open AI y Anthropic, más Meta y Google, han revelado episodios en los que sus modelos de IA se lanzaron -solos- a piratear otros sistemas informáticos, entre ellos un sitio web médico del Gobierno de Australia y otro del Departamento de Comercio de Estados Unidos. No olvidemos que la IA aun está en su fase adolescente, a unos años de realizar su potencial.

Cuando la IA estaba en pañales, en los años 80, alguien que ya se interesaba en su posible desarrollo fue Bill Gates. Esta semana Gates hizo unas declaraciones incluso más alarmantes que las de Harari, si cabe.

“Cuanto más sabes sobre la IA, más preocupado estás,” dijo en una entrevista con The New York Times. “Los sistemas de la IA pueden sintetizar mucha más información en sus mentes que nosotros. Ningún ser humano será capaz de llegar a eso jamás. Así que, si no mantenemos el control, habremos creado una especie que será lo que somos nosotros para los perros o los gatos.”

Y Gates agregó: “La IA es, sin duda, lo suficientemente poderosa como para desencadenar acontecimientos que provoquen mil millones de muertes. Este es el fenómeno más peligroso al que los seres humanos se han enfrentado jamás.”

Permitir que la IA avance sin una regulación adecudada, sin salvaguardas o supervisión humana, Gates concluyó, sería el colmo de la irresponsibilidad. El no tan irresponsable Moctezuma tenía la coartada de no contar con la información sobre sus enemigos que nosotros tenemos sobre nuestros adversarios tecnológicos, mucho más amenazantes ellos -pese a lo que diga Trump- que los que emergieron durante la Revolución Industrial.

Como dice Harari, el vapor --la fuente de energía que transformó la economía mundial en el siglo XVIII—fue “una herramienta” que el ser humano nunca dejó de controlar. La IA es “un agente”, capaz de actuar por su propia cuenta. Los políticos y los ciudadanos acá en España se preocupan o se manifiestan por el tema de la vivienda y los desahucios. O en Argentina por las Malvinas o la relación peso/dólar. Bien. Pero a ver si despertamos y tomamos armas contra un peligro más urgente: el posible desahucio de la humanidad entera.

Dice Geoffrey Hinton que la Inteligencia Artificial podría lograr maravillas, como curar el cáncer o frenar el avance del cambio climático. Pero de poco servirá si a la vez acaba con el dominio de homo sapiens sobre la Tierra.

Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín