Yuval Noah Harari: Inteligencia artificial, ¿quién va a tener el poder y quién va a depender de él?

¿Puede un país seguir siendo independiente si Estados Unidos puede desconectar la inteligencia artificial que sostiene su economía y su defensa? ¿Tiene Europa una alternativa? ¿Qué sucede cuando empezamos a delegar decisiones en sistemas que pueden actuar por sí mismos? Y, sobre todo, ¿están los políticos entendiendo la velocidad de esta transformación?

Estas son algunas de las preguntas que atraviesan la interesante entrevista que el diplomático y político británico Rory Stewart le hace a Yuval Noah Harari en el podcast “The Rest Is Politics” (“El resto es política”). Historiador, filósofo y escritor, Harari es autor de “Sapiens”, un libro que vale la pena leer y releer. Su advertencia nos interpela en dos planos fundamentales: la soberanía de los países y nuestra capacidad de conservar el control sobre la inteligencia artificial que estamos creando.

Harari recuerda su reacción al comienzo de la pandemia. Como historiador, viendo las imágenes de Wuhan paralizada, comprendía que podía estar empezando una crisis mundial. Pero emocionalmente se resistía: le parecía que aquello no podía llegar hasta él. Describe una barrera entre la cabeza y el estómago. La razón reconoce un peligro, mientras que la intuición lo rechaza por nunca haber vivido algo semejante. Con la IA, teme que estemos repitiendo esa misma reacción.

Para que podamos entender aún mejor, nos lleva a principios de la Edad Moderna y hace una comparación con Moctezuma y Hernán Cortés que sigue esa lógica. Según Harari, los aztecas no comprendieron a tiempo la naturaleza de los invasores españoles, sus tecnologías y las enfermedades que traían. Una amenaza que parecía ajena a su mundo terminó destruyéndolos a pesar de que sus fuerzas en número superaban altamente a las de los colonizadores.

La moraleja que deja especialmente para los políticos es que, frente a algo desconocido, seguir discutiendo con las categorías habituales puede impedir reconocer lo que está en juego y que sea demasiado tarde.

Harari llama imperialismo de la IA a una dependencia tecnológica que puede convertirse en subordinación política. Y hace una advertencia. Si otro Estado puede apagar sistemas indispensables para tu país, tanto en defensa como en economía, tu libertad de decisión queda condicionada.

Plantea el caso de Europa subordinada a los designios de Estados Unidos bajo su imperialismo en IA.

1. Aceptar la dependencia estadounidense. Continuar como hasta ahora y asumir un lugar subordinado. Lo ilustra provocativamente con exigencias hipotéticas sobre Groenlandia o las Malvinas, donde Londres podría verse obligado a acompañar decisiones estadounidenses contrarias a sus propios intereses.

2. Construir una IA británica propia. Harari menciona una cifra orientativa de 500.000 millones de libras. Sostiene que financiar semejante esfuerzo exigiría decisiones difíciles como recortes en salud, educación, asistencia social y transporte. Difícilmente viable.

3. Compartir el esfuerzo con Europa. Repartir la inversión entre países permitiría afrontar el desafío con mayor escala. Pero, en su planteo, requeriría una integración europea mucho más profunda y el regreso del Reino Unido a la Unión Europea.

Harari cree que Europa todavía puede actuar unida. Advierte que regular sin desarrollar capacidades propias no alcanza. Stewart agrega la posibilidad de trabajar con modelos abiertos, datos propios e infraestructura bajo control europeo; Harari reconoce esa alternativa como factible, también que sería más orientada hacia China.

La diferencia fundamental, para Harari, en esta revolución tecnológica, a diferencia de la revolución industrial, es que la IA puede funcionar como un agente: recibir objetivos, tomar decisiones e inventar soluciones. Una herramienta espera que alguien la utilice; un agente puede buscar cómo cumplir una tarea.

Por eso plantea el riesgo de que una organización terrorista encargue a una IA desarrollar un arma biológica. Es un escenario potencial que muestra el peligro de poner capacidades avanzadas al servicio de objetivos destructivos.

La velocidad agrava el desafío. Stewart describe la expectativa empresarial de disponer de millones de equivalentes de ingenieros trabajando permanentemente. Los sistemas automatizados no necesitan descanso ni vacaciones: pueden seguir procesando y ejecutando tareas las 24 horas. Harari suma el riesgo de que una IA desarrolle generaciones posteriores de IA, acelerando todavía más el proceso.

Los gobiernos tienen que comprender esta transformación, explicar las alternativas y tomar decisiones mientras todavía existe margen para hacerlo. La incertidumbre exige preparación.

Los dos peligros distintos: que los países pierdan autonomía frente a las potencias tecnológicas y que los seres humanos pierdan la capacidad de comprender y controlar los sistemas que ellos mismos han creado.

Si los políticos no se comprometen a entender una tecnología que avanza sin pausa, corren el riesgo de que sea demasiado tarde, frente a lo cual todo puede pasar, hasta lo que hoy parecería ciencia ficción, como lo fue la pandemia en su momento.