Hombres, tecnología y guerras: el triángulo de las Bermudas

Hace tres años, a pocos días del estreno de la película de Nolan sobre Robert Oppenheimer y el proyecto Manhattan, apareció en el New York Times una nota de opinión con el cautivante título “Our Oppenheimer Moment: The Creation of A.I. Weapons”.

Su autor, Alexander Karp, es el versátil director ejecutivo de Palantir, empresa productora de software de análisis de datos cuyo ámbito operativo abarca los sectores privado y público, con una presencia prominente en todo lo referente al uso de la fuerza por el gobierno de los Estados Unidos, tanto en el ámbito interno como internacional.

Karp trazaba un paralelismo entre la física nuclear y la ciencia de la computación, cuyos resultados prácticos no serían simples ventajas en el terreno militar, sino que alterarían sus coordenadas mismas. El paralelismo se extendía a dos ámbitos distintos: los dilemas morales que ambas plantean y sus consecuencias para la relación de poder entre los estados.

En cuanto a los dilemas morales, la idea central era que, así como los integrantes del proyecto Manhattan habían procedido a construir la bomba atómica pese a que su naturaleza y, aún más, sus efectos eran todavía inciertos, ahora habría que soltar las riendas de quienes trabajan en inteligencia artificial (IA), aun reconociendo los riesgos de esa apuesta.

Karp recordaba oportunamente la desesperación de Oppenheimer después de la destrucción de Hiroshima y Nagasaki. Pero omitía la angustia que había llevado a Albert Einstein, el 2 de agosto de 1939, a advertir al presidente Roosevelt sobre la posibilidad de producir una reacción en cadena capaz de originar una enorme energía y, tal vez, bombas potentísimas de nuevo tipo; los alemanes ya habían descubierto el proceso físico en la base de dicha reacción, la fisión nuclear.

A partir de septiembre del mismo año, la cronología es apremiante: la invasión de Europa por parte de las tropas de Hitler se extiende rápidamente y, después de Pearl Harbor (diciembre de 1941), la guerra alcanza el Pacífico. En marzo de 1943 se inauguran los laboratorios de Los Álamos, en julio de 1945 se realiza el primer ensayo nuclear y en agosto se usan dos bombas atómicas en Japón. Cualquiera sea nuestra opinión sobre estos últimos dos pasos, se dieron en un contexto extraordinariamente específico.

Hay otra diferencia básica: la relación de subordinación jerárquica de los científicos en Los Álamos, empleados del estado, frente al vínculo contractual que liga al gobierno de Trump con empresas privadas como Palantir. No sorprenden las insistentes proclamas de patriotismo de Karp, ni su alivio al comprobar la alineación entre los intereses de su empresa y los del país. Ah, bien, pero… ¿y si no lo fueran?

En lo que se refiere a la relación de poder entre los estados, como hicieron en su tiempo muchos de los físicos involucrados en cuestiones nucleares, Karp subraya el riesgo de quedarse atrás. Pero, en el caso de las armas atómicas, el reconocimiento de su tremendo poder destructivo dio lugar a un consenso sobre la necesidad de prevenir su uso: se impuso la estrategia de la disuasión —terrorífica en sus premisas, pero, en cierto sentido, estabilizadora en sus consecuencias.

La superioridad estadounidense en las nuevas tecnologías, en cambio, no ha producido un mecanismo de contención; al contrario, se ha combinado con un uso frecuente y despreocupado de la fuerza militar en ámbitos diversos, desde las operaciones de la agencia de Inmigración y Control de Aduanas (ICE) hasta las del departamento de Defensa.

Volví sobre aquella nota a raíz de la agresión militar contra Irán. Entre los blancos de las fuerzas aéreas al abrirse el conflicto, sobresalen algunas figuras eminentes del régimen y las más de 170 víctimas, la mayoría niñas y adolescentes, del bombardeo a una escuela primaria del sur del país (zona de operación de los Estados Unidos). Una serie de asesinatos selectivos y un dramático error de localización, aun sin responsables, inauguraron una acción militar cuya legitimidad jurídica y eficacia política resultan difíciles de sostener.

Palantir se encuentra profundamente involucrada en esta acción a través de su Maven Smart System, un sistema de software que integra grandes cantidades de información y emplea técnicas de IA para identificar y priorizar objetivos; en el primer día de guerra ayudó a procesar y ejecutar operaciones contra más de mil blancos. A la espera de los resultados de la investigación oficial sobre el “accidente”, solo puede decirse que, en el caso de la escuela, lo que terminó en el target package de un “operador” fue información obsoleta.

Comprimir los tiempos de reacción puede ser vital en las operaciones defensivas; menos evidente resulta la utilidad de acelerar la kill chain de un ataque planificado con antelación. Antes incluso de las obligaciones impuestas por el derecho internacional humanitario, un elemental sentido de humanidad exige a los combatientes distinguir entre objetivos militares y civiles, aplicar el principio de proporcionalidad y tomar las precauciones necesarias para minimizar los daños civiles.

Pero ¿cómo puede hacerlo un operador encargado de validar en pocos segundos un target producido dentro de un sistema que procesa miles de datos y objetivos? ¿En qué se resuelve entonces la presencia del ser humano: en la subordinación de los programas a su decisión final o en su subordinación a ellos y, como anexo, en la asunción de la responsabilidad legal por decisiones que otros —humanos y máquinas— han producido?

Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín