La IA no necesita matar lo que ya gobierna

El detonante fue Anthropic. Evan Hubinger, que dirige su equipo de Alignment Science, dijo el 9 de septiembre, a título personal, que hay más de un 10% de chances de que la IA extinga a la humanidad en diez años. Cree que “podría matar a todos los seres humanos”.

Lo dijo horas después de que Jacob Coxon, que pasó por OpenAI y Anthropic, renunciara denunciando la carrera hacia sistemas que pronto, escribió, hackearán cualquier cosa y acumularán poder real.

No todos coinciden. Yann LeCun, de Meta, considera esos escenarios remotísimos. Y hasta los más alarmados admiten que los sistemas de hoy no pueden ni quieren destruirnos.

Discutimos si la máquina nos matará. Pero esa discusión es una cortina. La máquina la hizo el hombre, para el bien y para el mal, y mientras miramos el apocalipsis lejano, aprende algo más eficiente que aniquilarnos. Nos hace votar.

Miremos el hemisferio. Brasil vota el 4 de octubre con más de 155 millones de electores, y llegó con la regulación más ambiciosa de la región. Su resolución 23.755 prohíbe los deepfakes electorales, obliga a etiquetar todo contenido hecho con IA y apaga el material sintético en los días de votación. En ciertos casos, invierte la carga de la prueba. Una apuesta enorme por el Estado como árbitro de lo verdadero.

Y sin embargo. El 1º de septiembre, a cinco semanas del voto, ese mismo tribunal dejó firme el rechazo a sancionar a Flávio Bolsonaro por un video que recreó con IA la imagen y la voz de su padre. Cuatro votos a tres. El argumento fue de manual. Una convención partidaria no es, técnicamente, propaganda electoral.

Traduzco. El país con la ley más dura del continente, en su primer examen, avaló el deepfake por una cuestión de definición. La norma existía. El primer test la vació. Legislar es condición necesaria, nunca suficiente.

Estados Unidos ofrece la imagen inversa, la del vacío deliberado. No hay marco federal. El Senado tumbó, 99 a 1, la moratoria que frenaba a los estados, y hoy treinta y tres jurisdicciones regulan los deepfakes de campaña mientras Washington llega tarde a todo.

El resultado es cruel. Una candidata golpeada por un video falso no debate políticas. Se pasa la campaña desmintiendo una fabricación. Y cuando la mentira corre más rápido que la aclaración, el daño ya es irreversible.

Ahí está la señal de alarma. El riesgo de “alineación” que desvela a los ingenieros de Anthropic, que un sistema persiga un objetivo incompatible con lo que queremos los humanos, tiene una versión electoral que no necesita superinteligencia ni robots homicidas.

Un algoritmo de recomendación que optimiza nuestra atención no necesita “querer” polarizarnos. Lo hace porque la indignación retiene mejor que el matiz. Y un LLM no necesita odiar a un candidato para hundirlo. Basta con que alguien lo use para fabricar lo que ese candidato nunca dijo. Que la máquina persiga un fin ajeno al bien común no es un escenario de 2036. Es el modelo de negocio de 2026.

Y acá viene lo nuestro. La Argentina decidió no dar esta discusión. En Davos, el ministro de Desregulación fue textual. El Gobierno no quiere regular la IA. Milei lo enmarcó como mantenerla “sin regulación prematura y mal entendida”.

No es pura retórica. Es el Súper RIGI, que ofrece estabilidad jurídica por treinta años a inversiones millonarias, con beneficios que ninguna ley posterior podría tocar.

El anzuelo ya mordió. OpenAI y Sur Energy firmaron por Stargate Argentina, un data center patagónico de hasta 25.000 millones de dólares. La polaca Green Capital anunció Atlas GigaHub, cerca de Trelew, con un desembolso inicial de entre 3.000 y 5.000 millones. Y en Bahía Blanca, Pampa Energía comprometió 30 megavatios para la primera etapa de IT Park.

Impresiona hasta que uno mira el punto de partida. Hoy la Argentina tiene 73 megavatios operativos en 45 centros. Brasil, 2.100. Chile, 624. Prometemos ser potencia de cómputo arrancando de un poroto.

Y ahí cae la pregunta. Si estamos sobre semejante fortuna, ¿por qué la desperdiciamos hace décadas? No es geológico, es de espejo. No nos faltó viento, ni gas, ni sol. Nos sobró desconfianza propia. Medio siglo de inflación, cepos y reglas cambiantes espantó al capital que hoy salimos a mendigar. Nunca fue un problema de recursos. Fue de palabra. La de un país que firma un lunes lo que deroga un jueves.

Por eso hubo que blindar la promesa por treinta años. Ese candado es una confesión. Si jurás por tres décadas que esta vez no traicionás el contrato, es porque lo traicionaste demasiadas veces.

El desorden que nos volvió impresentables era, en el fondo, ausencia de reglas. Hoy vendemos esa misma ausencia como una virtud, corrida de lugar. La sacamos de la moneda, donde nos fundió, y la instalamos en la información pública. Ahí no funde bancos. Define elecciones.

Hasta Reuters lo dijo con una crudeza que acá solo se murmura. La Patagonia seduce, en parte, porque el argentino todavía no pagó el costo de estas moles y por eso no protesta. Nuestra ventaja competitiva es, además de la energía, la ignorancia de lo que se viene.

Alojar la infraestructura de la IA, sin capital ni cómputo propio, es una forma legítima de arañar un asiento en la mesa donde se reparte el futuro. La jugada tiene olfato. Pero hay dos mesas, y el truco es no confundirlas.

En una mesa se define quién construye la máquina. En la otra, quién le pone reglas a lo que hace con la verdad y con el voto. Estados Unidos, aun sin marco federal, se sienta en la segunda. Sus treinta y tres estados que regulan los deepfakes de campaña son, con todos sus parches, un intento. Brasil también se sentó, y descubrió que sentarse no basta. Nosotros ni acercamos la silla.

La misma ausencia de reglas que enamora al inversor es la que, cuando votemos en 2027, nos va a encontrar sin el andamiaje imperfecto que Brasil ya estrena. Ellos discuten si su ley sirve. Nosotros ni tenemos ley que discutir.

No hace falta creer en el apocalipsis de Hubinger para inquietarse. Alcanza con entender que una tecnología capaz de perseguir fines que nadie eligió ya está desplegada sobre lo más frágil de una república. La posibilidad de que millones se pongan de acuerdo sobre qué es cierto.

Si voto sobre hechos que no puedo verificar, perdí soberanía mucho antes de cualquier extinción.

Esa decisión no la toma el mercado. La toma la política, o no la toma nadie. Y entonces la toma, por descarte, quien tenga el mejor algoritmo.

Al final de Terminator 2, Sarah Connor lo dice mejor. “El futuro desconocido rueda hacia nosotros. Lo afronto por primera vez con una sensación de esperanza. Porque si una máquina, un Terminator, puede aprender el valor de la vida humana, tal vez nosotros también podamos”.