La IA, el mercado y la confusión de Milei
“Podríamos perder el control del futuro a manos de la IA. El riesgo es que se mueva tan rápido que la gente ya no pueda seguir lo que está pasando o intervenir cuando sea necesario. Esto sería obviamente terrible”, dijo Sam Altman, líder de OpenAI, la semana pasada en el Consejo de Seguridad de la ONU.
La advertencia fue acompañada, allí mismo, por el líder de Anthropic, Darío Amodei, y Yoshua Bengio, investigador canadiense considerado uno de los “padrinos” de la IA y copresidente del Panel Científico Internacional Independiente creado por la Asamblea General de la ONU.
“Donde muchos ven una amenaza, nosotros vemos una frontera. La Inteligencia Artificial o superinteligencia, como dice el presidente Trump, puede multiplicar nuestra productividad en órdenes de magnitud que todavía no comprendemos. ¿Eso exige prudencia? Sí. Pero prudencia no significa miedo, y, es más, el miedo bajo ningún punto de vista debería convertirse automáticamente en obediencia”, dijo ese mismo día, en la Asamblea General, el presidente argentino Javier Milei.
¿Cómo es esto? ¿Los que desarrollan un negocio multimillonario, como el de la IA, piden poner límites, y quien no lo desarrolla pide propiciarlo?
Cuando Altman o Amodei, incluso Elon Musk, advierten sobre los riesgos de la IA no están discutiendo cuánto debe crecer su mercado ni si los gobiernos deben promover inversiones.
Hablan de la seguridad con la que se desarrollan los modelos más avanzados ("en la frontera", les dicen) que, en su versión agéntica (cumplen objetivos en forma autónoma), ya mostraron que pueden cometer todo tipo de torpezas, con tal de llegar a su meta.
La preocupación crece ante la posibilidad de que esos modelos (no son el chatbot que usamos a diario) creen a sus propios sucesores, que sean aún más ingobernables para el ser humano.
Milei sugiere que esos temores son usados para justificar un control por parte de los Estados que desalienten las inversiones. Pero la discusión es otra. Una cosa es debatir cuánto debe intervenir el Estado en el mercado de la IA y otra, muy distinta, qué medidas de seguridad deberían cumplir los sistemas más poderosos antes de ser desplegados.
Sería como confundir las regulaciones que limitan el mercado aeronáutico con las normas que impiden que un avión despegue sin superar determinadas pruebas de seguridad.
El mismo Trump muestra que ambas posiciones pueden coexistir. Su gobierno busca que EE.UU. no pierda la carrera tecnológica frente a China y por eso despliega una narrativa antirregulación.
Pero intervino ante el modelo Fable de Anthropic, en junio pasado, cuando surgieron alertas sobre sus posibles riesgos. La empresa recibió un ultimátum de 90 minutos para retirarlo.
Está bueno que la Argentina impulse el desarrollo de su economía del conocimiento de la mano de la IA y que evite regulaciones burocráticas. Pero eso no implica dejar de debatir qué límites de seguridad deben tener los modelos. Son cosas bien diferentes.
Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín
