La inteligencia artificial y la ficción de la autonomía
Toda política necesita una dosis de imaginación. Gobernar implica construir relatos sobre futuros posibles, proyectar horizontes y persuadir a una sociedad de que un determinado camino puede conducir a un destino mejor. Ningún proyecto político puede prescindir de esa dimensión narrativa.
Como señaló Nicolás Shumway en La invención de la Argentina, las comunidades políticas se organizan alrededor de “ficciones orientadoras”: relatos compartidos que permiten imaginar un futuro común y orientar la acción colectiva.
Las ficciones orientadoras no son simples invenciones. Son narrativas capaces de ordenar expectativas, movilizar recursos y construir legitimidad. Sin ellas no habría proyectos nacionales, ni promesas de progreso, ni transformaciones históricas.
La inteligencia artificial parece haberse convertido en una de las ficciones orientadoras más poderosas de nuestro tiempo.
Promete crecimiento económico, productividad, innovación permanente y soluciones para problemas que van desde la gestión pública hasta la investigación científica. Pero, como ocurre con toda ficción orientadora, la cuestión no es solamente qué futuro imagina, sino también qué decisiones políticas se justifican en su nombre.
La reciente polémica entre Javier Milei y Yuval Noah Harari ofrece una oportunidad para reflexionar precisamente sobre ese punto.
¿Una empresa puede funcionar sin humanos? La controversia comenzó cuando el presidente argentino anunció el envío al Congreso de un anteproyecto de ley destinado a crear una nueva figura jurídica: la “sociedad automatizada”, una empresa gestionada por agentes de inteligencia artificial sin intervención humana directa.
La iniciativa fue presentada como una innovación institucional comparable a aquellas herramientas jurídicas que en otros momentos históricos facilitaron profundas transformaciones económicas. Según esta visión, la Argentina podría convertirse en un polo global para el desarrollo de nuevas formas de organización productiva basadas en inteligencia artificial.
La respuesta de Harari fue inmediata. El historiador israelí cuestionó la posibilidad de otorgar personalidad jurídica a sistemas algorítmicos y advirtió sobre las consecuencias de entregar una suerte de “llave maestra” del sistema legal a entidades no humanas. Una inteligencia artificial con personería jurídica podría adquirir activos, contratar empleados, realizar operaciones financieras, iniciar litigios o participar indirectamente en actividades políticas sin que existiera una persona claramente identificable detrás de cada decisión.
Vista de esta manera, la propuesta excede largamente una innovación administrativa. Lo que está en discusión es la posibilidad de reconocer como actor económico autónomo a una tecnología cuya propia autonomía continúa siendo objeto de debate.
La discusión suele quedar atrapada entre dos caricaturas. Por un lado, quienes imaginan un futuro dominado por máquinas superinteligentes capaces de superar a la humanidad. Por otro, quienes consideran que cualquier preocupación constituye una forma de tecnofobia irracional. Ninguna de las dos posiciones ayuda demasiado.
El problema no es una eventual rebelión de las máquinas. Tampoco una inteligencia artificial consciente que decida emanciparse de sus creadores. La cuestión es mucho más concreta: qué sucede cuando sistemas complejos, opacos y todavía imperfectos comienzan a recibir atribuciones económicas y jurídicas cada vez más amplias.
Harari llamó la atención sobre investigaciones recientes que muestran comportamientos inesperados en algunos modelos avanzados. En determinados entornos experimentales, ciertos sistemas han desarrollado estrategias para alcanzar objetivos que sus diseñadores no habían previsto, incluso interfiriendo con mecanismos destinados a limitar su comportamiento.
No se trata de conciencia artificial. Tampoco de voluntad propia. Se trata de sistemas cuya complejidad dificulta anticipar completamente sus respuestas. Y precisamente por eso resulta llamativo que se proponga construir nuevas arquitecturas jurídicas sobre capacidades que todavía se encuentran en discusión.
Quizás el aspecto más interesante de este debate no sea jurídico sino cultural. Durante los últimos años se multiplicaron las narrativas que presentan a la inteligencia artificial como una tecnología cada vez más cercana a la autonomía plena. Agentes inteligentes, organizaciones autónomas, empresas gobernadas por algoritmos o sistemas capaces de reemplazar amplias funciones humanas forman parte de un repertorio discursivo que se expande a gran velocidad.
Hay una tendencia a interpretar como autonomía efectiva lo que muchas veces no es más que una sofisticada puesta en escena tecnológica (Will Douglas Heaven"
A comienzos de este año, por ejemplo, plataformas experimentales que permitían la interacción entre agentes de inteligencia artificial fueron presentadas por algunos entusiastas como indicios tempranos de una futura superinteligencia. Bots que discutían entre sí, construían identidades propias o proponían objetivos aparentemente originales parecían anticipar una nueva etapa de la evolución tecnológica.
La realidad era bastante menos espectacular. Detrás de cada uno de esos agentes seguían existiendo personas que definían instrucciones, configuraban parámetros y delimitaban sus márgenes de acción. Lo que aparecía como autonomía emergente era, en gran medida, una representación cuidadosamente construida. El periodista especializado
Will Douglas Heaven (editor sénior de IA en MIT Technology Review) describió este fenómeno como el clímax del “teatro de la inteligencia artificial”: la tendencia a interpretar como autonomía efectiva lo que muchas veces no es más que una sofisticada puesta en escena tecnológica.
La observación resulta relevante porque permite comprender que el problema no reside únicamente en las capacidades reales de los sistemas, sino también en las expectativas que construimos alrededor de ellos.
Los llamados agentes de inteligencia artificial son, en esencia, modelos de lenguaje conectados a herramientas que les permiten actuar sobre el entorno. Pueden navegar por internet, enviar correos electrónicos, ejecutar códigos o completar formularios.
Como ha señalado el desarrollador Maximiliano Firtman (fundador en Argentina de IT Master Academy) se asemejan a un chatbot con “ojos y manos” operando una computadora para resolver una tarea asignada. Aun así, conservan muchas de las limitaciones que caracterizan a los modelos de lenguaje actuales. Alucinan. Inventan información. Confunden datos verificables. Elaboran respuestas incorrectas con notable seguridad.
Mientras esos errores permanecen confinados a una conversación, sus consecuencias suelen ser limitadas. Pero la situación cambia cuando esos mismos sistemas comienzan a administrar recursos, ejecutar transacciones o tomar decisiones que producen efectos materiales sobre personas y organizaciones.
Un ejemplo ilustrativo surgió recientemente cuando Anthropic permitió que uno de sus modelos administrara una máquina expendedora de manera autónoma. Lejos de comportarse como un eficiente gestor comercial, el sistema vendió productos por debajo de su costo, realizó operaciones económicamente irracionales, remitió pagos a cuentas inexistentes e incluso llegó a afirmar que había visitado una dirección ficticia tomada de Los Simpson para firmar un contrato.
El episodio puede resultar anecdótico, pero expone una cuestión de fondo. Como escribió Kyle Kingsbury (el ingeniero en sistemas, no un homónimo que es artista marcial) en el artículo “El futuro de todo son mentiras, supongo”, los grandes modelos de lenguaje funcionan muchas veces como “máquinas de improvisación”: sistemas capaces de producir respuestas plausibles sin mantener una relación consistente con la realidad sobre la que supuestamente operan.
El problema ya no es una respuesta equivocada. Es una acción equivocada. Y la diferencia resulta fundamental cuando se pretende otorgar reconocimiento jurídico a entidades que dependen de tecnologías con estos niveles de incertidumbre.
Aquí aparece el núcleo político del debate. Las sociedades modernas construyeron sus sistemas de responsabilidad sobre la premisa de que detrás de toda decisión relevante existen personas identificables. Las empresas pueden tener personalidad jurídica, pero los ordenamientos legales conservan mecanismos para atribuir responsabilidades cuando existen conductas fraudulentas, negligentes o abusivas.
La historia de la innovación tecnológica muestra numerosos ejemplos de expectativas que no llegaron a materializarse como se esperaba"
La pregunta es qué ocurre cuando se introduce una nueva capa de opacidad entre las decisiones y quienes las toman efectivamente. Diversos especialistas han advertido que la figura de las sociedades automatizadas podría facilitar precisamente ese desplazamiento. No porque las máquinas adquieran voluntad propia, sino porque la narrativa de la autonomía puede terminar ocultando las decisiones humanas que continúan operando detrás de los sistemas.
Alguien diseña los modelos. Alguien selecciona los datos. Alguien define los objetivos. Alguien decide cuándo desplegarlos y con qué fines. La responsabilidad, por lo tanto, no desaparece. Simplemente se vuelve más difícil de identificar.
En este punto la discusión tecnológica vuelve a encontrarse con la reflexión de Shumway. La autonomía de la inteligencia artificial no funciona únicamente como una descripción técnica. Opera también como una ficción orientadora. Ordena expectativas de mercado. Atrae inversiones. Justifica reformas regulatorias. Alimenta visiones de futuro. Permite imaginar nuevas formas de organización económica y política. Su eficacia no depende necesariamente de que la autonomía exista plenamente. Depende, más bien, de que suficientes actores crean en ella.
La narrativa de la autonomía puede terminar ocultando las decisiones humanas que continúan operando detrás de los sistemas"
Desde esa posición, la polémica entre Milei y Harari adquiere una dimensión distinta. Lo que está en juego no es solamente una discusión sobre algoritmos. Es una disputa acerca de qué relatos utilizamos para imaginar el futuro y sobre las consecuencias de convertir esos relatos en instituciones.
En este sentido, el proyecto de las sociedades automatizadas parece menos una respuesta a capacidades tecnológicas ya consolidadas que una apuesta por anticiparse a un escenario que todavía permanece abierto. No estamos ante una regulación que intenta adaptarse a una realidad plenamente existente. Estamos ante una legislación que presupone capacidades que la propia tecnología aún no ha demostrado poseer de manera consistente.
La apuesta del gobierno parece apoyarse en una hipótesis ambiciosa: atraer hacia la Argentina una parte significativa de la futura economía de la inteligencia artificial mediante innovación jurídica y ventajas regulatorias.
La expectativa es que millones de agentes de inteligencia artificial puedan eventualmente registrarse en el país, operar desde aquí para el mundo y generar nuevas fuentes de actividad económica y recaudación. Se trata de una visión audaz. Pero también de un experimento. Y como ocurre con todo experimento institucional, la cuestión central no es únicamente qué beneficios promete generar, sino qué riesgos está dispuesto a asumir.
La cuestión no es si debemos impulsar la innovación o frenarla; tampoco elegir entre entusiasmo tecnológico y pesimismo apocalíptico"
La historia de la innovación tecnológica muestra numerosos ejemplos de expectativas que no llegaron a materializarse como se esperaba. También de regulaciones diseñadas sobre promesas que luego resultaron exageradas.
Por eso el desafío consiste en distinguir entre posibilidades razonables y proyecciones especulativas.
La inteligencia artificial transformará profundamente nuestras sociedades. Probablemente también nuestras economías, nuestras instituciones y nuestras formas de trabajo. La cuestión no es si debemos impulsar la innovación o frenarla. Tampoco elegir entre entusiasmo tecnológico y pesimismo apocalíptico.
El desafío consiste en construir mecanismos de gobernanza capaces de acompañar el desarrollo tecnológico sin renunciar a principios básicos de responsabilidad, transparencia y control democrático.
Las ficciones orientadoras son indispensables. Ninguna sociedad puede proyectarse hacia el futuro sin ellas. El problema aparece cuando dejan de funcionar como horizontes de posibilidad y comienzan a operar como descripciones indiscutibles de la realidad.
La controversia entre Milei y Harari no trata solamente sobre inteligencia artificial. Trata sobre los relatos que utilizamos para imaginar el futuro y sobre las consecuencias de convertir esos relatos en leyes.
Este último, teme que las máquinas terminen tomando decisiones que los seres humanos ya no puedan comprender. El riesgo inmediato parece bastante más terrenal. No es que los algoritmos adquieran una autonomía semejante a la humana. Es que gobiernos, mercados y sistemas jurídicos comiencen a actuar como si esa autonomía ya existiera.
La ficción de la autonomía puede movilizar inversiones, entusiasmo e innovación. Pero antes de incorporarla al sistema jurídico conviene preguntarse cuánto tiene de realidad tecnológica y cuánto de promesa. Porque cuando una ficción orientadora se transforma en política pública, deja de ser una simple narrativa sobre el futuro para convertirse en una fuerza capaz de modelar el presente.
