Proyecto Gemelo Digital del Gobierno: los puntos ciegos y el nulo control generan preocupación
El gobierno de Javier Milei anunció, a través del Ministerio de Capital Humano, que pondrá en marcha una herramienta de inteligencia artificial para integrar los datos de los ciudadanos en un sistema de información que pueda "simular lo que ocurre" y, sobre todo, predecir lo que sucederá a nivel social.
“Queremos evolucionar hacia un Estado predictivo, un Estado que no solamente observe la realidad una vez que los problemas ya ocurrieron , sino que tenga capacidad de anticipación, simulación y prevención”, señaló la cartera de Sandra Petovello.
La creación de un sistema de “gemelos digitales” irá más allá de los usos que se le da actualmente, especialmente en el diseño de ciudades. La incorporación de datos de individuos para las políticas públicas permitirá predecir qué ocurre si se implementa una determinada política, qué variables sociales están asociadas entre sí, cómo evolucionaría una población frente a determinadas decisiones y qué acciones optimizan mejores resultados.
Los intendentes fueron a reclamar y Pettovello, con un cartel en la puerta, los mandó a quejarse con los gobernadores
Una de las nuevas herramientas de la inteligencia artificial, un gemelo digital (digital twin) es una representación virtual y dinámica de un sistema real que permite observar, analizar, simular y anticipar comportamientos futuros a partir de grandes volúmenes de datos.
Un gemelo digital es una réplica virtual exacta de un objeto, sistema o proceso físico. Se actualiza en tiempo real utilizando datos de sensores (IoT) y utiliza Inteligencia Artificial para simular escenarios, predecir fallos y optimizar el rendimiento sin poner en riesgo la versión real.
Se llama “gemelo digital” porque construye una réplica inteligente de un sistema real, capaz de simular escenarios, por ejemplo, en tránsito, consumo energético, o salud. Sin embargo, tal como profetizó la película de Steven Spielberg, Minoirity report, el uso de datos digitales para predecir futuros comportamientos sociales, no está exenta de polémica.
La presentación oficial del sistema predictivo tampoco convenció al sector técnico. En diálogo con PERFIL, la ingeniera industrial especializada en la mejora de procesos e integración de inteligencia artificial para PYMES, Camila Velasco, analizó el lanzamiento y bajó las expectativas sobre el proyecto gubernamental. "Vi el video y me pareció muy de propaganda, hecho muy rápidamente, incluso con IA", señaló la experta, quien definió el anuncio como una movida "marketinera" para vender "con bombos y platillos" una herramienta que, en rigor, no es nueva: a nivel global, otros Estados ya utilizan modelos similares para simular el tránsito, el crecimiento urbano o el flujo de pacientes en un hospital.
Si bien la especialista reconoció que un Estado moderno y eficiente necesita tener sus bases de datos conectadas para funcionar mejor, puso la lupa sobre los enormes peligros de implementar estos modelos sin un marco de control claro. En ese sentido, dejó una definición tajante sobre el rumbo del proyecto oficial: "La IA requiere gobernanza, y acá no parece ir por ese camino", sentenció. Al analizar el panorama internacional, advirtió que mientras Europa quedó estancada por un exceso de restricciones y potencias como Estados Unidos debaten cómo frenar los riesgos, la actual gestión argentina no da señales de querer avanzar hacia una regulación equilibrada.
La recolección masiva de datos reales es el punto más crítico para la ingeniería de procesos. La experta detalló que, más allá de la innovación, el manejo de información sensible exige cumplir con protocolos estrictos de privacidad, como la obligación legal de "anonimizar" los perfiles antes de volcarlos a cualquier modelo de machine learning. A las dudas sobre quién licita y qué nivel de acceso externo habrá, la ingeniera le sumó un riesgo operativo ineludible a la hora de automatizar políticas públicas: "También va a haber alucinaciones de IA", remarcó, refiriéndose a los errores de procesamiento que obligan a auditar constantemente a los algoritmos.
Para contrarrestar la enorme exposición a la que se somete a los ciudadanos, la profesional planteó que la solución de fondo pasa por la transparencia y la formación desde las bases. "Es interesante que haya más educación sobre esto y que en los colegios se agregue a los temarios", indicó. Entender cómo operan los sesgos algorítmicos y qué hacen los sistemas con la información personal resulta fundamental, concluyó, para no quedar encandilados por una promesa tecnológica que hoy genera más incertidumbres que certezas y que "no se sabe si está tan lista" como pretende mostrar el Gobierno.
El abogado Pablo Serdán, docente de la UBA, advirtió en la plataforma X los problemas que puede acarrear este uso de los datos de los ciudadanos. El especialista señaló que la iniciativa se presentó con "música épica y gráficos de IA", como si el hecho de cruzar los datos de todos los ciudadanos y entregarlos a empresas extranjeras para predecir el futuro fuera "algo inofensivo".
En su análisis, Serdán enfatizó que la inmensa base de información recopilada pertenece "a todos los argentinos" y cuestionó duramente la legalidad de la maniobra. “Nadie consintió ser materia prima de ningún modelo”, remarcó el letrado, recordando además que la Corte Suprema acaba de fijar un límite claro en el reciente fallo Torres Abad contra la ANSES. Según explicó, la Justicia determinó que el Estado no puede usar datos personales para fines distintos al original sin el conocimiento del titular.
"Cuando alguien se atendió en un hospital público, dio sus datos para recibir atención médica. Ninguno autorizó que esos datos alimenten un modelo de IA. No hay zona gris", sentenció.
El peligro que plantea el docente universitario excede la privacidad individual y apunta de lleno a una cesión de soberanía. Serdán advirtió que compañías como Palantir, que tienen "contratos activos con agencias de inteligencia y fuerzas armadas extranjeras", están sujetas al CLOUD Act, una norma que "las obliga a entregar datos a las autoridades estadounidenses sin importar dónde estén almacenados". Esto significa, según alertó el especialista, que la información detallada de cada ciudadano "puede terminar en manos de un gobierno que no elegimos y ante el cual no tenemos ningún derecho", todo esto "sin la mediación de una orden judicial argentina, sin aviso previo y sin posibilidad de recurrir la medida".
