Desarrollo Social, la IA, y los gemelos digitales
La IA es una tecnología revolucionaria; aunque en muchos ámbitos promete más de lo que cumple. El Ministerio de Capital Humano anunció la intención de incorporar modelos de IA y gemelos digitales para mejorar las políticas de desarrollo social en la Argentina.
Surgieron algunas controversias, en su mayoría infundadas. La medida es innovadora, extremadamente compleja, y obviamente no carente de riesgos; pero podría ser muy positiva. Implicaría un primer avance en la creación de una capa de inferencia pública en un Estado de la región. Sin embargo, la realidad de la IA en las cuestiones de desarrollo social y la capacidad de los gemelos digitales distan bastante de la promesa que habitualmente se oye sobre los modelos predictivos.
La tecnología de gemelos digitales asume que las características y comportamientos de una parte de la realidad podrían ser representados por cantidades y relaciones matemáticas, al punto de establecerse una correlación entre el mundo digital, y el sistema físico en evaluación.
El uso de gemelos digitales a problemas humanos primero lo importó la medicina desde la ingeniería. En ingeniería, el gemelo digital aproximaría el comportamiento de un sistema físico como un motor. A partir del gemelo podría predecir el comportamiento del motor sin necesidad de recurrir a él: cambiando los parámetros de las funciones matemáticas que lo representan, predeciría su comportamiento frente a cambios controlados.
En medicina, el gemelo digital de un corazón podría representar el funcionamiento cardíaco frente a cambios de altura, temperatura, o medicamentos, sin necesidad de experimentar directamente en el corazón de un paciente. El gemelo digital es un tipo de modelo predictivo, que puede funcionar como información para otros modelos estadísticos. Hasta aquí, dado que los sistemas mencionados obedecen invariablemente leyes de la física y la química, es razonable su representación matemática.
Viniendo a lo social se complejiza mucho. La realidad es extremadamente variable, y es atravesada por decisiones libres de sus agentes. Frente a comportamientos variables la única alternativa es insertar en los gemelos modelos de la incertidumbre. Ahora las representaciones matemáticas de la realidad encuentran límites profundos, porque no todo es cuantificable, y el gemelo podrá aproximar el comportamiento del sistema representado de forma probabilística. Es decir que, el gemelo expresará el comportamiento más probable de la persona o comunidad, indefectiblemente con un margen de error, e invariablemente recortando la realidad entre algunos de sus múltiples aspectos cuantificables, y ninguno de aquellos no numéricamente reproducibles.
La decisión ahora, qué política social aplicar, dónde, y cómo, se verá indudablemente enriquecida por el modelo predictivo. Pero entra en un nuevo territorio; el funcionario habrá de decidir junto a una máquina que recorta la realidad, que no la comprende, y que conlleva incertidumbre en la solución que propone.
Asimismo, el gemelo digital de la sociedad o las personas no es un instrumento neutral que predice sino un sistema que optimiza los objetivos que alguien le fija. Y determinar qué deseo predecir, y cómo interpretar los resultados de un modelo predictivo, es todo un arte.
La medicina lo cultiva en la teoría del diagnóstico. No es sencilla. La dirección que eligió Capital Humano es la correcta. Pero la promesa de los modelos predictivos puede transformarse en un problema. La política deberá responderse algunas preguntas fundamentales.
Quién y bajo qué condiciones definirá la representación de la realidad que optimizará el modelo. Cómo se capacitará el funcionariado para trabajar con modelos de diagnóstico social poderosísimos que, aun cuando simulen ser exactos, necesariamente conllevan incertidumbre que debe ser manejada con varios tecnicismos.
Cuál será el modo de reclamo con que los ciudadanos podrán contestar las clasificaciones o predicciones anticipadas por los modelos (cada día son más los casos de errores serios al tratar de aplicar IA a las políticas sociales).
Finalmente, lo más importante. Hay momentos en que una característica del sistema es de tal naturaleza que pierde sentido ponerse demasiado predictivos. Ejemplo, si el tsunami lanzó una ola enorme, su altitud exacta no importa tanto como disponer de vías de escape del cataclismo. La Argentina hoy sufre ciertos problemas sociales cuya magnitud hace menos relevante la predicción que un modelo estadístico pueda hacer, con todo lo interesante que ella pueda ser.
Por ejemplo, si la mitad de los chicos entra insuficientemente vacunado a primer grado, la realidad es que precisiones ulteriores agregarán poco a la solución óptima (en este caso la vacunación debe ser masiva). Si entendemos que casi 90% de los alumnos de último año de secundaria tiene un nivel menor a satisfactorio en matemáticas, después de 10 años en la escuela, una predicción de quién va a fracasar y quien no para determinar la política educativa carece de sentido; debe cambiarse urgente la enseñanza de las matemáticas, de raíz y sin mayor análisis.
La iniciativa de Capital Humano nos introduce en la creación de una capa de inferencia pública. Esto es indispensable, estando como estamos a las puertas de la era de la inteligencia artificial. Y esta tecnología, igual que un niño su primer día de clase, es una promesa cuyo cumplimiento exigirá enormes esfuerzos, y especialmente el cuidado que solo un ser humano puede hacer de sus semejantes. Más que el gemelo digital es el prójimo quien sabe con mayor exactitud hacia dónde va la sociedad. Modelo predictivo alguno podrá jamás superar eso. Sin embargo, la IA será de gran ayuda.
