Dignidad humana y poder en la era de la inteligencia artificial

Usamos algoritmos para elegir una ruta, ordenar la agenda o filtrar noticias. Pero cuando intervienen en el acceso al trabajo, al crédito o a la salud, o en decisiones militares, la discusión es política y ética: ¿quién protege a las personas cuando sus derechos dependen de sistemas opacos?

La encíclica Magnifica Humanitas de León XIV aborda este dilema, 135 años después de que Rerum Novarum planteara la cuestión obrera en la era industrial. Sin rechazar la innovación, advierte sobre sus efectos en la dignidad humana: la IA es también una herramienta de poder para clasificar, predecir, condicionar y excluir.

Esta mutación tecnológica reconfigura además el escenario geopolítico. La IA requiere infraestructuras altamente concentradas: semiconductores de avanzada, capacidad de cómputo, gigantescos centros de datos y enormes volúmenes de energía. Quienes dominan esos recursos no solo obtienen beneficios comerciales, sino que conquistan la capacidad de fijar estándares, influir en la circulación pública de información y proyectar sus propios valores sobre el resto del mundo.

Para países en desarrollo o economías emergentes, la soberanía tecnológica se juega en tres frentes: el material (acceso a infraestructura), el normativo (capacidad de regular) y el cognitivo. Este último es crucial: implica garantizar que los modelos de IA entiendan nuestras variantes lingüísticas, nuestras instituciones y nuestras realidades sociales, en lugar de importar, sin filtro, sesgos y categorías elaborados en otros contextos. De lo contrario, corremos el riesgo de ingresar a la era digital como meros usuarios y proveedores de datos, subordinados a reglas ajenas.

Frente a este escenario de alta concentración privada, resulta tentador pensar en el Estado como la solución automática. Pero el dilema es más complejo. Si bien necesitamos un Estado con capacidad técnica para auditar y regular a las grandes plataformas, los gobiernos también pueden utilizar estas herramientas para encarar formas inéditas de vigilancia o control social. No se trata de inflar el rol estatal sin frenos, sino de consolidar un Estado democrático, fuerte en sus capacidades analíticas, pero estrictamente subordinado al Estado de derecho y a los derechos fundamentales.

Pero existe otro desafío, menos visible y igualmente profundo: la posibilidad de que, a medida que la IA nos ofrece respuestas cada vez más rápidas y convincentes, deleguemos también nuestra capacidad de juzgar. La IA puede ampliar enormemente nuestra capacidad para reunir información, analizar escenarios y comparar alternativas. Sin embargo, el juicio humano no consiste simplemente en elegir la opción estadísticamente más eficiente. Exige comprender el contexto, ponderar valores en tensión, actuar bajo incertidumbre y asumir las consecuencias. Por eso, aprovechar esta tecnología no implica renunciar al criterio propio, sino conservar la libertad y la capacidad efectiva de cuestionar, modificar o rechazar sus recomendaciones.

Por otra parte, la ética del desarrollo tecnológico exige definir límites claros: hay decisiones que jamás deberían automatizarse por completo. La justicia penal, la asistencia social crítica, las decisiones médicas de alta complejidad y, de forma categórica, el uso de la fuerza o las armas autónomas deben conservar siempre una instancia de decisión humana.

Cuando un sistema falla o discrimina, apelar al pretexto de que "fue un error del algoritmo" es inaceptable. Los programas informáticos no rinden cuentas ante un tribunal ni asumen responsabilidad moral. Detrás de cada implementación existen decisiones humanas: programadores, ejecutivos y funcionarios públicos que seleccionaron los datos de entrenamiento y autorizaron su despliegue. La trazabilidad y la responsabilidad legal deben estar claramente identificadas.

Asimismo, debemos evitar que la "supervisión humana" se reduzca a una mera firma formal o burocrática por parte de un operador que no comprende el funcionamiento interno del sistema. Para que el control sea real, el derecho debe exigir transparencia, explicación clara de los parámetros utilizados y canales efectivos para que cualquier ciudadano pueda impugnar una decisión automatizada.

Esta cuestión interpela de manera directa a las empresas. La IA promete importantes ganancias de productividad, pero su incorporación no debería evaluarse únicamente por la reducción de costos o la automatización de tareas. El trabajo también es un espacio donde las personas desarrollan sus talentos, ejercen la creatividad, aprenden a decidir y construyen vínculos. La responsabilidad de quienes lideran organizaciones consiste en utilizar estas herramientas para potenciar esas capacidades, y no para reemplazar indiscriminadamente la iniciativa y el discernimiento de los trabajadores.

La educación será decisiva para lograrlo. No alcanza con enseñar a utilizar nuevas herramientas ni con adquirir competencias digitales. Se necesita fortalecer la capacidad de formular buenas preguntas, distinguir una respuesta convincente de un conocimiento bien fundamentado, pensar críticamente y actuar con responsabilidad. Esa formación debe comenzar en la escuela y la universidad, pero continuar durante toda la vida laboral. Cuanto mayor sea el poder de los sistemas de IA, más importante será formar personas capaces de gobernar su uso sin depender intelectualmente de ellos.

A nivel internacional, construir consensos de gobernanza global resulta indispensable pero complejo, en un contexto signado por la rivalidad tecnológica y militar entre grandes potencias. En este punto, la diplomacia multilateral, regional y la diplomacia pontificia pueden cumplir un rol clave como articuladoras de acuerdos básicos en materias sensibles como ciberseguridad, desinformación y sistemas de armas. Argentina, con antecedentes valiosos como las Recomendaciones para una IA Fiable (2023) o la Guía de Controles para el Sector Público (2026), tiene la oportunidad de consolidar una política de Estado que combine desarrollo científico con resguardo soberano.

León XIV sintetiza este desafío a través de una consigna provocadora: «desarmar la inteligencia artificial». La frase no es una invitación a detener el progreso científico ni a caer en posturas neoluditas. Significa romper la falsa equivalencia entre el poder tecnológico y el derecho automático a gobernar a la sociedad. Se trata de sustraer la tecnología de la lógica del monopolio y de la carrera de armamentos, asegurando que la técnica permanezca como una herramienta al servicio de la persona y del bien común. En definitiva, no se trata solamente de poner límites al poder de la IA, sino también de fortalecer el juicio, la educación y la responsabilidad de las personas llamadas a orientarlo.

Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín