Esperanza organizada o locura organizada
León XIV pidió instituciones internacionales que controlen la inteligencia artificial. El autor repasa los encuentros de octubre en Buenos Aires, Boston y Roma, y plantea una soberanía digital latinoamericana sin dependencia de los gigantes tecnológicos.
La inteligencia artificial se ha convertido no solo en un elefante en el bazar, sino también en una hormiga en nuestro cerebro. Amenaza con destruir ocupaciones clásicas -comenzando como la de los programadores- e inflar burbujas financieras insostenibles; y al mismo tiempo nos inunda con una “estanflación cognitiva” –inflación de información y deflación de sensibilidad–, que por instancias convierte en “zoombies digitales” a personas apegadas a las pantallas con serios riesgos de adicción.
La Encíclica Magnífica Humanitas es una apelación sustancial para rebelarnos contra este modelo de negocios y reconstruir lo que León XIV denomina “constelaciones de esperanza”. Es decir, una tecnología que esté al servicio del ser humano, y no al revés.
No son sólo palabras, sino acciones concretas las que desde el Vaticano se han desplegado desde el lanzamiento de esta Encíclica. Sus conceptos han tenido un eco impresionante en los últimos meses, elevando la conciencia universal acerca de lo que está en juego. Un ejemplo de todo esto es lo que me ha tocado vivir en encuentros de alto nivel, como miembro de la Academia Pontificia de Ciencias Sociales de la Santa Sede -donde venimos trabajando hace más de una década en temas de IA-, y de la Comisión Vaticana sobre IA, que tiene como propósito coordinar las acciones que al máximo nivel se despliegan desde Roma.
En Buenos Aires, hace un par de semanas, en el marco de la Red IA-LAT que lanzamos hace un año en el Vaticano, reunimos a científicos jerarquizados de todo el mundo, junto a representantes del mundo empresarial, laboral y de la sociedad civil mundial, con quienes abordamos experiencias claves con especial énfasis en la soberanía y dignidad de la IA en América Latina. Allí pudimos discutir, entre otras cosas, los diferentes enfoques regulatorios y el debate inmenso que se está dando en las propias entrañas del poder tecnológico americano en torno de la instalación de data centers. También analizamos las instancias negociadoras que llevaron a Brasil a aprobar con amplísimo consenso una ley de protección de los menores en el universo digital; el modo de mejor distribuir los beneficios generados por los minerales críticos y las acciones que se requieren desde el Estado para evitar la tentación de la auto-regulación empresarial y la destrucción acelerada de puestos de trabajo. Con los expertos del Laboratorio de IA de la Facultad de Derecho de la UBA también se analizaron los beneficios para agilizar la tramitación de expedientes judiciales, junto al rol de la IA agéntica que, al decir del propio Papa León, no es sólo una tecnología sino algo que se “desarrolla” y “crece” con el gran riesgo que escape al control humano.
La Academia de Ciencias Sociales del Vaticano, la Red IA-LAT y la Universidad de Massachussets, también nos permitió convocar en Boston, unos días después, a un importante nivel de policy makers que compartieron las experiencias de aplicación de la IA en el ámbito de la salud, la educación y la industria manufacturera y logística. La advertencia sobre los ciberataques biológicos y la fabricación de virus letales no estuvo ausente en la discusión. Allí pude advertir con claridad que hoy el debate trasciende la distinción entre países más o menos desarrollados, para ocupar otro espacio: conciencias humanas más o menos desarrolladas frente a este tipo de desafíos existenciales.
Unas horas más tarde de estas actividades, en la Casina Pío IV, en los jardines del Vaticano, la Academia de Ciencias de la Vida también nos permitió congregar a figuras de inmensa magnitud en el universo tecnológico –como Stuart Russell, por ejemplo, el autor más citado sobre IA en el mundo–, y Max Tegmark –creador del Future of Life Institute–, con quienes pudimos reafirmar la necesidad de acciones urgentes antes de que sea demasiado tarde. Nadie se opone a la IA. Pero todos advierten que “esta IA” tal cual está concentrada en pocas manos y en mentes afiebradas por la guerra y la búsqueda de beneficios a cualquier precio, está desperdiciando la posibilidad de que la humanidad mejore y está retardando su aplicación para causas de justicia social, bien común y desarrollo humano integral. Como lo señaló la hermana Helen Alford, presidenta de nuestra Academia Pontificia de Ciencias Sociales, citando a San Juan Pablo II: “La IA puede ser amiga del ser humano o enemiga del ser humano”.
La coronación de estas iniciativas desplegadas en el mes de octubre, tuvieron su punto culminante en la audiencia que el Papa León XIV nos concedió en el Vaticano el pasado viernes. Allí fue muy preciso. Convocó a superar el bla-bla-bla de los debates interminables, y a impulsar decisiones urgentes desde los ámbitos de decisión política mundial. “Quisiera destacar -señaló-, un desafío que quizá sea el más urgente. Ya conocemos muchos de los principios éticos que deberían guiar el desarrollo de la inteligencia artificial. Lo que necesitamos actualmente son instituciones capaces de poner en práctica esos principios, especialmente instituciones internacionales eficaces que puedan salvaguardar el bien común global…Esto exige normas compartidas, supervisión independiente y mecanismos claros de rendición de cuentas, de modo que las decisiones relativas al desarrollo y al uso de la inteligencia artificial puedan ser examinadas, cuestionadas si es necesario y acompañadas de medidas de reparación adecuadas por cualquier daño causado”.
Y también nos dejó una reflexión que se aplica mucho a los desafíos de soberanía digital que desde América Latina podemos impulsar, dándole un lugar a las comunidades de código abierto, a las cooperativas de datos, a la creatividad de jóvenes desarrolladores y estados locales que no quieren caer en la dependencia de los grandes gigantes tecnológicos que lanzan al mercado modelos de fronteras sin invertir adecuadamente en su seguridad. En palabras de León XIV durante la audiencia que nos concedió: “Quienes consideran su desarrollo únicamente como una carrera que hay que ganar corren el riesgo de concentrarse solo en la línea de meta, olvidando a cuantos quedan atrás. Un sistema fiable que esté al servicio de la persona humana es más valioso que un sistema extraordinariamente potente, pero cuyas consecuencias no pueden preverse ni controlarse adecuadamente”.
Mientras León XIV está en camino rumbo a la Patria Grande de América Latina, lo espera este sueño de pueblos con un grito de paz. La locura organizada no puede tener la última palabra.
*Miembro de la Academia Pontificia de Ciencias Sociales y de la Comisión Vaticana sobre IA.
