Custodiar lo humano: el desafío de la Justicia ante el avance de la IA

Recientemente, la Suprema Corte de Justicia de la Provincia de Buenos Aires decidió avanzar en la aprobación de un Proyecto de Reglamento para el Desarrollo y Uso Responsable de la Inteligencia Artificial (IA) en la función jurisdiccional y abrió una instancia de participación pública para que las personas interesadas puedan presentar observaciones, comentarios y propuestas.

La iniciativa parte de una realidad difícil de ignorar: la IA está en los estudios jurídicos, en las oficinas públicas, en las universidades y, de manera formal o informal, también opera dentro de los tribunales. En efecto, es una herramienta que puede, en cuestión de segundos, resumir expedientes, ordenar documentos, traducir textos, sistematizar jurisprudencia, detectar plazos, asistir en búsquedas normativas, analizar pruebas y sugerir respuestas a casos complejos. Mientras se discute cómo regularla, la IA ya ha sido incorporada como una herramienta en distintos ámbitos de la práctica judicial.

La incorporación de la IA en la Administración de Justicia no radica en sus capacidades tecnológicas, sino en las exigencias propias del Estado Constitucional de Derecho y del diseño institucional del Poder Judicial. La cuestión central no consiste en determinar si la IA puede alcanzar niveles superiores de eficiencia, sino en reconocer que la función jurisdiccional implica responsabilidad, fundamentación, control jurídico y un juicio necesariamente humano, para la tutela judicial de las garantías esenciales y el debido proceso.

Frente a este escenario, surgen diversos interrogantes: ¿Cuál debería ser el rol de la IA en los procesos judiciales? ¿Su utilización es siempre deseable? ¿Qué beneficios trae aparejados? ¿Cuáles son los riesgos? ¿Su uso debería estar prohibido en alguna etapa del proceso en particular? ¿Puede la IA desplazar a la administración de justicia humana tal y como la conocemos? ¿Puede el valor de la eficiencia marginar al valor de la justicia? ¿Quién debe responder frente a un error de los sistemas de IA, sesgos algorítmicos o alucinaciones? ¿Quién debe decidir cuando están en juego la libertad, el patrimonio, la intimidad o la vida de una persona? ¿Es absolutamente imprescindible el control humano final?

Muchas de las posibles respuestas a estas preguntas aún se encuentran bajo fuertes debates en el mundo académico y jurídico. La idea de este artículo no es encontrar la solución respecto de estos puntos tan complejos, sino la de observar, a la luz del proyecto del Máximo Tribunal de la Provincia de Buenos Aires, cuál sería el camino que nos acercaría a desenredar de mejor manera estas cuestiones problemáticas respecto del uso de la IA en la Administración de Justicia.

En este marco, debemos tener presente las palabras del Papa Francisco, en la Sesión del G7 sobre IA, en Borgo Egnazia, Apulia, Italia, el 14 de junio de 2024, cuando expresó: “La ciencia y la tecnología son, por lo tanto, producto extraordinario del potencial creativo que poseemos los seres humanos…” (…) “…la inteligencia artificial se origina precisamente a partir del uso de este potencial creativo que Dios nos ha dado.” (…) “La inteligencia artificial usa operaciones algebraicas que se realizan según una secuencia lógica…” (…) “…no está dotado ni de objetividad ni de neutralidad. Al estar basado en el álgebra puede examinar sólo realidades formalizadas en términos numéricos.”

El Proyecto de Reglamento tiene diversas virtudes, entre ellas la de establecer que: “…corresponde reafirmar que la función jurisdiccional es indelegable e insustituible, no pudiendo ser ejercida ni reemplazada por sistemas automatizados.” La IA puede ser una herramienta, pero nunca un sustituto del operador judicial. La IA no puede resolver un proceso, valorar pruebas, reemplazar el juicio jurídico o convertirse en el fundamento único de una decisión judicial. Las sentencias no deben reducirse a predicciones estadísticas. Por el contrario, deben contener razones y expedirse respecto de los alegatos y pruebas presentadas por las partes, elementos que posibilitan el control ciudadano de la labor judicial.

Se distingue entre usos de bajo riesgo, usos de alto riesgo y usos prohibidos. Esta idea supone que no todas formas de emplear a la IA son iguales, ni importan los mismos riesgos. La clasificación por niveles permite habilitar ciertos usos y restringir otros según comprometan en mayor o menor medida los derechos e intereses ventilados en un proceso. No es lo mismo utilizarla para mejorar la redacción de un texto o transcribir una audiencia, que para determinar la concesión de una medida cautelar o estimar riesgos de reincidencia en un proceso penal.

La utilización de la IA debe respetar y subordinarse a los derechos de las personas que intervienen en un proceso, y no desplazar estas facultades o garantías bajo el argumento de la eficiencia, la celeridad o las ventajas derivadas de la automatización algorítmica. En particular, deben destacarse el derecho a la igualdad, no discriminación, equidad procesal, privacidad y protección de datos personales, y la garantía de libertad y seguridad.

La IA aprende de datos, que muchas veces pueden reflejar desigualdades, errores, prejuicios o prácticas institucionales defectuosas, por ello se deben basar en los principios de los derechos humanos para, entre otras cosas, poder controlar el uso de la IA, evitar sesgos y exclusiones y así impedir filtraciones de datos.

En este marco, se debe mencionar que el Proyecto de la Suprema Corte creó una Comisión de Gobernanza y Uso de Inteligencia Artificial, circunstancia que pone en evidencia la complejidad del problema, sugiriendo que debe estar bajo revisión constante frente al cambio tecnológico, requiriendo diálogo institucional, diagnósticos, pruebas pilotos, auditorías, análisis de impacto algorítmico, evaluación de sesgos, capacitaciones y estándares de seguridad.

A nivel mundial, la discusión ya no pasa por determinar si la IA debe ser utilizada por los operadores de justicia, sino por definir bajo qué reglas, con qué controles y grado de responsabilidad humana debe incorporarse. Está claro que la justicia debe utilizar herramientas tecnológicas y, para ello, puede servirse de algoritmos, pero lo que no puede hacer es esconderse detrás de ellos y renunciar a su deber de juzgar, el cual siempre debe tener control humano. Es muy importante asegurarnos de que ninguna herramienta por poderosa que sea, termine decidiendo por nosotros lo que solo a una consciencia humana le corresponde decidir. Debemos custodiar lo humano.

Para finalizar debemos tener presente lo expresado por el Santo Padre León XIV, en la Carta Encíclica Magnifica Humanitas, cuando señala: “Las innovaciones tecnológicas -incluida la inteligencia artificial- no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión. Por eso, han de ser examinadas con una pregunta decisiva: ¿contribuyen realmente a hacer crecer a las personas y a los pueblos en humanidad y fraternidad, en el respeto a la Casa común y a las generaciones futuras? Es aquí donde los principios de la Doctrina Social se vuelven criterios concretos de discernimiento…”

Finalmente, se puede afirmar que el límite constitucional a la utilización de la IA en la Administración de Justicia no es tecnológico sino institucional, exigiendo la decisión de los Magistrados de responsabilidad, motivación, control y juicio humano final.