La Corte Suprema bonaerense pone límites a la IA y prohíbe delegar decisiones judiciales
Mediante una resolución, el organismo recordó los límites actuales de uso de esta tecnología y estableció un reglamento provisorio. Magistrados, abogados y académicos podrán presentar observaciones antes de que se apruebe la versión definitiva del documento.
La Suprema Corte de Justicia de la provincia de Buenos Aires publicó una resolución que pone un freno a la incorporación de la Inteligencia Artificial en la Justicia. Bajo el lineamiento de que "la función jurisdiccional es indelegable insustituible", el máximo tribunal bonaerense busca elaborar un reglamento para enmarcar el uso de esta tecnología en el ámbito judicial.
La decisión surge en un contexto donde la IA atraviesa cada vez más sectores y tareas; desde atención al público a procesamiento de grandes cantidades de dato o bien la sistematización de la jurisprudencia. Más allá de sus ventajas y beneficios en referencia a la productividad, la Corte de alertó sobre los primeros desafíos que empiezan a surgir del uso sistemático de la IA en la justicia, como por ejemplo, alucinaciones, sesgos y contaminación de fuentes.
Cabe destacar que el expediente Nº 3000-21862-2026, al que pudo acceder este medio, que lo expresado en el documento tiene "caracter orientador y no vinculante" hasta que se apruebe su versión definitiva.
Así las cosas, la Resolución creó - en su artículo una Comisión de Gobernanza y Uso de Inteligencia Artificial, integrada por las Secretarías de Planificación, Tecnología Informática y Servicios Jurisdiccionales.
El expediente Nº 3000-21862-2026 es de caracter "orientador", detalló la Corte bonaerense.W
El organismo actuará como autoridad de aplicación y tendrá entre sus funciones la elaboración de protocolos, la evaluación de herramientas, la promoción de pruebas piloto, el monitoreo de resultados y la confección de informes periódicos. Además, toda la información será analizada en un informe anual sobre el estado de implementación de la IA.
El texto sostiene que el Poder Judicial de la provincia ya desarrolla la mayor parte de sus actividades en un entorno digital, un escenario que considera adecuado para incorporar estas tecnologías de manera "gradual, responsable y estratégica".
A pesar de que el reglamento no esté en su versión final, la Resolución es clara en las prohibiciones actuales sobre el uso de esta tecnología. "Bajo ninguna circunstancia se podrá delegar en una IA la toma de decisiones judiciales que impliquen la resolución del proceso o procedimiento administrativo, la valoración de pruebas o la construcción del razonamiento jurídico que fundamenta una resolución o sentencia", sentencia el documento.
El reglamento provisorio también establece límites concretos para evitar impactos sobre derechos fundamentales en el futuro. En el capítulo de principios rectores, el texto aclara que entre las prácticas prohibidas se encuentra el uso de sistemas predictivos de reincidencia cuando puedan influir de forma vinculante en decisiones relacionadas con la libertad de una persona o la prisión preventiva.
También veta la generación de "prueba sintética" mediante inteligencia artificial y la elaboración de informes periciales sin intervención efectiva y validación crítica de un perito habilitado.
Uno de los ejes centrales de la propuesta de reglamento es la categorización de los sistemas de IA según el riesgo asociado a su utilización.
Las tareas administrativas, como la transcripción de audiencias o la corrección ortográfica, quedan encuadradas dentro de la categoría de "bajo riesgo". En cambio, las herramientas destinadas a asistir funciones críticas, entre ellas la interpretación normativa o la predicción de resultados judiciales, son consideradas de "alto riesgo".
En estos casos, la normativa prevé auditorías semestrales obligatorias y la realización previa de un "Análisis de Impacto Algorítmico" antes de cualquier implementación.
El proyecto también incorpora exigencias de transparencia para magistrados y funcionarios. Cada vez que se utilice una herramienta de IA generativa en la elaboración de un documento, deberá dejarse constancia en el expediente.
La obligación incluye informar qué sistema fue utilizado, qué modelo intervino y cuáles fueron las secciones específicas producidas con asistencia tecnológica. El objetivo es que las partes involucradas puedan controlar esa participación e incluso cuestionarla si lo consideran necesario.
Sobre los datos de los ciudadanos, el organismo detalla: "El tratamiento de datos personales mediante sistemas de Inteligencia Artificial deberá ajustarse estrictamente a lo dispuesto por la Ley N° 25.326 de Protección de los Datos Personales y su normativa reglamentaria, asegurando la confidencialidad, integridad y seguridad de la información".
Además, la resolución dispone comunicar el proyecto a todos los organismos de la Administración de Justicia, al Colegio de Magistrados y Funcionarios de la provincia de Buenos Aires, al Colegio de Abogados bonaerense y a la Asociación Judicial Bonaerense. El proceso de consulta puede seguirse a través del sitio web y las redes oficiales del Tribunal.
La iniciativa se encuentra actualmente en etapa de consulta pública y permanecerá abierta hasta el 7 de agosto. Durante ese período, magistrados, abogados, académicos y otros actores vinculados al sistema judicial podrán presentar observaciones y propuestas.
Una vez finalizada esa instancia, la Comisión deberá analizar los aportes recibidos y elevar un informe a la Suprema Corte antes del 31 de agosto. Hasta la aprobación de una versión definitiva, el documento tendrá carácter orientador y no vinculante.
Director: Gabriel Morini - Propietario: Nefir S.A. - Domicilio: Olleros 3551, CABA - Copyright © 2019 Ambito.com - RNPI En trámite - Issn 1852 9232 - Registro DNDA en trámite - Todos los derechos reservados - Términos y condiciones de uso