La Suprema Corte bonaerense pone límites al uso de la IA en las decisiones judiciales
El máximo tribunal provincial publicó el Reglamento para el desarrollo y uso responsable de la IA, con consulta pública abierta hasta el 7 de agosto.
La Suprema Corte de Justicia de la provincia de Buenos Aires publicó el Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial (Resolución SC 1719/26), un proyecto que pone un freno a la incorporación de la IA en el ámbito judicial.
Con la premisa de que “la función jurisdiccional es indelegable e insustituible”, el máximo tribunal bonaerense estableció que bajo ninguna circunstancia se puede delegar en un sistema de IA la toma de decisiones judiciales, la valoración de pruebas o la construcción del razonamiento jurídico que fundamenta una sentencia.
El reglamento crea la Comisión de Gobernanza y Uso de Inteligencia Artificial, integrada por las Secretarías de Planificación, Tecnología Informática y Servicios Jurisdiccionales, que actuará como autoridad de aplicación. Además, prohíbe los sistemas predictivos de reincidencia con efectos vinculantes sobre la libertad o prisión preventiva, la generación de “prueba sintética” mediante IA y los informes periciales sin intervención y validación crítica de un perito habilitado. El uso de herramientas de IA no exime de responsabilidad al operador judicial, quien debe ejercer un control sustantivo y documentado sobre los resultados.
Para garantizar la transparencia, cada vez que se utilice una herramienta de IA generativa en la elaboración de un documento deberá dejarse constancia en el expediente indicando qué sistema y modelo se empleó y qué secciones fueron producidas con asistencia tecnológica, para que las partes puedan controlar y eventualmente impugnar esa intervención. El tratamiento de datos personales debe ajustarse estrictamente a la Ley Nº 25.326 de Protección de Datos Personales.
El proyecto se encuentra en etapa de consulta participativa desde el 24 de junio hasta el 7 de agosto, a través de un formulario en línea. Magistrados, funcionarios, colegios profesionales e instituciones académicas podrán presentar observaciones. La Comisión deberá elevar un informe a la Suprema Corte antes del 31 de agosto. Hasta la aprobación de la versión definitiva, el documento tiene carácter orientador y no vinculante.
