Política. La Corte bonaerense busca que los jueces no usen IA para dictar sentencias

La Suprema Corte de Justicia de la provincia de Buenos Aires puso en consulta pública un proyecto de reglamento destinado a regular el desarrollo y uso responsable de herramientas de inteligencia artificial (IA) dentro del Poder Judicial. Además, creó una Comisión de Gobernanza y Uso de Inteligencia Artificial que será la encargada de supervisar la implementación de esta iniciativa.

La medida se enmarca en el proceso de modernización tecnológica impulsado por el máximo tribunal provincial y busca establecer un marco jurídico e institucional para la incorporación progresiva de sistemas de IA en la administración de justicia, garantizando un uso seguro, ético y respetuoso de los derechos fundamentales.

Un paso inédito para la Justicia argentina

Uno de los principios centrales del texto establece que la función jurisdiccional es "indelegable e insustituible", por lo que ninguna herramienta tecnológica podrá reemplazar el razonamiento humano en la toma de decisiones judiciales.

Según la resolución, magistrados, funcionarios, agentes judiciales, colegios profesionales, universidades y cualquier persona interesada podrán presentar observaciones y sugerencias a través de un espacio específico habilitado en el sitio web de la Suprema Corte.

Los riesgos que plantea la IA

La Corte reconoció que la inteligencia artificial ya se utiliza en distintos sistemas judiciales del mundo para tareas como la gestión de expedientes, el análisis de datos, la organización de jurisprudencia y la atención de usuarios.

Sin embargo, advirtió sobre los riesgos asociados a estas tecnologías, entre ellos la reproducción de sesgos, la generación de errores y la elaboración de contenidos inexactos. Por ese motivo, consideró imprescindible establecer reglas claras para su implementación.

Qué podrá hacer -y qué no- la Inteligencia Artificial

Entre los objetivos del futuro reglamento se destacan:

* Mejorar la eficiencia de los procesos judiciales y administrativos.

* Fortalecer el acceso a la justicia reduciendo barreras tecnológicas, lingüísticas y geográficas.

* Brindar herramientas de apoyo a la labor judicial sin sustituir la intervención humana.

El proyecto establece expresamente que, bajo ninguna circunstancia, podrán delegarse en sistemas de inteligencia artificial:

* La toma de decisiones judiciales.

* La valoración de pruebas.

* La elaboración del razonamiento jurídico que fundamenta sentencias o resoluciones.

Asimismo, aclara que el uso de IA no exime a jueces, funcionarios ni agentes de su responsabilidad sobre el contenido, la validez y la legalidad de los actos en los que intervengan estas herramientas. En todos los casos, deberán ejercer un control sustantivo y documentado sobre los resultados obtenidos.

Restricciones al uso de chatbots

Otro de los puntos destacados del proyecto es la prohibición de utilizar chatbots de acceso gratuito o comercial para el tratamiento de información judicial sensible o investigaciones en curso.

La medida alcanza a plataformas como ChatGPT y se fundamenta en el riesgo de que datos personales o información reservada puedan ser utilizados para el entrenamiento de modelos futuros fuera del control institucional.

Con esta iniciativa, la Suprema Corte bonaerense busca aprovechar el potencial de la inteligencia artificial para modernizar la gestión judicial, sin perder de vista la necesidad de preservar la transparencia, la seguridad jurídica y la responsabilidad humana en la administración de justicia.