🤖 Las Directrices de la UNESCO para el uso de sistemas de inteligencia artificial en juzgados y tribunales tienen como finalidad orientar a las organizaciones judiciales y a los miembros del Poder Judicial en la adopción, desarrollo, adquisición, uso y evaluación de sistemas de IA, incluidos los sistemas de IA generativa, en el contexto de la transformación digital de la justicia.

El documento parte del reconocimiento de que los sistemas de IA se utilizan cada vez más en los sistemas judiciales para tareas como la búsqueda y clasificación de documentos, la gestión de expedientes, la traducción y transcripción, la anonimización de sentencias y el apoyo a procesos de toma de decisiones. Al mismo tiempo, señala que el uso de estas tecnologías plantea riesgos éticos, jurídicos y en materia de derechos humanos, especialmente cuando afectan el debido proceso, la igualdad ante la ley, la privacidad y la confianza pública en la justicia.

⚖️ La guía establece que los sistemas de IA deben concebirse como herramientas de apoyo y no como sustitutos del razonamiento jurídico humano, y que su utilización debe realizarse siempre bajo supervisión humana significativa. Se subraya que los jueces y magistrados no deben delegar su función decisoria ni automatizar procesos que puedan afectar negativamente los derechos de las personas.

🧭 El núcleo del documento está conformado por 15 principios universales que deben guiar todo el ciclo de vida de los sistemas de IA utilizados en la justicia. Entre ellos se incluyen: la protección de los derechos humanos; la proporcionalidad; la evaluación de la viabilidad de los beneficios; la seguridad; la protección de la información; la exactitud y fiabilidad; la explicabilidad; la auditabilidad; la transparencia y la justicia abierta; la concientización y el uso informado; la responsabilidad; la rendición de cuentas y la posibilidad de impugnación; la supervisión humana y la toma de decisiones; el diseño centrado en las personas y participativo; y la gobernanza y colaboración multiactor.

🏛️ Las Directrices incluyen recomendaciones específicas dirigidas a las organizaciones judiciales, orientadas a proteger la independencia e imparcialidad del Poder Judicial, establecer marcos de gobernanza de la IA, implementar evaluaciones de impacto algorítmico y de derechos humanos antes y después del despliegue de los sistemas, garantizar la transparencia sobre el uso de estas tecnologías y suspender o discontinuar aquellos sistemas que generen impactos negativos o violaciones de derechos humanos.

🎓 Asimismo, el documento dedica un apartado específico al talento humano, destacando la necesidad de capacitación continua, alfabetización en IA, actualización de los programas de formación judicial y evaluación de las políticas de recursos humanos para acompañar el uso responsable de estas tecnologías.

✍️ En relación con los sistemas de IA generativa, la guía reconoce su potencial para tareas como la redacción, traducción y síntesis de textos, pero advierte sobre sus limitaciones, incluida la posibilidad de generar información incorrecta, incompleta o ficticia. Por ello, recomienda que los contenidos generados con asistencia de IA sean claramente identificados, verificados antes de su uso y que se restrinja o prohíba su utilización en funciones sensibles, como la generación de decisiones vinculantes o de prueba. 

👩‍⚖️ Finalmente, las Directrices formulan recomendaciones dirigidas a los miembros individuales del Poder Judicial, instándolos a no depender exclusivamente de sistemas de IA, a informar sobre su uso en los procesos judiciales, a garantizar la posibilidad de impugnación de decisiones asistidas por IA y a asumir responsabilidad por los resultados producidos con apoyo de estas herramientas. El documento concluye que la IA debe utilizarse para mejorar, y no reemplazar, el juicio humano en la administración de justicia. 

Link: https://www.unesco.org/en/articles/guidelines-use-ai-systems-courts-and-tribunals

Accedé al documento completo