En agosto de 2024, la Sala Segunda de Revisión de la Corte Constitucional (la Corte) abordó el uso de la inteligencia artificial (IA) en providencias judiciales y concluyó que el uso de ChatGPT en un fallo de tutela no implicó la usurpación de la función de administración de justicia.
El fallo objeto de revisión por la Corte fue de enero de 2023. En este, un juez acudió a ChatGPT con el fin de “extender” los argumentos de su decisión. La Corte seleccionó este caso por tratarse de un “asunto novedoso” y por la “exigencia de aclarar el contenido y alcance de un derecho fundamental”, y lo resolvió por medio de la sentencia T-323 de 2024.
En la sentencia, la Corte fijó “criterios orientadores” para el uso de la IA por parte de las autoridades judiciales:
1. Transparencia: “obligación” de evidenciar con claridad y precisión el uso, alcance y ubicación de los resultados obtenidos mediante el uso de la IA.
2. Responsabilidad: “obligación” de capacitación y comprensión de los impactos del uso de la IA para dar cuenta del origen, idoneidad y necesidad de dicho uso, así como de verificar la información proporcionada.
3. Privacidad: “deber” de custodiar y proteger la reserva de datos personales y sensibles que son conocidos por el administrador de justicia.
4. No sustitución de la racionalidad humana: “expresión” de la imposibilidad ética y jurídica de reemplazar la acción y responsabilidad del individuo, así como las actuaciones y decisiones judiciales.
5. Seriedad y verificación: “obligación” de realizar escrutinio sobre las fuentes, alcances, restricciones, posibilidades, falencias y riesgos del uso de la IA.
6. Prevención de riesgos: “mandato” de aplicar estándares adecuados de control sobre situaciones de riesgo por el uso de la IA, tales como imprecisiones, desactualizaciones, alucinaciones, sesgos e inconsistencias.
7. Igualdad y equidad: erradicar todas las formas de discriminación derivadas del uso de la IA.
8. Control humano: permitir la realización de escrutinios sobre las actuaciones y decisiones en las que se haga uso de la IA, mediante el acceso a la información y el uso de recursos resueltos por seres humanos.
9. Regulación ética: desarrollo de estándares de comportamiento y pautas razonables, alineadas a mandatos superiores y legales.
10. Adecuación a buenas prácticas y estándares colectivos: aplicar “esquemas razonables” que se definan para el funcionamiento de la Rama Judicial, respetando la autonomía e independencia del juez.
11. Seguimiento continuo y adaptación: consultar los avances jurídicos, sociológicos y tecnológicos al usar la IA y los “esquemas de mejora y control” que se implementen de manera progresiva.
12. Idoneidad: utilizar la IA en la gestión de procesos judiciales de manera adecuada para facilitar y agilizar el acceso a la justicia.
La Corte dispuso que los funcionarios judiciales deben aplicar los anteriores “criterios” como “principios” para el uso de la IA en su actuación judicial. En esa línea, también ordenó al Consejo Superior de la Judicatura que fijara lineamientos para el uso de la IA en la Rama Judicial y la divulgación de la sentencia en todos los despachos judiciales.
Aunque esta sentencia es un avance significativo en el uso de la IA, no es definitivo y sus efectos prácticos aún son inciertos. Aunque el Consejo Superior de la Judicatura profirió la Circular PCSJC24-37 para cumplir con el “mandato” de la Corte, actualmente no hay herramientas o mecanismos de control para garantizar que los funcionarios judiciales implementen los “criterios” señalados en la sentencia T-323 de 2024.
Por ahora, la administración de justicia sigue dependiendo del compromiso continuo de todos los actores, incluidos funcionarios de la Rama Judicial, para garantizar un uso adecuado de la IA en el que prevalezcan los derechos de los usuarios de la administración de justicia.
Beneficios LR Más
¿Quiere publicar su edicto en línea?
Contáctenos vía WhatsApp
