La Defensoría se pronunció sobre la IA en la justicia y cómo debe garantizar derechos

Durante la instalación del ‘Congreso internacional de inteligencia artificial aplicada a la justicia y derechos humanos’, que se realizó en Montería, capital del departamento de Córdoba, el Defensor del Pueblo, Julio Balanta Mina, hizo un llamado a garantizar el respeto por los derechos de las y los ciudadanos con la puesta en funcionamiento de la IA en la administración de justicia en Colombia.

Aunque las tecnologías de la información y las comunicaciones (TIC), las tecnologías 4.0, en especial la IA, están llamadas a apoyar a los operadores judiciales en la toma de decisiones, su utilización debe estar enmarcada en límites y controles, tal como lo dictaminó la Corte Constitucional en la Sentencia T-323 de 2024, en la que aseguró que: “la IA no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción. […] Es admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos”.

De acuerdo con la Defensoría, si bien hay normativa en el ordenamiento jurídico colombiano, la cual busca por medio de las tecnologías facilitar el acceso a la administración de justicia, no es imposible que ocurra una eventual vulneración del derecho al debido proceso con su uso.

Por ende, es fundamental procurar la infraestructura tecnológica para anticipar posibles vulneraciones y aprovechar el potencial de la inteligencia artificial, así como avanzar en la defensa y promoción de los derechos humanos.

El Defensor recalcó que es esencial abordar los desafíos éticos y las posibles implicaciones de la tecnología en la privacidad y la equidad, con el propósito de asegurar que su aplicación promueva y respete los principios fundamentales de la dignidad humana.

En el Congreso, organizado por la Defensoría, con la colaboración de la Alcaldía de Montería, Balanta Mina dejó claro que la entidad monitoreará cómo se implementan y utilizan los sistemas de IA en la administración de justicia, asegurando que no transgredan los derechos esenciales de las personas.

La Corte y su decisión

Y es que en días pasados se dio a conocer que a la Sala Segunda de Revisión llegó la acción de tutela presentada por la madre de un menor de edad contra una EPS, para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas del menor en cuestión.

Lo anterior se da a raíz de la negativa de la entidad de exonerar al niño “del pago de cuotas moderadoras y copagos, cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y garantizarle un tratamiento integral”.

Ante esto, la Corte Constitucional dividió el estudio del caso en dos temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso “en razón del uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia”.

El funcionario empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista e incorporó preguntas y respuestas en la sentencia.