La Corte Constitucional declaró que la inteligencia artificial no puede sustituir al juez

Se dio a conocer que a la Sala Segunda de Revisión llegó la acción de tutela presentada por la madre de un menor de edad contra una EPS, para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas del menor en cuestión.

Lo anterior se da a raíz de la negativa de la entidad de exonerar al niño "del pago de cuotas moderadoras y copagos, cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y garantizarle un tratamiento integral".

Ante esto, la Corte Constitucional dividió el estudio del caso en dos temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso "en razón del uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia". El funcionario empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista e incorporó las preguntas y respuestas en la motivación de la sentencia.

Por su parte, la Sala de Revisión señaló que debía respetarse el derecho a un juez natural, es decir un ser humano y no la IA toda vez que el diseño normativo no contempla la posibilidad de un juez máquina. Por lo tanto se concluyó que la IA no puede remplazar al juez en la toma de decisiones judiciales.

Sin embargo aclaró además que e es admisible emplear estas tecnologías con fines de gestión administrativa y documental o como apoyo a la función judicial en actividades que no suponen creación de contenido, interpretación de hechos, ni solución de casos. En este sentido, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial.

Asimismo, advirtió que "tampoco es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares que puedan estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas".

Ante este panorama, La Corte Constitucional concluyó que el uso ponderado y razonado de la
IA en el sistema de administración de justicia es admisible considerando la protección de derechos fundamentales y el uso de estas herramientas debe ser "como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez cuando recurra a este tipo de apoyos tecnológicos".

A raíz del caso, la Sala de Revisión concluyó que no hubo un remplazo de la función judicial por parte de ChatGPT, porque el juez de segunda instancia utilizó la herramienta luego de fundamentar y tomar la decisión; solo entonces transcribió las preguntas que hizo en dicha plataforma y las respuestas arrojadas, por ende no se cuestionó la validez de la decisión del juzgado por haber sido tomada con antelación al uso de la herramienta. "La Corte encontró que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos".

En relación con la posible afectación del derecho a la salud del menor, la Corte concluyó que se cumplieron las condiciones para exonerarlo del cobro de copagos y cuotas moderadoras por los
servicios y medicamentos que requiera según las leyes vigentes. También "dispuso se eliminaran las barreras para aplicar dicho amparo, en especial, que se gestionaran las actuaciones administrativas para que la EPS comunicara a los prestadores sobre la no aplicación de cuotas moderadoras ni copagos".

Sobre el tratamiento integral la Corte advirtió que no se allegó prueba al expediente de que la EPS se haya negado a autorizar alguna orden médica que prescribiera una valoración o servicios similares para la atención médica del menor por lo que no se ordenó algo adicional a lo anteriormente señalado. Así las cosas, la Sala confirmó parcialmente la sentencia de instancia y ordenó el "reconocimiento del servicio del transporte para el niño y su acompañante y conminó a las entidades del sistema de salud a que exoneren del pago de copagos".

Finalmente, exhortó a los jueces de la República para que evalúen el adecuado uso de la herramienta tecnológica ChatGPT y similares. Además ordenó al Consejo Superior de la Judicatura que adopte un manual en relación con la implementación de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT.

"También, que, a través de la Escuela Judicial Rodrigo Lara Bonilla, divulgue la providencia a todos los despachos judiciales del país y continúe generando espacios de capacitación que fomenten el aprendizaje de conocimientos básicos sobre el uso de la inteligencia artificial IA en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos", se concluye en el comunicado.