El uso de estas herramientas en la administración de justicia debe respetar los derechos fundamentales y hacerse de manera razonable y ponderada, bajo las cargas de transparencia, responsabilidad y garantía de protección de datos personales.
La Sala Segunda de Revisión conoció la acción de tutela presentada por la madre de un menor de edad contra una EPS, para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas de aquel, debido a la negativa de la entidad de (i) exonerar al niño del pago de cuotas moderadoras y copagos, (ii) cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y (iii) garantizarle un tratamiento integral.
La Corte Constitucional dividió el estudio del caso en dos grandes temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso en razón del uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia, quien empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia. De otra parte, abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.
En relación con el debido proceso en un sistema de administración de justicia que haga uso de herramientas de inteligencia artificial IA, la Sala de Revisión de la Corte Constitucional señaló que debía respetarse el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina. En ese sentido, resaltó que la IA no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción. Por el contrario, consideró que es admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación.
La Corte agregó que, en el marco del respeto del derecho al debido proceso, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial lo que, en este contexto, supone que ningún poder, ya sea estatal, particular o de cualquier otra índole, como por ejemplo una IA, pueda influir en la consideración del caso. Advirtió que tampoco es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares que puedan estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas. La motivación es otra de las subgarantías del derecho al debido proceso que debe ampararse, ya que el uso de la IA supone el riesgo de alucinaciones, fenómeno que se refiere a información inexacta o falsa que pueden dar lugar a problemas de motivación de la decisión judicial. Además, consideró esencial que los jueces velen porque el tratamiento de la información relativa a los usuarios del sistema judicial se realice con plenas salvaguardas para la data sensible, de forma que el uso de la IA no involucre su derecho a la intimidad y a la privacidad. La Corte Constitucional concluyó que el uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores. La utilización de este tipo de herramientas debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez cuando recurra a este tipo de apoyos tecnológicos. Ver Sentencia T-323 de 2024
