La Corte Constitucional de Colombia realizó alcances en relación al uso de la inteligencia artificial (IA) en el ámbito judicial, dictaminando que estas tecnologías no pueden sustituir a los jueces. Sostiene que al utilizarse estas herramientas se deben respetar los derechos fundamentales de las personas mediante un uso razonable y ponderado de las mismas, bajo las cargas de transparencia, responsabilidad y garantía de protección de los datos personales de los intervinientes.
El caso versa sobre una acción de tutela que la madre de un menor de edad interpuso contra una entidad de salud para proteger los derechos fundamentales a la salud y la vida digna de su hijo. La madre solicitó la exoneración de copagos, cobertura de transporte para terapias, y un tratamiento integral para su hijo diagnosticado con trastorno de espectro autista (TEA).
En este contexto, se acusó que el juez de segunda instancia utilizó ChatGPT para formular preguntas jurídicas que incorporó en la motivación de la sentencia, configurando una posible infracción a las garantías del debido proceso. Así, surgieron dudas sobre si la sentencia había sido dictada por ChatGPT y sí estuvo motivada por sus sesgos y alucinaciones.
En su análisis de fondo, la Corte observa que, “(…) la Carta Iberoamericana de Inteligencia Artificial en la Administración Pública asume la necesidad de promover una serie de principios orientadores en el desarrollo de la IA en la Administración Pública, que puedan ser compartidos por todos los países de la región. Los anteriores están sustentados en los derechos humanos como fundamento para una IA centrada en las personas, confiable, robusta y orientada a la innovación, incluyendo el respeto de la dignidad humana, la libertad individual, la igualdad y no discriminación, el respeto a la democracia y el Estado de derecho, la libertad de pensamiento, conciencia y opinión, el derecho a la educación, así como a tener buenas administraciones públicas”.
Noticia Relacionada
Agrega que, “(…) la aplicación de la IA en la administración de justicia se debe introducir de manera sólida, técnica y con infraestructuras tecnológicas abiertas que hagan realidad las oportunidades disponibles, con el fin de que no se creen desigualdades en el sistema legal. Se deben desarrollar reglamentos y normativas flexibles para poder anticipar los riesgos, dotándose de la máxima seguridad posible para que sea realmente efectivo al momento de ser usado como herramienta de apoyo en la jurisdicción. Asimismo, la seguridad y la transparencia de los datos deben ser preocupaciones cruciales”.
Comprueba que, “(…) las IA no pueden ser usada para sustituir el razonamiento lógico y humano que le compete realizar a cada juez a efectos de interpretar los hechos, valorar las pruebas, motivar y adoptar la decisión, pues ello conllevaría una violación de la garantía del juez natural y al debido proceso probatorio. En las instancias y en sede de revision de tutelas se deberán aplicar controles que eviten la violación del derecho al debido proceso por uso indebido de IA, entre los que se destaca la autorregulación ética”.
La Corte concluye que, “(…) la IA se podrá utilizar en el sistema judicial para los ámbitos de gestión administrativa y documental, así como el de apoyo a la gestión judicial y la corrección y síntesis de textos; en tales eventos, la utilización de estas tecnologías no remplaza la labor esencial que se le ha atribuido al funcionario judicial, sin embargo, en estos casos, se deberán tener las cautelas necesarias para evitar la transgresión de derechos, tales como el habeas data o la intimidad, o que el funcionario judicial pierda la independencia o imparcialidad debido a los sesgos y alucinaciones de la IA”.
Al tenor de lo expuesto, la Corte ordenó el reconocimiento del servicio del transporte para el niño y su acompañante. Asimismo, exhortó a los jueces a que evalúen el adecuado uso de ChatGPT y otras tecnologías de inteligencia artificial, y a que valoren y consideren las mejores prácticas, y apliquen criterios éticos y de respeto a los mandatos superiores.