La Corte Constitucional, mediante la Sentencia T-323 de 2024 se ha pronunciado por primera vez, frente al uso de herramientas de Inteligencia Artificial Generativa para la toma de decisiones en sede de tutela. Esto, posterior a que un juez de segunda instancia hiciese uso de una herramienta de IA Generativa, para proferir una decisión.
El análisis adelantado por la Corte se dividió principalmente en dos partes: i) en analizar el uso que le dio el juez a la herramienta de Inteligencia Artificial para resolver el caso en concreto ii) en analizar de manera general, el uso de herramientas de IA Generativa en el ejercicio de la administración de justicia.
En relación con el caso concreto, se centró en determinar si la decisión adoptada por el juez vulneraba el derecho fundamental al debido proceso, si la decisión fue tomada efectivamente por el juez, y si la misma se encontraba debidamente motivada.
La Corte concluyó que:
1. En el caso concreto no existió una vulneración al derecho al debido proceso, en tanto la herramienta de Inteligencia Artificial Generativa, no se utilizó para remplazar la función del Juez en la administración de justicia, sino que se utilizó luego de haberse tomado y fundamentado la decisión. Por tanto, no se cuestionó la validez de la decisión.
2. A pesar de que se respetó el principio de privacidad al tratar debidamente los datos personales de las partes involucradas en el caso, incluyendo a un menor, no se cumplieron a cabalidad, los principios de transparencia y responsabilidad exigidos.
En un segundo momento, la Corte se pronunció frente al uso de la Inteligencia Artificial en un sistema jurisdiccional y en el ejercicio de la administración de justicia:
1. Consideró que resulta necesario establecer criterios orientadores, guías o lineamientos, sobre el uso de herramientas de IA por parte de los jueces en la administración de justicia con el fin de respetar los derechos fundamentales y salvaguardar las garantías constitucionales de los usuarios del sistema.
2. Los funcionarios y empleados de la Rama Judicial deben aplicar los principios de transparencia, responsabilidad, privacidad, no sustitución de la racionalidad humana, seriedad y verificación, prevención de riesgos, igualdad y equidad, control humano, regulación ética, adecuación a buenas prácticas y estándares colectivos, seguimiento continuo y adaptación, e idoneidad.
3. Ordenó al Consejo Superior de la Judicatura la elaboración de una guía para la implementación de la IA generativa en la Rama Judicial, así como la generación de espacios de capacitación para el aprendizaje de conocimientos básicos sobre el uso de la IA en el contexto judicial.
Fija la Corte Constitucional en esta decisión un precedente para el uso de las herramientas tecnológicas y de Inteligencia Artificial en la administración de justicia.
Hace un llamado la Corte a su uso responsable, la garantía en todo momento de los derechos fundamentales de los usuarios del sistema y la autonomía judicial como garantías insustituibles del Estado Social de Derecho y la democracia.
