¿El ChatGPT debe tener límites? Arranca el debate en la Corte Constitucional

El 30 de enero de 2023 se dictó el primer fallo en Colombia, del que se tenga conocimiento, en el que se usó la inteligencia artificial Chat GPT para su elaboración. La firmó el Juzgado Primero Laboral del Circuito de Cartagena que resolvió, en segunda instancia, fallar a favor de la familia de un niño con trastorno del espectro autista y ordenó a Salud Total EPS asumir la prestación de los servicios de salud que necesita.

(Lea: ChatGPT: primera sentencia que se hizo con IA en Colombia)

Si bien la decisión comenzó un debate nacional sobre el uso de la IA en la elaboración de decisiones judiciales, solo ahora que la Corte Constitucional decidió revisar la tutela se pone realmente sobre la mesa la discusión sobre los usos que esta herramienta podrá tener, o sus eventuales límites.

La tutela fue seleccionada para revisión luego de que la Defensoría del Pueblo, la magistrada Paola Meneses y el magistrado José Fernando Reyes Cuartas, ambos del alto tribunal, insistieran en la importancia jurídica de estudiar a nivel de alta corte este asunto novedoso en la istración de justicia.

¿Cuál es el caso? El juez Manuel Padilla le preguntó a ChatGPT si un menor de edad autista está exonerado de pagar cuotas moderadoras en sus terapias, si exigir en esos casos la cuota moderadora es una barrera para acceder al servicio, si la Corte Constitucional ha tomado decisiones favorables en casos similares, y en qué casos deben concederse tutelas.

(Lea: La idea para que inteligencia artificial resuelva conflictos en la Corte Suprema)

Ante la primera pregunta, la herramienta respondió: “Sí, es correcto. De acuerdo con la normativa en Colombia, los menores con diagnóstico de autismo están exonerados de pagar cuotas moderadoras en sus terapias. Este beneficuento (sic) está regulado por la Ley 1753 de 2015 y se aplica a todas las instituciones prestadoras de servicios de salud públicas o privadas que reciban recursos del sistema general de seguridad social en salud”.

El juez adicionó en su decisión los textos y dijo que usó el ChatGPT no para reemplazar al juez, sino para optimizar el tiempo de redacción de fallos, "previa corroboración de la información suministrada por IA".

La Defensoría del Pueblo indicó que la Corte debe pronunciarse sobre este caso porque si bien la norma actual favorece el uso de instrumentos digitales, esta "no implica que se pueda hacer uso indiscriminado de cualquier TICs, o que permitida, pueda aplicarse sin control o regulación, puesto que ello daría lugar a un cambio de las reglas de juego para el istrado, dando paso a una posible vulneración del derecho al debido proceso".

(Lea: La última carta de la SAE en una disputa por un predio de René Higuita)

"La inteligencia artificial, instrumentalizada en las diferentes aplicaciones y aplicativos que ya se encuentran al alcance de cualquier persona, en manos de un operador judicial exige un máximo de cuidado y control, puesto que ejerce una de las funciones públicas", agregó.

La Defensoría indicó que "es innegable la utilidad de esta herramienta y que el correr de los tiempos lleva a su uso cada vez más extendido en todos los campos, y que la justicia y el actuar de los operadores judiciales, no puede quedarse atrás. Pero esta misma razón es la que, reitera la Defensoría del Pueblo, impulsa esta solicitud a la Corte, de pronunciarse para que se establezcan las definiciones, límites y controles, para que su uso sea acorde con lo ordenado por la Constitución".

La magistrada Paola Meneses dijo que este caso refleja debates novedosos por la falta de regulación en el uso de la inteligencia artificial en la argumentación judicial.

Meneses dijo que si bien la Corte ha usado la IA como herramienta de búsqueda de datos y procesamientos de textos y para darle impulso al proceso de revisión de los expedientes de tutela, "estos sistemas no se han implementado para efectos argumentativos y la jurisprudencia constitucional no se ha referido a dicha temática, esto es, para la toma de decisiones judiciales, como la predicción de sentencias o la evaluación de la probabilidad de éxito en un caso".

(Lea: Nicolás Petro: las dos recusaciones que faltan por resolverse en la Fiscalía)

"En mi criterio, se debería estudiar del uso de la inteligencia artificial en el sistema jurídico a efectos de elaborar la argumentación jurídica, pues plantea una serie de desafíos y consideraciones éticas y legales, como la transparencia, la protección de diversos derechos fundamentales involucrados y mecanismos de control y supervisión adecuada", agregó la magistrada Meneses, quien dijo que la Corte  tendría que definir las pautas sobre cómo deben utilizar las tecnologías de inteligencia artificial en la toma de decisiones judiciales.

A su turno, el magistrado José Fernando Reyes indicó que ya se ha reconocido que el ChatGPT tiene limitaciones arquitectónicas y de entrenamiento que podrían llevar a información incorrecta y a no dar referencia las fuentes, lo cual podría "producir ocasionalmente instrucciones dañinas o contenido sesgado, toda vez que no tiene la capacidad de distinguir el origen de la información, y tiene conocimiento limitado del mundo, pues cuenta con información ingresada hasta el año 2021".

(Lea: Se cayó la destitución de Eduardo Merlano: las claves de un nuevo 'choque de trenes')

"Ahora, es evidente que la tecnología ha evolucionado exponencialmente y los Estados, en concreto, la justicia, tiene el reto de decidir situaciones novedosas que difieren de las formas históricas de regulación y así, establecer estándares que permitan el adecuado uso de estas herramientas de la IA en pro de los derechos humanos de los ciudadanos", indicó.

Según el jurista, de este asunto se derivan varias preguntas que la Corte debe resolver frente al uso de las herramientas de inteligencia artificial como ChatGPT en el marco de la función judicial y las prácticas que podrían constituir una vulneración al debido proceso y la istración de justicia.

ALEJANDRA BONILLA MORA

En Twitter: @AlejaBonilla