Sobre la resolución con IA: lo relevante es lo que no sabemos

Por Diego Navarro Salman*

El 6 de octubre, la Corte de Apelaciones de Santiago publicó una resolución con el prompt incluido. Son dos páginas de instrucciones para que una inteligencia artificial redacte, «como Juez de la Corte de Apelaciones», los considerandos de un recurso. Quedaron dentro de una resolución que no tenía relación con eso, con firma electrónica y código de verificación.

El descuido es evidente: nadie revisó lo que se publicaba. Pero eso no es lo más importante.

Lo que el caso confirma es que no sólo los abogados, sino también los jueces, están utilizando inteligencia artificial para redactar. Y no para ajustes de forma. El prompt es una plantilla en que acoger o rechazar aparece como una variable, y la IA escribe la fundamentación de lo que se elija. La herramienta interviene, entonces, en la parte de la sentencia donde se expresan las razones del tribunal.

Lo que no sabemos es más relevante, y se puede ordenar en tres preguntas.

La primera es bajo qué reglas un juez somete a una IA información privada de las partes. Entre abogados se ha ido instalando como buena práctica obtener la autorización expresa del representado antes de usar IA en su asunto. La razón es que estos modelos no funcionan como las herramientas tecnológicas clásicas: para obtener resultados hay que entregarles la información, y esa información llega a un proveedor cuyo entrenamiento, reglas y condiciones de uso rara vez conocemos. Un tribunal no necesita el consentimiento de las partes para tratar sus datos, porque lo hace en ejercicio de una potestad legal. Pero eso exige, con mayor razón, que las reglas existan y sean públicas. No sabemos si el Poder Judicial ha comunicado que la IA forma parte de sus procesos, cuáles son esos procesos, ni si una persona puede oponerse a que su causa pase por un modelo de lenguaje.

La segunda es qué herramienta se usó. No es lo mismo una versión gratuita que una pagada, una institucional que una de uso personal, una jurídica que una de propósito general. Cada una tiene bases de conocimiento distintas, sesgos que dependen de su origen, configuraciones públicas o privadas y un sinfín de otros elementos que hacen indispensable saber qué se usa en una labor tan delicada y esencial como la jurisdiccional. Las empresas están adoptando modelos corporativos de IA que vienen preajustados para reducir riesgos y delimitar lo que sus usuarios pueden hacer con ellos. Este caso muestra que en tribunales se usa IA sin comunicarlo, sin publicar los procesos y sin transparentar los proveedores. No sabemos si alguien evaluó el riesgo de esas herramientas ni si son adecuadas para la función.

La tercera es cuál es el procedimiento. Es de la esencia del Poder Judicial que sus procedimientos estén normados y sean accesibles y públicos para la ciudadanía. Cuando un juez usa IA para redactar los considerandos, no está haciendo ajustes formales: está interactuando con ella en una parte esencial del proceso, la que justifica la decisión de acoger o rechazar un recurso. La plantilla deja esa decisión como un espacio en blanco. No sabemos quién lo completa, en qué etapas interviene la IA ni bajo qué control.

Si lo supiéramos, este caso no nos habría sorprendido.

*Por Diego Navarro Salman

Abogado de la Universidad del Desarrollo, con más de quince años de trayectoria en la intersección entre derecho, estrategia corporativa, comunicaciónes y tecnología. Es fundador de SPEKTR, plataforma chilena de inteligencia artificial jurídica, y preside el Comité de Inteligencia Artificial de ALTECH, Asociación de Legaltech de Chile, en cuya representación participó en la Mesa con la Industria del Ministerio de Ciencia sobre el proyecto de ley que regula los sistemas de inteligencia artificial. Ha dictado cursos de inteligencia artificial para abogados y jueces en Chile, Costa Rica y México. Actualmente es profesor de Legaltech e Inteligencia Artificial en la Universidad Autónoma de Chile.