Columnas

Lo que nos deja el caso del prompt que “pasó colado”

Por Ricardo Lillo*

Ha circulado ampliamente un documento que contendría una resolución dictada por la Corte de Apelaciones de Santiago en la que se confirma una resolución apelada en una causa civil. Nada inusual, salvo por lo que acompaña al documento. En sus primeras páginas, antes de la resolución y bajo la misma firma electrónica, aparece una instrucción dirigida a un sistema de inteligencia artificial generativa. Comienza así: “Eres un Juez de la Corte de Apelaciones que debe redactar la parte considerativa de la sentencia”.

Le siguen diez reglas para redactar los considerandos de un fallo que acoja o rechace un recurso de amparo, y una fórmula para la parte resolutiva. Es decir, un prompt.

Ricardo Lillo

Antes de analizarlo, conviene precisar qué sabemos y qué no. El documento no permite afirmar que la instrucción haya dado origen a la resolución propiamente tal. Todo indica lo contrario: el prompt se refiere a un recurso de amparo y la resolución que precede es una confirmación de una sentencia objeto de un recurso de apelación en materia civil. Tampoco sabemos quién lo escribió, con qué herramienta, ni si alguna sentencia de amparo se redactó efectivamente con él ni, de ser así, si ese texto se revisó antes de firmarse y notificarse.

Lo que el documento sí prueba son dos cosas. La primera es que falló el control sobre lo que se firma. Un documento judicial llegó a tres firmas electrónicas con un contenido ajeno a la decisión, y nadie lo advirtió. Ese es un error humano de flujo de trabajo, no de la máquina. La segunda es que en algún punto del circuito de trabajo de una Corte se usa, o se proyectaba usar, IA generativa para redactar el corazón de una sentencia: sus considerandos.

El prompt merece una lectura atenta, porque dice mucho de cómo se está pensando esta tecnología. Es minucioso en la forma. Exige frases cortas, tiempo presente y tercera persona. Prescribe los conectores entre párrafos: “A continuación”, “Luego”, “Asimismo”, “Por último”. Regula cómo escribir las fechas, el espacio después de “N°” y la omisión de “don” y “doña”. Fija un máximo de 750 palabras. Ese nivel de detalle sugiere una plantilla reutilizada, con convenciones de estilo propias de una oficina, y no una improvisación de un día.

Hay algo más grave todavía. La decisión entra al prompt como una variable entre corchetes: “[rechazando/acogiendo]”. El resultado se fija antes y a la máquina se le encarga producir las razones. Eso invierte el sentido de la motivación. La fundamentación deja de ser el camino por el cual el tribunal llega a su decisión y pasa a ser un texto que la acompaña. Con este método, una sentencia puede quedar impecable en la forma, fluida y con buenos conectores, sin expresar el razonamiento de nadie.

El prompt, además, comienza pidiendo que se complemente “el archivo .docx que está en la carpeta”. Eso sugiere una herramienta con acceso a archivos de la causa. No sabemos qué herramienta se usó ni dónde quedaron esos datos, y en un amparo se trata de información sensible: detenciones, causas penales y, a menudo, salud.

La inteligencia artificial no firmó esa resolución. La firmaron personas que no leyeron todo lo que firmaban. El problema no es que una máquina haya escrito, sino que nadie haya leído.

Frente a este tipo de uso de la IA, el Poder Judicial no carece de reglas. El artículo 17 del Código de Ética Judicial, contenido en el Acta N° 244-2025, establece que la decisión judicial es humana e indelegable. Exige un control significativo sobre cada herramienta y advierte riesgos como la delegación de la valoración de la prueba y el exceso de confianza acrítica.

A eso se suma un oficio del 11 de agosto de 2026 de la Comisión de Apoyo a la Ley de Tramitación Electrónica de la Corte Suprema. En él se informa que Copilot Chat está disponible en el entorno institucional y se transmiten diez orientaciones prácticas. Entre ellas están verificar siempre las respuestas de la IA antes de usarlas en una resolución, dejar constancia de su función y documentar las interacciones con la herramienta.

El caso ocurre dos meses después de ese oficio, y eso deja ver sus límites. Primero, son orientaciones y no una política: no prevén supervisión, seguimiento ni consecuencias. Segundo, no distinguen usos. Se ocupan de la traducción, la transcripción y la realidad virtual, pero no dicen nada sobre lo que este caso muestra: usar IA para redactar los fundamentos de un fallo. Tercero, descansan en la responsabilidad individual. Según el oficio, corresponde “a cada persona funcionaria” velar por el buen uso de la herramienta.

Ese diseño explica la reacción de la Corte. Según se informó en medios de prensa, la Sala pidió al relator un informe en 24 horas. Es una respuesta razonable, pero dirigida hacia abajo. El artículo 17 radica la decisión en quien juzga, y quien juzga es quien firma. Un modelo de gobernanza basado solo en la responsabilidad de cada funcionario produce, cuando algo falla, respuestas también individuales.

Tampoco basta con sostener que la decisión sigue siendo humana porque el juez elige si acoge o rechaza. En un amparo, decidir es razonar sobre la legalidad de una privación de libertad. Quien escribe por qué un arresto es ilegal decide qué hechos importan y qué normas se aplican. Si quien firma no puede reconstruir ese razonamiento sin la máquina, la máquina decidió.

La reacción fácil sería prohibir. Sería también un error. La IA generativa ya está en los tribunales, y una prohibición no la saca de ahí. La empuja a la sombra, donde nadie registra ni revisa su uso.

Lo que corresponde es pasar de las orientaciones a una política de gobernanza, y eso exige al menos tres cosas. Primero, distinguir usos. Transcribir, resumir u ordenar una carpeta no es lo mismo que redactar la fundamentación de un fallo, y una política debe decir expresamente qué ocurre con este último uso. Segundo, convertir la verificación y la declaración de uso en obligaciones con control institucional, no en recomendaciones que cada funcionario cumple como puede. Tercero, acompañar la herramienta disponible con formación práctica y con una instancia que supervise, reciba reportes de fallas y actualice las reglas.

También corresponde una respuesta transparente. Un informe interno no basta. La confianza pública en la justicia depende de saber que alguien revisa lo que se firma, y hoy hay buenas razones para preguntarlo. Dados los bajos niveles de confianza en la justicia que muestran diversos indicadores nacionales e internacionales (véase CADEM número 685 o los datos del Rule of Law Index del World Justice Project), resulta fundamental generar una política que permita gobernar el uso de la IA en el Poder Judicial, en un proceso abierto y participativo, incluyendo a la sociedad civil.


*Por Ricardo Lillo, profesor de la Facultad de Derecho y director del Laboratorio de Justicia Centrada en las Personas, Universidad Adolfo Ibáñez

Artículos relacionados

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Close
Close