La encrucijada algorítmica del derecho: desmitificación técnica, sesgo y el rezago de la gobernanza procesal en Chile

Por Ignacio Araya Pinto*

El acelerado avance de la Inteligencia Artificial (IA) en el plano global expone una brecha crítica en el ecosistema jurídico chileno. Desde mi experiencia como abogado litigante y tras haber completado y aprobado el programa académico Elements of AI de la Universidad de Helsinki, constato que mientras la vanguardia nórdica y europea aborda la tecnología desde la lógica matemática, la arquitectura de redes neuronales, el sesgo algorítmico y la gobernanza estricta, en Chile y Latinoamérica permanecemos en una fase embrionaria de mera fascinación operativa y desconocimiento de sus cimientos. Este artículo examina la urgencia de superar el analfabetismo algorítmico en nuestro foro. A partir de una perspectiva personal y dogmática, analizo la estructura matemática del dato, sus implicaciones en la mutación de la prueba (deepfakes), los riesgos de discriminación por variables proxy y la imperativa recepción de estándares como la explicabilidad (Explainable AI) y la supervisión humana (human-in-the-loop) para salvaguardar el debido proceso en el ordenamiento chileno.

1. MI EXPERIENCIA ANTE LA BRECHA ENTRE LA FASCINACIÓN LOCAL Y LA VANGUARDIA NÓRDICA

Como abogado chileno volcado al análisis de la responsabilidad, el ejercicio forense y el impacto de las nuevas tecnologías en el ejercicio del Derecho, he observado con preocupación la forma en que nuestro foro nacional aborda la Inteligencia Artificial. En Chile y Latinoamérica, la discusión suele reducirse a dos extremos: la fascinación utilitaria por el uso de prompts y herramientas generativas para redactar escritos con mayor rapidez, o el temor infundado a una supuesta «autonomía robótica» alimentada por la ciencia ficción.

Esta realidad contrasta drásticamente con la experiencia que viví al cursar y aprobar el programa Elements of AI, impartido por la Universidad de Helsinki y MinnaLearn. En dicho proceso pude constatar de primera mano la distancia que nos separa del pensamiento nórdico y europeo. Mientras en nuestra región recién estamos descubriendo qué es la IA o cómo interactuar con un modelo comercial, en Finlandia el debate se encuentra en un nivel de madurez conceptual superior: comprenden la IA desde su lógica matemática subyacente, analizan el impacto de las funciones de activación en redes neuronales, auditan el sesgo en los datos de entrenamiento y diseñan marcos de gobernanza rígidos como el Reglamento General de Protección de Datos (RGPD) o el Reglamento de Inteligencia Artificial de la UE (EU AI Act).

Allá no ven a la IA como una entidad pensante ni como una solución mágica, sino como un mecanismo de cómputo estadístico de alta densidad que exige control, transparencia y una estricta subordinación al juicio y los valores humanos. Esta constatación me llevó a formular la tesis central de este trabajo: si la comunidad jurídica chilena pretende liderar la transformación digital y no ser una mera espectadora pasiva, debemos superar de inmediato el analfabetismo algorítmico e integrar los fundamentos científicos de la tecnología a la dogmática y a la práctica procesal nacional.

1. DESMITIFICACIÓN DEL ALGORITMO

Aceptamos los resultados de un software como una verdad objetiva e infalible porque desconocemos el proceso interno mediante el cual la máquina procesa la información.

Los sistemas de aprendizaje profundo (Deep Learning) no operan mediante deducción lógica formal como la que aplicamos los abogados, donde a una premisa legal le sigue una consecuencia jurídica determinada. Por el contrario, funcionan mediante redes neuronales artificiales que procesan vectores numéricos calculando combinaciones lineales de datos de entrada multiplicadas por pesos asignados, sumadas a un término de sesgo o desviación, y transformadas posteriormente a través de funciones de activación no lineales.

Incluso en los Grandes Modelos de Lenguaje (LLMs), la arquitectura de Transformers utiliza mecanismos de atención para evaluar el contexto global y predecir probabilísticamente la palabra o elemento siguiente dentro de una secuencia. De esta realidad matemática extraigo una certeza jurídica insoslayable: la IA no comprende el significado semántico de las leyes, los contratos ni los hechos, ejecuta una reconstrucción inductiva basada en frecuencias estadísticas.

Al ignorar esta estructura, los abogados en Chile corremos el riesgo de caer en la «dependencia acrítica» o el «criterio prestado», aceptando «alucinaciones» o razonamientos defectuosos como si fuesen doctrina o jurisprudencia válida. La máquina depende por completo del conjunto de datos con el cual fue entrenada, si la información histórica contiene sesgos, el algoritmo los automatizará y amplificará a escala masiva.

III. LOS IMPACTOS EN LA PRÁCTICA FORENSE

En mi práctica en el foro nacional, advierto que la mayoría de los colegas asume que la IA es un asistente de redacción. Sin embargo, el análisis técnico nos demuestra que las implicaciones procesales profundas ya están alterando las reglas del litigio y la valoración de la prueba, áreas donde Chile exhibe un vacío crítico que se manifiesta en tres frentes principales:

1. El Sesgo Algorítmico y las Variables Proxy en Chile

Uno de los puntos que más me impactó del enfoque europeo es la ceguera sistemática frente al sesgo indirecto. En Chile, solemos creer que un sistema es neutro si no incluye campos explícitos sobre género, etnia o nivel socioeconómico. No obstante, los algoritmos de Machine Learning identifican fácilmente variables proxy o correlacionadas, como el código postal, los hábitos de consumo, las pretensiones salariales o la dinámica de tecleo, para reconstruir de forma implícita el perfil del individuo. Si el sector público o corporativo chileno despliega algoritmos de filtrado para contratación, evaluación crediticia o asignación de beneficios sin auditoría previa, vulnerará directamente la garantía de la igual protección de la ley en el ejercicio de los derechos resguardada en el artículo 19 número 2 de nuestra Constitución Política.

2. La Crisis de la Prueba Sintética ante la Sana Crítica

Como litigante, me resulta evidente que la proliferación de Redes Generativas Antagónicas y modelos de difusión para clonar voz e imagen quiebra la presunción histórica sobre la veracidad del soporte audiovisual. La máxima procesal de que un vídeo o un audio prueba irrefutablemente el hecho ha quedado obsoleta. Frente a la facilidad para sintetizar pruebas falsas (deepfakes), los tribunales chilenos deben actualizar con urgencia su estándar de sana crítica, exigiendo peritajes cibernéticos que auditen la trazabilidad digital, la cadena de custodia y los metadatos de toda evidencia electrónica.

2. La Ilusión de la Anonimización y la Protección de Datos

El estudio de los modelos probabilísticos demuestra que la anonimización tradicional de bases de datos es fácilmente reversible mediante cruces de información (data matching). Sin la implementación de técnicas matemáticas avanzadas como la Privacidad Diferencial, que inyecta ruido controlado en los datos para proteger registros individuales, la exposición de datos personales e historiales sensibles en causas judiciales y administrativas en Chile representa un riesgo inminente para la vida privada de los ciudadanos.

1. DE LA INACCIÓN A LA ACCIÓN: EL IMPERATIVO PARA LA ABOGACÍA CHILENA

El modelo europeo ha dejado claro que ningún sistema de IA debe operar fuera del control democrático y normativo.

Considero que la pieza angular de esta nueva gobernanza debe ser el derecho a la explicabilidad, la prerrogativa de todo ciudadano o litigante de conocer la lógica interna, los parámetros de ponderación y los datos utilizados por un algoritmo que adopte una decisión que le afecte.

Para cerrar la brecha que nos separa de las sociedades más desarrolladas en esta materia, sostengo que la comunidad jurídica y el legislador chileno debemos exigir e implementar tres pilares esenciales:

Supervisión Humana Obligatoria (Human-in-the-loop): Debe prohibirse expresamente que resoluciones judiciales o administrativas sancionatorias sean adoptadas exclusivamente por algoritmos. El juicio normativo, la ponderación de la prueba y la empatía ética deben permanecer de forma privativa en el ser humano.

Auditoría Algorítmica y Compliance Tecnológico: Los abogados debemos capacitarnos para revisar los datos de entrenamiento y la calibración de los modelos antes de que sean desplegados en empresas u organismos públicos, garantizando que cumplan con la ley y la Constitución.

Actualización del Marco de Protección de Datos: Se requiere agilizar la entrada en vigencia de la nueva institucionalidad de datos personales en Chile mediante la actualización de la Ley N° 19.628, otorgando herramientas efectivas para fiscalizar el perfilamiento algorítmico y garantizar los derechos de acceso, explicación y supresión.

1. CONCLUSIONES

Mi experiencia académica con el estándar de la Universidad de Helsinki me demostró que el foro jurídico chileno no puede seguir abordando la Inteligencia Artificial desde la simple adopción de herramientas comerciales. Existe un desfase profundo respecto al nivel de conciencia y lógica que se maneja en Europa, el cual solo superaremos mediante el estudio riguroso de la técnica y las matemáticas subyacentes al dato.

La Inteligencia Artificial es una herramienta de cálculo probabilístico de alta densidad, carente de conciencia, semántica, juicio ético o sentido de justicia. Su rol en el ámbito legal debe ser estrictamente instrumental, auxiliar y sujeto a revisión permanente.

La automatización de tareas mecánicas, el e-discovery y la revisión masiva de documentos son avances valiosos para la eficiencia del trabajo procesal. Sin embargo, la estrategia de litigación, el razonamiento deductivo, la hermenéutica constitucional y la defensa intransigente del Estado de Derecho son tareas intrínsecamente humanas.

El Compromiso del Jurista Chileno: Los abogados de nuestro país tenemos el deber no solo de adaptarnos al cambio tecnológico, sino de liderar su regulación y control. El futuro de nuestra profesión no pertenece a quien simplemente usa una IA, sino al abogado capaz de auditarla, exigir transparencia algorítmica y garantizar que la tecnología permanezca siempre subordinada al imperio del Derecho, la justicia y los derechos fundamentales.

*Ignacio Araya Pinto – Abogado, Licenciado en Ciencias Jurídicas