La transparencia algorítmica como extensión natural del principio de publicidad constitucional

Por Claudia Cayo*

Imaginemos que su hijo no queda en el colegio que eligió y nadie puede explicarle por qué. O que su pensión es calculada por un sistema que ningún funcionario puede describir con precisión. ¿Qué hace usted cuando la decisión que afecta su vida fue tomada por un algoritmo y nadie sabe cómo funciona?

Esa no es una pregunta hipotética. En septiembre de 2025, el Consejo para la Transparencia (CPLT) evaluó el uso de sistemas de decisiones automatizadas en la Administración del Estado. El resultado fue que de 10 organismos que confirmaron usar estos sistemas, 6 no tienen ningún apartado de transparencia algorítmica en sus sitios web. FONASA, el IPS, el Servicio Electoral, la Subsecretaría de Educación y la Superintendencia de Seguridad Social no entregaron todos los antecedentes solicitados.

Es especialmente preocupante que los sistemas en cuestión tienen un alto valor social: determinan quién recibe la Pensión Garantizada Universal, quién accede a una licencia médica y quién es admitido en determinado colegio.

Entramos entonces en la discusión académica internacional sobre la “opacidad algorítmica”. Por definición, corresponde a la falta de transparencia sobre cómo un sistema de Inteligencia Artificial procesa los datos y toma decisiones. Ocurre cuando el funcionamiento interno del algoritmo es incomprensible, lo que impide auditar sus sesgos, entender sus resultados y cuestionar sus acciones.

Ahora bien, el artículo 8° de nuestra Constitución exige publicidad de los actos, resoluciones, fundamentos y procedimientos del Estado.

El punto clave de esta reflexión es que cuando un algoritmo decide si una persona accede a un beneficio social, ese algoritmo es el procedimiento. La presidenta del CPLT lo dijo con precisión: “La modernización tecnológica en el proceso decisional es bienvenida, pero debe ser comprensible, explicable y sujeta a revisión”. Esa exigencia no proviene de un reglamento: proviene del texto constitucional.

La conexión con la protección de datos es, por lo tanto, directa. Las leyes 19.628 y 21.719 exigen que los datos personales se usen solo para los fines que motivaron su recolección, y que ese tratamiento respete los derechos y libertades de las personas.

¿Cómo puede el titular verificar que su información se usa conforme a esos principios si desconoce cómo opera el sistema que la procesa? ¿Cómo puede ejercer su derecho de acceso u oposición frente a una decisión automatizada? Esta vaguedad algorítmica no es neutral respecto de los derechos fundamentales, en la práctica los hace inejecutables.

La protección de los datos de los ciudadanos que procesa un sistema no es lo mismo que la opacidad sobre el funcionamiento de ese sistema. Un Estado que usa tecnología para decidir sobre derechos, pero se niega a explicar cómo, no está protegiendo datos, está blindando sus propias fallas.

Podemos extraer una solución desde la misma practica pública. El SERNAC ya exige a los proveedores privados que, al rechazar una contratación mediante IA, den cuenta clara de los motivos de esa decisión. Si ese estándar se le exige a una empresa frente a un consumidor, ¿con qué argumento no se aplicaría al Estado cuando decide sobre la PGU o una licencia médica?

Las herramientas jurídicas para exigir ese estándar y generar el contrapeso a este poder del Estado ya existen: el artículo 8° CPR, el principio de finalidad de las leyes 19.628 y 21.719, las obligaciones de auditoría de la Ley 21.663, y la Política Nacional de IA vigente hasta 2031. El informe del CPLT demostró que ninguna se aplica de forma integrada. Eso no es un problema tecnológico. Es una decisión política que todavía puede corregirse.

La confianza en la transformación digital del Estado no se construye con eficiencia. Se construye cuando las personas saben que el sistema que decide sobre su vida puede ser explicado, cuestionado y corregido.

En conclusión. el puente que se necesita tender no es entre el Estado y la tecnología. Es entre la tecnología y las personas que dependen de las decisiones que esa tecnología toma sobre ellas.

*Claudia Cayo Sandoval

Abogada especialista en Derecho Público y Administrativo