Columnas

El algoritmo también rinde cuentas: la transparencia empieza en el contrato

Por Matheo José Dager De La Hoz*

Cuando una entidad pública decide quién recibe un subsidio, qué solicitud se atiende primero o qué contribuyente merece una fiscalización, el ciudadano tiene derecho a saber por qué. Esa regla, elemental en el derecho administrativo, empieza a tambalear cuando la decisión, o buena parte de ella, la produce un sistema automatizado comprado a un tercero. Basta pedir información sobre su funcionamiento para recibir una respuesta conocida: el código pertenece al proveedor, está protegido por secreto comercial o su divulgación pondría en riesgo la seguridad informática.

En Colombia esa discusión ya tiene un punto de partida. En la sentencia T-067 de 2025, la Corte Constitucional revisó la tutela de un ciudadano a quien se le negó el código fuente de CoronApp, la aplicación oficial de la pandemia. La Corte consideró insuficientes las razones de las entidades para mantenerlo en reserva, reconoció la transparencia algorítmica como parte del derecho de acceso a la información pública y ordenó a la Agencia Nacional Digital, a la Defensoría del Pueblo y a la Procuraduría elaborar lineamientos sobre la materia. De ahí surgió la Directiva Conjunta 007 de 2025, que fija estándares mínimos para los sistemas algorítmicos del Estado y prevé que, frente a una solicitud de código fuente, la entidad evalúe si lo entrega o si ofrece una explicación comprensible del funcionamiento del sistema.

Matheo José Dager De La Hoz

El avance es real, pero deja un problema sin resolver. La transparencia se está pensando sobre todo en el momento de la petición, cuando el sistema ya opera y la entidad debe defender su reserva. Para entonces suele ser tarde. Si el contrato no previó el acceso a la documentación técnica, la entidad puede no tener en su poder la información que se le pide, y el proveedor alegará que nunca se obligó a entregarla. El derecho de acceso choca entonces con una pared que la propia administración levantó al contratar.

La Ley 1712 de 2014 ofrece herramientas que conviene tomar en serio. Es cierto que su artículo 18 permite rechazar el acceso cuando pueda causar daño a secretos comerciales, industriales o profesionales. Pero el artículo 28 pone en cabeza de la entidad la carga de probar por qué la información debe permanecer reservada, y el artículo 21 exige divulgar la parte del documento que no está protegida. La reserva es una excepción que debe justificarse caso a caso, no una fórmula que cubra todo el sistema.

Chile ha avanzado por un camino complementario. El Consejo para la Transparencia aprobó en agosto de 2024 unas Recomendaciones sobre Transparencia Algorítmica dirigidas a los organismos del Estado, con el propósito de que las personas puedan conocer y entender los sistemas automatizados que las afectan. Son recomendaciones y no obligaciones, pero muestran que la explicación del sistema puede organizarse antes de que surja el conflicto.

La propuesta, entonces, es llevar la transparencia hacia atrás, al proceso de contratación. Los pliegos y contratos para adquirir sistemas que apoyen decisiones administrativas deberían incluir, como mínimo, tres compromisos. El primero, la obligación del contratista de entregar y mantener actualizada una documentación técnica que permita explicar en lenguaje claro qué datos usa el sistema, qué variables pesan en el resultado y qué márgenes de error tiene. El segundo, la renuncia a oponer el secreto comercial frente a esa explicación, sin perjuicio de proteger el código cuando su divulgación cause un daño probado. El tercero, la posibilidad de auditorías independientes, con acceso al sistema en condiciones controladas.

Nada de esto exige una ley nueva. Exige que las entidades entiendan que comprar un algoritmo es también comprar la capacidad de explicarlo, y que el proveedor que no acepte esas condiciones quizá no sea el adecuado para intervenir en decisiones sobre los derechos de las personas. La rendición de cuentas no puede depender de la buena voluntad de quien vendió el sistema. Tiene que quedar escrita en el contrato.

*Por Matheo José Dager De La Hoz es estudiante de Derecho de la Universidad Externado de Colombia.

Artículos relacionados

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Close
Close