Transparencia algorítmica, recomendaciones generales del CPLT y Derecho del Trabajo: un modelo de referencia.

El 30 de agosto de 2024 se publicó en el Diario Oficial (Núm. 43.938) el documento de «Recomendaciones del Consejo para la Transparencia sobre Transparencia Algorítmica». Dicho instrumento, si bien se orienta a generar criterios relevantes en materia administrativa estatal coherentes con la ley de transparencia que le vincula, y no resulta vinculante para los privados que utilicen sistemas que operen con Inteligencia Artificial (en adelante “IA”), puede ser observado como referencia a considerar en el mundo privado. Por nuestra parte, es de particular interés destacar algunas consideraciones que resultan útiles en materia laboral. 

Lo primero a destacar refiere al conjunto de definiciones en relación a conceptos claves en la materia, que, mientras no se apruebe una ley regulatoria de la IA (por ejemplo, el proyecto de ley N° de Boletín 16821-19) pueden servir de referencia. 

Por ejemplo, respecto de los SDA (sistema de decisiones automatizadas o semiautomatizadas (SDA)) indica que éstos refieren a “cualquier tecnología, sistema o proceso que, mediante un sistema informático, ayude, asista, apoye o reemplace la toma de decisiones”, teniendo como referencia que éstos devengan en la dictación de un acto administrativo, o bien, que produzcan en general efectos jurídicos. Añade que “el sistema de decisiones puede formar parte de un sistema informático más amplio y puede estar compuesto de uno o varios algoritmos”. Describe además que lo anterior comprende “sistemas secuenciales, sistemas predictivos, sistemas que se basen en inteligencia artificial, uso de algoritmos, sistemas de aprendizaje automático, sistemas de automatización de la decisión o de soporte de la decisión; así como la realización de acciones que impliquen predecir, clasificar, optimizar, identificar y/o recomendar”. 

Por su parte, además otorga un concepto de transparencia algorítmica indicando que se trata de una “herramienta consistente en la publicación que permita conocer la existencia, modo de interacción, objetivos, finalidades, funcionamiento, resultados, datos y otras cualidades o informaciones mínimas, de los antecedentes generales y relevantes de los sistemas de decisiones automatizadas y semiautomatizadas, que busquen prevenir resultados injustos, arbitrarios o que afecten indebidamente derechos fundamentales”. 

Luego de exponer conceptos o definiciones fundamentales, la resolución explicita las recomendaciones generales, entre las cuales destacamos:

1. La necesidad de utilización de lenguaje claro en el cumplimiento de la recomendación; 
2. La complejidad técnica, opacidad o características intrínsecas de los SDA no constituyen una causal de reserva admitida por el legislador para limitar, restringir, o excusarse de cumplir con el principio constitucional de transparencia;
3. Consideración de causas limitantes de transparencia en hipótesis lesivas de derechos de terceros o contrarias a bienes jurídicos protegidos por ley, o bien por razones de seguridad, protección de datos personales en la información relativa no sólo al funcionamiento del SDA sino a los datos con que se alimentó el sistema, y los derechos de propiedad intelectual de un tercero proveedor de sistemas informáticos;
4. En el caso de sistemas de caja negra o similares en que la información no se pueda publicar o entregar por existir una imposibilidad técnica real, conforme con el estado del arte, y derivada, por ejemplo, de SDA basados en sistemas de aprendizaje automático, se recomienda que el organismo entregue una explicación acabada de dicha circunstancia, ofreciendo información adicional clara y exhaustiva sobre el sistema y su funcionamiento;
5. El establecimiento de transparencia en herramientas de atención de público, a fin de que se adopten medidas para que las personas tengan claridad de que se están comunicando o interactuando con esta clase de sistemas.

Cada una de las recomendaciones en transparencia podría encontrar una réplica análoga de relevancia en materia laboral cuando sea el empleador quién decida utilizar SDA que puedan incidir en las distintas etapas de la relación laboral: en su origen, en su desarrollo o en su conclusión. En todo caso se trata sólo de una utilidad analógica, y no de una remisión normativa. No es equiparable el deber estatal de transparencia con el del empleador.

En su origen, podrá ser de utilidad referir o tener en consideración de manera ilustrativa los criterios del CPLT si es que analizamos la cautela de la garantía de no discriminación en el proceso de contratación. En segundo término puede plantearse que en el desarrollo de la relación laboral podrá ser exigida por parte del trabajador esta transparencia no como una obligación innovativa, sino derivada de las exigencias de cumplimiento de elementos clásicos de la configuración contractual laboral; como el conocimiento de la forma de determinación de la remuneración, o el conocimiento en la forma de determinación de encargos asociados a comisión u otros. 

Por ejemplo, si un SDA es utilizado en el proceso de determinación de remuneraciones (directa o indirectamente), al trabajador habrá de reconocérsele el derecho, por su naturaleza, a una dimensión informativa (transparencia algorítmica) sobre el uso de estos sistemas. Aquello no representa ninguna novedad en materia jurídica. El único cambio es el técnico (fáctico) por el cual habrá de informar el empleador de manera completa y con lenguaje claro el uso de estos sistemas y su vínculo con la obligación principal de éste (el pago de remuneraciones). Es la clásica discusión sobre el necesario conocimiento de la forma de determinación de remuneración por parte del trabajador, lo que resulta básico en cualquier relación laboral, y no sólo ha surgido a propósito de la inclusión de tecnología en el trabajo. Así podrán reconocerse otros casos en que se presenta también esta relación.

Asimismo, la creación de avisos explícitos sobre interacción de trabajadores con SDA de atención, por ejemplo, al comunicarse con el área de recursos humanos por alguna plataforma o similar, debiesen ser advertidas por el empleador, esclareciendo y explicitando que el trabajador interactuará con un sistema automatizado o semiautomatizado de decisiones o entrega de información o gestión laboral, así como que podrá contar con canales de reclamos, consultas o denuncia sobre esta forma de funcionamiento, y captación de datos. 

Por último, y sin ser exhaustivo en esta aproximación, el tratamiento de los algoritmos de caja negra y la carga probatoria y argumentativa que su uso genera, permiten acceder a mecanismos idóneos de cautela como un derecho de información base. Asimismo, la referencia a los límites de la transparencia por cautela iusfundamental de terceros, protección de datos personales, o propiedad intelectual sobre el SDA con que se opere y que puede ser de titularidad de un tercero también, si bien no se encuentran plenamente desarrollados en estas recomendaciones, otorgan lineamientos relevantes que habrá de tenerse en cuenta cuando el desarrollo en materia laboral, idealmente legal, inicie su camino de positivización. En el intertanto, es esencial que sean considerados por lo menos como guía por parte de la jurisprudencia judicial, y administrativa (por ejemplo, a propósito de los procesos de fiscalización algorítmica de los trabajadores de plataformas de servicios).

*Francisco Ruay Sáez. Socio RMR Laboral. Académico de Derecho del Trabajo Universidad de Talca y Universidad Academia de Humanismo Cristiano.