Por Jorge Tisné*
Recientemente conocimos el caso de Builder.ai, una empresa que ofrecía servicios basados en inteligencia artificial (“IA”) y que permitía a los usuarios crear aplicaciones móviles y web a un bajo costo y en tiempos muy competitivos. Según informaron diversos medios de comunicación, la empresa se declaró en quiebra cuando se descubrió que sus servicios basados en IA, en realidad consistían en un equipo de 700 ingenieros ubicados en India, quienes gestionaban las solicitudes de los clientes 1Noticia disponible en https://www.biobiochile.cl/noticias/ciencia-y-tecnologia/pc-e-internet/2025/06/06/builder-ai-no-era-una-ia-descubren-que-inteligencia-artificial-en-realidad-eran-700-empleados-indios.shtml
Este caso nos invita a reflexionar sobre el uso de IA en actividades comerciales. La publicidad que destaca su uso resulta atractiva porque proyecta una apariencia de modernidad y disrupción tecnológica que permite a los proveedores diferenciarse de sus competidores. De hecho, es frecuente conocer servicios de contabilidad, gestión de personal, atención automatizada, sistemas de recomendaciones, selección de candidatos, seguridad, salud o elaboración de productos que declaran utilizar IA en sus procesos, ya sea para ofrecer mayor personalización, calidad o eficiencia.
Este nuevo escenario conlleva, asimismo, ciertos riesgos. Si bien el uso de la IA supone ventajas indudables, una publicidad exagerada o carente de sustento podrá defraudar la confianza de clientes e inversionistas.
Un escenario similar se observó hace algunos años desde la perspectiva ambiental, cuando diversas empresas aseguraban adoptar estrategias ecológicas o sostenibles que, en la práctica, no significaban mejoras reales en sus procesos. Esto es conocido como GreenWashing y dio lugar a un proyecto de ley para regularlo (boletín 15.044-12; actualmente en segundo trámite constitucional)2Sernac se ha pronunciado sobre el GreenWashing en Circular interpretativa sobre consumo sostenible (2024).
De manera similar al “ecoblanqueo”, la práctica de publicitar el uso de IA para la oferta de bienes y servicios, cuando en realidad es solo una estrategia de marketing sin sustento real, o que exacerba su real uso, ha sido denominada IA Washing.
Si bien el caso de Builder.ai es un ejemplo evidente de publicidad fraudulenta, existen otras circunstancias en las que resultará más difícil determinar si la publicidad se ajusta a la realidad. Lo anterior, porque la definición de IA puede comprender diversos sistemas que varían en su nivel de autonomía, pudiendo ser más o menos sofisticados. En Chile, su definición sigue los lineamientos de la propuesta de la Organización para la Cooperación y el Desarrollo Económico (“OCDE”), habiendo sido definida como “(…) un sistema computacional que, en función de objetivos explícitos o implícitos, infiere, a partir de los datos de entrada que recibe, cómo generar resultados tales como predicciones, contenidos, recomendaciones o decisiones que [pueden] influir en entornos físicos o virtuales. Los distintos sistemas de IA varían en sus niveles de autonomía y capacidad de adaptación tras la implementación”3Esta definición se encuentra en Política Nacional de Inteligencia artificial (actualización 2024). Definiciones similares existen en Circular interpretativa del Sernac sobre protección de los consumidores frente al uso de sistemas de inteligencia artificial en las relaciones de consumo (2022) y en el Proyecto de ley que Regula los sistemas de inteligencia artificial.
Un caso conocido en el que se sancionó la publicidad fraudulenta de IA fue en Estados Unidos (2024), cuando la Comisión de Bolsa y Valores (Securities and Exchange Commission o SEC) imputó cargos a dos empresas dedicadas a la asesoría de inversiones por realizar declaraciones falsas y engañosas sobre el uso de IA. Finalmente, las empresas acordaron con la SEC el pago de multas por USD 4000.000.- 4Noticia disponible en https://www.sec.gov/newsroom/press-releases/2024-36.
En nuestro país es probable que este concepto se vuelva cada vez más conocido en la medida que se incremente la oferta de bienes y servicios basados en IA. Cabe hacer presente que actualmente se encuentra en discusión legislativa un proyecto de ley que regula los sistemas de inteligencia artificial (boletín 16821-19 refundido con el boletín 15869-19; primer trámite constitucional).
Entre los principios que incluye, destacan para estos efectos los siguientes:
- Transparencia y explicabilidad: “los sistemas de IA se desarrollarán y utilizarán facilitando una trazabilidad y explicabilidad adecuadas, de modo tal que los seres humanos puedan conocer de forma clara y precisa y sean conscientes de que se comunican o interactúan con un sistema de IA, en aquellos casos en los que dicho conocimiento les ayudaría a tomar decisiones sobre sus derechos, seguridad o privacidad, informando a sus destinatarios, cuando corresponda, cómo el sistema ha obtenido sus predicciones o resultados, así como también sobre las capacidades y limitaciones de dicho sistema de IA”.
- Protección de los derechos de los consumidores: “los sistemas de IA se desarrollarán y utilizarán de conformidad con las normas vigentes en materia de protección de los derechos de los consumidores, debiendo asegurar el trato justo, entrega de información veraz, oportuna y transparente y el resguardo a la libertad de elección y la seguridad en el consumo”.
Este proyecto de ley distingue entre sistemas IA de (i) riesgo inaceptable, (ii) alto riesgo, (iii) riesgo limitado y (iv) sin riesgo evidente, y es en la definición de sistemas de alto riesgo donde existe una referencia explícita al derecho de los consumidores 5Este sistema se define como “sistemas de IA autónomos o componentes de seguridad de productos que pueden afectar negativamente a la salud y la seguridad de las personas, sus derechos fundamentales o el medio ambiente, así como los derechos de los consumidores, especialmente si fallan o se utilizan de forma impropia”.
Con todo, pareciera que el concepto de IA Washing trascendería al nivel de riesgo de los sistemas, toda vez que se vincula con la información a la que los consumidores deben acceder para comprender el verdadero uso de la IA en bienes y servicios.
En ese sentido, adquiere relevancia las obligaciones de transparencia aplicables a los sistemas de alto riesgo y riesgo limitado que tienen por finalidad, con matices entre ambos sistemas, que sean diseñados y desarrollados con un nivel de transparencia adecuado que permita a los destinatarios entender razonablemente su funcionamiento y grado real de interacción.
Conforme al proyecto de ley, la infracción a las obligaciones de transparencia en sistemas de alto riesgo supone una infracción grave con multas de hasta 10.000 UTM. En el caso de los sistemas de riesgo limitado, se considera una infracción leve, con multas de hasta 5.000 UTM, sin perjuicio de las acciones civiles por los daños sufridos.
Desde un punto de vista del consumo, la IA Washing podría ser sancionada como publicidad engañosa conforme a la ley N°19.496 sobre Protección de los Derechos de los Consumidores. En esta línea, resulta de interés la Circular interpretativa del Sernac sobre protección de los consumidores frente al uso de sistemas de inteligencia artificial en las relaciones de consumo (2022). Si bien dicho documento no atiende directamente este concepto, exige la comprobación de los antecedentes relativos a productos o servicios que incluyan componentes de IA, no pudiendo contener expresiones que induzcan a error o engaño al consumidor (conforme al artículo 33 de la ley N° 19.496).
En síntesis, al ofrecer bienes y servicios, resulta relevante cumplir con el deber de información, adoptando las medidas necesarias para que el destinatario del mensaje comprenda adecuadamente cómo interviene realmente la IA. Además, el proveedor deberá estar en condiciones de demostrar la veracidad de sus afirmaciones.
Por Jorge Tisné*, abogado y asociado senior del equipo de Propiedad Intelectual, Datos & Tecnología.
