La urgencia de combatir deepfakes en una brecha generacional expuesta a estrategias de desinformación

Por Luis Hernández Rojas*

La irrupción de la Inteligencia Artificial en una sociedad tejida por redes digitales ha transformado abruptamente la estructura comunicacional de la información. Es un deber consolidar el conocimiento educativo, cultural y tecnológico en el uso responsable de las herramientas que ofrece este fenómeno.

Claramente, la IA representa un nuevo orden radical similar a los inicios de la revolución industrial que converge a nuevos escenarios sociales geopolíticos, económicos, académicos, entre otros.

Sin embargo, leyes actuales en sintonía con planes de alfabetización parecen ser soluciones insuficientes en el objetivo de regular la evolución de los contenidos.

El aumento de las deepfakes o ultrafalsos está arraigado en todas las plataformas tecnológicas de información, interacción y conocimiento. Desde el periodismo, aspectos negativos profundizan una problemática de identidad fotográfica y audiovisual más allá de los bulos, denominada deepfake o ultra falso.

Esta técnica manipula archivos textuales, de voz, fotográficos o videos con tecnologías que alteran su composición original convertidos en copias cuasi auténticas.

En este escenario, los creadores de deepfakes apuestan por los centennials o generación Z para viralizar contenidos de desinformación. Este segmento de la sociedad digital posee la habilidad de manipular dispositivos y posicionar tendencias desconociendo medidas efectivas para corroborar la autenticidad de una publicación.

En recientes investigaciones realizadas por el Departamento de Comunicaciones de la Universidad Carlos III de Madrid, resalta que la tendencia de bulos actuales está mayoritariamente relacionada con la política de videos difundidos por usuarios que comparten hechos de representantes políticos en circunstancias (rueda de prensa, mítines, discursos, entrevistas).

Caso deepfake en Chile

El titular de esta deepfake fue elaborado a partir de una entrevista realizada al presidente chileno Gabriel Boric por la periodista Jenny Perez-Schmidt, presentadora en la televisora alemana DW (Deutsche Welle – español).

La noticia publicada en un perfil de la plataforma Facebook en 2024, registra una clara alteración de la conversación entre ambos creada con Inteligencia Artificial promoviendo un negocio ilícito de inversión económica. Posteriormente, la periodista desmintió a través de sus redes sociales el hecho noticioso falsificado.

Este ejemplo demuestra el grave peligro que afectaría a miles de usuarios digitales sin conocimiento básico en la identificación de contenido ultra falso. Por ende, urge regular leyes y definir soluciones frente a la proliferación de este fenómeno.

Frente a esta situación, la Cámara de Diputadas y Diputados de Chile aprobó en condición general de regulación, el pasado 4 de agosto el Proyecto Ley Deepfake con la obligación de definir objetivos para sancionar el uso incorrecto de la Inteligencia Artificial. En caso de ser aprobada, Chile sería el primer país de la región en legislar medidas sobre dicho asunto.

Alfabetización mediática

Desde el MIT (Instituto Tecnológico de Massachusetts, por sus siglas en inglés) promueve a todos los interesados el curso gratuito Media Literacy in the Age of Deepfake para identificar deepfakes diseñadas sobre contextos actuales de desinformación en materia electoral y conflictos geopolíticos.

En este año, la Asociación Española para el Fomento de la Seguridad de la

Información realizó junto a empresas tecnológicas de ciberseguridad el Foro Deepfakes: riesgos, casos reales y desafíos en la era de la IA- para proponer avances en la identificación de material creado por herramientas avanzadas en el entorno artificial.

Las conclusiones recomiendan utilizar algunas herramientas para identificar contenido alterado: ELA (Error Level Analysis), fakeimagedetector.com, ManTraNet y FAL Detector.

El informe anual de derechos humanos 2024 presentado por Instituto Nacional de Derechos Humanos (INDH) y el Centro de Derechos Humanos de la Universidad Diego Portales (UDP), recomienda al Estado crear una agencia reguladora independiente que dictamine medidas de transparencia y rendición de cuentas sobre Inteligencia Artificial.

Es indudable el peligro latente de las deepfakes avanza velozmente con la evolución de técnicas algorítmicas especializadas en hiperrealismo de videos, fotografías y suplantación de voces. Sectores de la sociedad, gobiernos, organizaciones de factchecking, medios de comunicación y empresas tecnológicas están obligados a coordinar alianzas como estrategia en el corto plazo para impedir la normalización de este fenómeno.

La legislación de la Inteligencia Artificial en Chile debe profundizar propuestas más allá de la Ley Deepfake. El diseño de medidas prácticas sobre alfabetización mediática junto a organismos como la Asociación Chilena para el Desarrollo Sostenible es una necesidad para la sociedad digital chilena. Esta batalla contra las deepfakes es un compromiso cultural, ético y moral de todos.

Luis Hernández Rojas, Periodista.