La regulación del discurso de odio en las redes sociales

Por Jhenny Rivas Alberti * y Alexander Espinoza **

En el marco de la campaña electoral del Presidente Donald Trump, se ha planteado reiteradamente si su discurso, en ocasiones, pudiera ser calificado como discurso de odio, tanto en el caso de los inmigrantes indocumentados o no, los afrodescendientes, las personas de origen asiático. 

Recientemente, Facebook eliminó de su plataforma anuncios de la campaña de Trump, por contener un símbolo similar a los utilizados en la Alemania nazi. El símbolo retirado por Facebook era idéntico a los triángulos rojos usados por los nazis para identificar a sus víctimas políticas en campos de concentración. Podríamos estar ante una simbología denigrante de la dignidad humana, utilizada con fines políticos para generar polarización, haciendo sólo cálculos políticos que beneficien su campaña, sin tomar en consideración la grave ruptura que para el tejido social supone tanto el discurso de odio hecho expresamente, como el velado o a través de símbolos.

De acuerdo con las políticas de Facebook, se “prohíbe usar un símbolo de un grupo de odio para identificar a presos políticos sin el contexto que condene o aclare ese símbolo”. Las principales plataformas sociales, espacios donde el mensaje de odio se difunde con mucha facilidad, han tomado una serie de medidas para combatir el discurso de odio, a través de una iniciativa bautizada con el nombre de “The Online Civil Courage Initiative”, con el propósito de desarrollar acciones y campañas que siembren el terreno para fomentar un debate desde el que afrontar el extremismo y los mensajes de odio.

Por otro lado, la firma del Código de Conducta con las empresas tecnológicas y la puesta en marcha de un Grupo de Alto Nivel en el seno de las instituciones de la Unión Europea (UE), además de instar a atajar estos comentarios de odio, pretenden poner en marcha acciones para ofrecer argumentos en contra de estos.

A pesar de estos esfuerzos, aún quedan muchos críticos en cuanto a la actuación de las redes sociales para combatir el discurso de odio que es difundido aceleradamente a través de las mismas. Estas exigencias llevaron a Alemania a dictar en el año 2017 la llamada “ley aplicación de redes”, conocida por sus siglas NetzDG. En virtud de su entrada en vigor, cualquier plataforma de Internet con más de 2 millones de usuarios está obligada a implementar métodos más eficientes y eficaces de información y eliminación de contenido ilegal. La controversia está en determinar qué contenido es ilegal, desde la perspectiva de la protección a la libertad de expresión y el derecho a la información. Entre otras medidas, redes sociales y servicios tienen 24 horas para actuar después de que se les haya informado sobre un material que viola las leyes alemanas, incluidas, por ejemplo, amenazas de violencia o calumnias. Si los casos son más complejos legalmente, el plazo se extienda hasta los 7 días. Los sitios que no eliminen publicaciones ilegales pueden enfrentar multas de hasta 50 millones de euros.

Esta legislación se aplica a plataformas como Facebook, Twitter, YouTube, Google, o Instagram, pudiendo ser también aplicable a Reddit, VK, Tumblr e incluso servicios de mensajería como WhatsApp, aunque se excluyen expresamente redes profesionales como LinkedIn y Xing. Así, el debate se mantiene abierto toda vez que voces defensoras de los derechos humanos argumentan el efecto de censura que puede producir este tipo de regulaciones.

El discurso de odio encierra graves peligros para la cohesión de una sociedad democrática, la protección de los Derechos Humanos y el Estado de Derecho. Si bien no todo discurso del odio desencadena episodios de violencia, lo que sí parece evidente es que raramente se producen episodios de crímenes de odio, sin una previa estigmatización y deshumanización de las víctimas.

La definición de discurso de odio es problemática en varios aspectos. La producción comunicativa consciente e intencional de la inferioridad de los humanos no se limita a lo que las leyes consideran como discurso de odio y / o en lo que es “punible”. Las definiciones legales son reacciones a los desarrollos sociales y siempre siguen los desarrollos sociales, como la forma en que se manejan. Es así como, las definiciones legales pueden hacer una contribución a la regulación, pero no son constitutivos para esto fenómenos.

Se plantea en doctrina si las consecuencias del discurso de odio no deben limitarse a actos abiertos de violencia y genocidio. En este contexto suele distinguirse entre daños constitutivos y consecuenciales, el primero es causado por el discurso de odio en sí mismo, mientras que este último es el resultado del discurso del odio. El daño también puede ser individual o social. Los episodios de discurso de odio incluyen sufrimiento psicológico, como depresión o ansiedad. El daño social es, por ejemplo, limitaciones en la libertad de movimiento y reunión.  El discurso de odio también puede tener consecuencias sociales tales como desintegración y consecuencias políticas para los procesos democráticos de deliberación.

El discurso de odio siempre se va a poder materializar de muchas formas y mediante muy diferentes y numerosas estrategias y categorías lingüísticas, pues se dispone, en las lenguas, de una escala de concreción a lo largo de la cual se sitúan las formas más explícitas o más implícitas de representarlo, al igual que también sirve esta para representar cualquier forma de discurso. 

Es así, como existe una forma característica y evidente de discurso de odio, verificable en el insulto denigratorio, directo o amenaza patente, pero junto a estas existen una serie de construcciones que configuran discursos indirectos, sutiles y velados en lo que el odio subyace como contenido propuesto.

Las máximas autoridades de las naciones tienen una importante responsabilidad en la construcción y mantenimiento de un proceso de comunicación libre y plural, en donde el principio de tolerancia es la base y en el que el ejercicio de la libertad de expresión tiene como límite infranqueable los discursos contrarios a la dignidad humana, que pueden poner en grave riesgo de ataques y persecuciones a sectores históricamente segregados y discriminados.

Lo que comienza con un discurso violento puede convertirse en hechos violentos; la historia de la humanidad así lo ha demostrado.

 * Jhenny Rivas Alberti es Doctora en Derecho, Académica Universidad Autónoma de Chile, Facultad de Derecho.

 * Alexander Espinoza es Doctor en Derecho, Académica Universidad Autónoma de Chile, Facultad de Derecho