Estamos viviendo en la era de la híper conectividad. La pandemia y la cuarentena han exacerbado aún más nuestro uso de las plataformas sociales. En paralelo, vemos cómo el discurso de odio también ha ido ganando terreno en los medios digitales, donde son cada vez más comunes los comentarios agresivos y carentes de argumentos que, muchas veces, se amparan en el anonimato para crear un ambiente hostil. ¿Dónde se puede trazar la línea entre libertad de expresión y discurso de odio?
El pasado 18 de octubre en Francia, miles de personas salieron a las calles para manifestar su repudio y reivindicar la libertad de expresión. Esto, luego de que días antes Samuel Paty, un profesor de historia y geografía, fuera decapitado al salir de la escuela en la que trabajaba, al noroeste de París.
La situación que dio origen a este despiadado crimen, efectuado por el checheno Abdoulakh A., tuvo lugar a principios de octubre en la sala de clases de Paty, quien dictaba un curso de instrucción moral y cívica, poniendo sobre la mesa temas estipulados en el currículum educacional como la secularidad, la pena de muerte, el aborto y la libertad de expresión. Para ilustrar este último, Paty mostró algunas de las controvertidas caricaturas del Profeta Mahoma publicadas por la revista Charlie Hebdo en 2015. Luego de esto, tanto Paty como el colegio empezaron a recibir amenazas. El padre de una de sus alumnas subió varios mensajes y videos a redes sociales denunciando lo sucedido, insultando al profesor y alentando a otros padres a sumarse a una campaña para que la institución tomara medidas contra él.
Tras el crimen, el gobierno francés apuntó como uno de los culpables a la redes sociales, asegurando que el "linchamiento público" que se hizo a través de las plataformas sociales dio pie a este fatal desenlace. "Debemos supervisarlas mejor", dijo el portavoz del gobierno galo, Gabriel Attal, anunciando que se reforzará el control de mensajes islamistas en redes sociales, con más medios para hacer seguimiento y actuar contra sus autores.
Estamos viviendo en la era de la híper conectividad. Y la pandemia y la cuarentena han exacerbado aún más el uso de las plataformas sociales, que ya venían ocupando parte importante de nuestro tiempo y espacio. Según el GlobalWebIndex, en julio de 2020 se registró un aumento de 10,5% en el uso de las redes sociales respecto del mismo mes en 2019. En paralelo, a diario somos testigos de comentarios agresivos, insultantes y carentes de argumentos que muchas veces se amparan en el anonimato para crear un ambiente hostil. Dentro de las redes estamos expuestos a diferentes discursos de odio: social, sexual, sexista, religioso y de raza, entre otros. ¿Dónde se puede trazar la línea entre libertad de expresión y discurso de odio?
"Lo que sucede en las redes no es muy distinto a lo que pasa en una plaza pública, donde puedes ver a todo el mundo, pero interactúas solo con tu grupo. Pero la consecuencia de esta dinámica es que, cuando se habla de un tema que forma parte de tu identidad y ves en esa plaza a otro grupo expresándose, puede ser confrontacional desde tu cosmovisión. Suceden dos cosas: efectivamente puede haber en esa plaza quienes cataloguen el discurso como discurso de odio, pero, por otra parte, también hay expresiones que son vistas por el receptor como discurso de odio cuando en realidad no lo son", dice Jorge Fábrega, Doctor en Políticas Públicas y experto en Ciencias sociales computacionales.
"El lamentable caso que ocurrió en Francia tiene mucho de lo segundo. Hay quienes dentro de la comunidad musulmana reaccionaron frente a los dichos del profesor apelando a un discurso de odio que los llevó a reaccionar fanáticamente y de manera desmedida. Finalmente, en el discurso de odio, como en el tango, se necesitan dos: el que hace un discurso polémico o confrontacional y la contraparte que lo recibe", agrega.
El discurso de odio es un tema que ha generado inquietud en todo el mundo debido a que se trata de una práctica que socava la cohesión social y erosiona los valores de una sociedad, como lo son la tolerancia, la diversidad y la inclusión. Sin embargo, resulta ser una temática muy difícil de abordar desde el punto de vista jurídico debido a la complejidad de establecer una relación adecuada entre la preservación de la libertad de expresión como garantía democrática y sancionar el discurso de odio.
En agosto de 2019, la facultad de comunicaciones de la Universidad Católica realizó el seminario Discurso de odio en el contexto de las redes sociales y los dispositivos móviles, donde se delinearon deberes y responsabilidades de los medios de comunicación, los usuarios y los gestores de las plataformas sociales. En dicha instancia, Ángela Vivanco, ministra de la Corte Suprema y profesora de la Facultad de Derecho de la Universidad Católica, se refirió a la urgencia de la creación de una ley que regule la difusión de mensajes odiosos en espacios como redes sociales y portales de noticias. "El discurso de odio no pertenece a una desviación social de la libertad de expresión, sino que es una agresión y un ataque contra el estado de derecho. El punto es cómo una sociedad democrática, tolerante y pluralista aborda el discurso de odio evitando limitar la libertad de expresión, pero asegurando que no sea fácil y que tenga sanción cometer este tipo de transgresiones. Es una línea delgada y por eso no es fácil legislar sobre este tema. En Chile, actualmente hay un proyecto de ley que se está tramitando sobre esta materia, pero tiene bastantes complejidades desde el punto de vista de cómo hacer una ponderación adecuada entre lo que significa la libertad de expresión, que puede ser a veces desafortunada, crítica, ácida, a lo que es directamente el discurso de odio que tiene un destino violento".
Según Vivanco, varias instancias en el mundo han ido avanzado en esta línea, intentando establecer parámetros para el accionar de la justicia sobre este tema. "Un ejemplo es el caso de Ross versus Canadá, donde se dijo que el ejercicio de la libertad de expresión requiere responsabilidades especiales. En otras palabras, no solamente debemos mirarlo desde la perspectiva de la libertad, que es lógica, sino que desde la perspectiva de la contraparte, intentando ejercer la libertad de expresión, pero con especial responsabilidad del régimen democrático", dijo.
Precisamente con este objetivo es que en 2019 la ONU lanzó la Estrategia y plan de acción para la lucha contra el discurso del odio, que postula que esta temática no se trata de un fenómeno aislado ni de las estridencias de cuatro individuos al margen de la sociedad. "El odio se está generalizando, tanto en las democracias liberales como en los sistemas autoritarios y, con cada norma que se rompe, se debilitan los pilares de nuestra común humanidad", dijo el Secretario General, Antonio Guterres, en el documento.
"El discurso de odio constituye una amenaza para los valores democráticos, la estabilidad social y la paz, y las Naciones Unidas deben hacerle frente en todo momento por una cuestión de principios. El silencio puede ser una señal de indiferencia al fanatismo y la intolerancia, incluso en los momentos en que la situación se agrava y las personas vulnerables se convierten en víctimas. Hacer frente al discurso de odio no significa limitar la libertad de expresión ni prohibir su ejercicio, sino impedir que este tipo de discurso degenere en algo más peligroso, como la incitación a la discriminación, la hostilidad y la violencia, que están prohibidas por el derecho internacional", agregó Guterres.
Boicot contra Facebook por "propagar el odio"
En junio de este año, más de 100 empresas se sumaron a la campaña
Stop Hate for Profit, que podría traducirse como ‘no al lucro con el odio’, promovida por organizaciones defensoras de los derechos civiles (como Free Press y Color of Change) que denunciaban la falta de regulación de los discursos de odio y las noticias falsas que circulan en Facebook. Desde la plataforma siempre se han mostrado en contra de intervenir los contenidos que se publican, y a finales de mayo el presidente y CEO, Mark Zuckerberg, dijo que las redes sociales "no deberían ser árbitros de la verdad frente a lo que dice la gente".
Frente a esto, la agrupación, que incorpora grandes marcas como Coca-Cola, Unilever, Starbucks, Adidas o la distribuidora cinematográfica Magnolia Pictures, anunció que dejarían de invertir en publicidad dentro de Facebook. Cerca de ocho millones de empresas avisan en esta red social, la que anualmente recibe cerca de 70.000 millones de dólares en ganancia, del cual un 99% proviene de la publicidad.
Días después que anunciaron el boicot, Zuckerberg señaló que se pondrían en marcha nuevas políticas de control de contenido dentro de la plataforma. Sin hacer referencia al boicot, señaló que la compañía cambiaría sus políticas para prohibir el discurso de odio en sus anuncios. Bajo sus nuevas políticas, Facebook no permitiría mensajes que afirmen que las personas de una raza, etnia, nacionalidad, casta, género, orientación sexual u origen inmigratorio específico sean una amenaza para la seguridad física o la salud de cualquier otra persona.
Asimismo, mediante un comunicado, el vicepresidente de Asuntos Globales y Comunicación de Facebook, Nick Clegg, respondió a las acusaciones asegurando que la compañía "no se beneficia del odio". "Miles de millones de personas usan Facebook e Instagram porque tienen buenas experiencias: no quieren ver contenido odioso, nuestros anunciantes y nosotros tampoco. No hay ningún incentivo para que hagamos nada más que eliminarlo", dijo.
Sin embargo, no mucho parece haber cambiado. Según señaló el periodista Andrew Marantz en un artículo publicado en The New Yorker, la empresa se estaría moviendo en sentidos contradictorios. "En teoría, nadie puede publicar discursos de odio en Facebook. Sin embargo, muchos líderes mundiales, como Rodrigo Duterte, de Filipinas; Narendra Modi, de India; Donald Trump y otros, difunden de forma rutinaria discursos de odio y desinformación en Facebook y en otros lugares. La empresa podría aplicar a los demagogos los mismos estándares que a todos los demás, bloqueándolos de la plataforma cuando sea necesario, pero esto sería económicamente arriesgado".
En esa misma línea, Jorge Fabrega señala que "el algoritmo de Facebook es el que está generando este resultado aún cuando el usuario de la plataforma no busque ciertos temas. El diseño de la plataforma busca que se logre la mayor cantidad de tiempo y engagement de los usuarios, donde el criterio de valor es cuánto avisaje o publicidad puedo poner. El algoritmo funciona con un mecanismo de aprendizaje de máquina que hace correlaciones buscando maximizar esto, y lo que retiene más a los usuarios en ese sentido es el contenido más polémico y que desata más pasiones. El objetivo del algoritmo es maximizar utilidades, entonces no tienen ningún incentivo para cambiarlo".
Las nuevas tecnologías han mejorado y facilitado nuestras comunicaciones, pero también han dado paso a la divulgación de ideas y expresiones incitadoras al odio. "Este tipo de discurso está asociado siempre a la violencia, ya sea con la incitación o con la violencia sicológica. El que realiza un discurso de odio no está dando una opinión o un juicio de valor, está agrediendo. De ese punto de vista, lo que se genera es odio, desprecio, ataques de las personas y sus derechos", concluye Vivanco.
