El juez de la Corte Suprema de Justicia de la Nación Ricardo Lorenzetti habló en un evento organizado por la DAIA sobre la expansión de los discursos de odio en las redes sociales. “Es un tema muy importante en muchos sentidos, para la democracia en general, porque en todo Occidente principalmente se discute mucho. Yo he participado en numerosas reuniones internacionales sobre este tema, en las cuales hay un gran debate acerca de cómo vamos a seguir funcionando en las democracias occidentales con este nivel de impacto del odio en todos los niveles”, dijo. A lo largo de la conferencia el juez sostuvo que el desarrollo tecnológico está potenciando mecanismos de discriminación que existen desde hace siglos y analizó los desafíos que plantea el ecosistema digital para las democracias. También explicó qué herramientas jurídicas pueden utilizarse para prevenir y reparar los daños, sin poner en riesgo la libertad de expresión.
Para el magistrado, uno de los principales riesgos actuales es la naturalización de la discriminación y la falta de reacción social frente a ella. A ese fenómeno se suma la tendencia a combatir el odio mediante nuevas expresiones de violencia, “odiar para terminar con el odio”, una contradicción que, según señaló, termina reproduciendo aquello que se pretende erradicar.
“¿Cuáles son los mecanismos por los cuales se expande este odio? Hay mecanismos que podríamos llamar culturales o epistemológicos y otros tecnológicos”, explicó el juez. “Hoy en las redes sociales vemos con mucha frecuencia esta creación de falsas verdades, las fake news, y la idea de crear tesis conspirativas. Es notable que en un mundo donde hay proliferación de tecnología avanzada, cada vez hay más teorías conspirativas. Otro de los mecanismos epistemológicos y culturales es la descalificación ad hominem, es decir, criticar a alguien no por el argumento, sino por el origen de quien lo dijo”, agregó.
Lorenzetti explicó que las redes sociales amplifican esos mecanismos mediante algoritmos que favorecen la circulación de contenidos capaces de captar la atención de los usuarios. A su vez, la personalización de la información genera espacios cerrados en los que las personas reciben principalmente mensajes que confirman sus propias creencias, lo que reduce el contacto con opiniones diferentes y profundiza la polarización. A partir de esto, explica el juez, “cada vez somos menos independientes en el uso del espíritu crítico. Aceptamos la información que se nos da acríticamente y nos encerramos en lo que se suelen denominar “echo chambers”, es decir, la idea de que solo escuchamos el eco de lo que ya pensamos, buscamos confirmar lo que ya sabemos. Y entonces esto produce un endurecimiento y cada vez somos más primitivos en el modo de pensar. El segundo tema es la potencialidad de los algoritmos en crear persecución y discursos de odio”, explicó Lorenzetti. Como consecuencia, los grupos tienden a encerrarse en posiciones cada vez más rígidas y a identificar a quienes piensan distinto como adversarios.
En ese contexto, el juez planteó que el desafío no consiste solamente en evitar que la inteligencia artificial reemplace capacidades humanas, sino en impedir que las personas pierdan autonomía crítica frente a la tecnología. “El problema no es que la inteligencia artificial vaya a sustituir la inteligencia humana, sino que la inteligencia humana se parece cada vez más a la inteligencia artificial”, sostuvo.
En el plano jurídico, Lorenzetti remarcó que la libertad de expresión debe seguir siendo la regla general y advirtió sobre los riesgos de recurrir a la censura previa o a sanciones penales indiscriminadas. Sin embargo, explicó que existen herramientas legales para intervenir cuando los discursos trascienden el ámbito privado y constituyen una incitación a la violencia o a la discriminación. En ese sentido, mencionó la Convención Americana sobre Derechos Humanos, la Ley 23.592 contra la discriminación y las disposiciones del Código Civil y Comercial que permiten prevenir daños.
“La libertad de expresión tiene dos aspectos, uno es la libertad de expresión como bien democrático, como bien del sistema democrático, un valor colectivo, que todos debemos proteger. Después está la libertad de expresión como el ejercicio de un derecho individual a expresarse. Ese ejercicio puede ser ejercitado regular o irregularmente. Cuando es ejercitado irregularmente es un abuso del derecho que está también descrito porque es contrario a la buena fe, contrario a los fines que el derecho le ha dado, lo ha reconocido, y entonces si tenemos un ejercicio de la libertad de expresión hecho de manera individual para odiar es un ejercicio irregular. Esto habilita, entonces, una acción preventiva”, explicó. El entorno digital, agregó, presenta particularidades que deben ser consideradas por los tribunales: un mensaje puede multiplicarse mediante algoritmos, llegar a públicos diferentes de aquellos a los que estaba dirigido originalmente y permanecer disponible de manera indefinida. Esa amplificación puede agravar sus consecuencias y requiere analizar las responsabilidades de quienes intervienen en la difusión.
“Es notable cómo ha cambiado esto en los últimos años, y para estos discursos de odio lo que necesitamos es la participación activa de la sociedad consciente y ejercitando derechos que puedan cambiar el sistema, que sean acciones eficaces y no solo la queja en las redes, porque la queja en las redes no sirve”, aseguró.
“Todo tiende a creación de tribus y creación de enemigos. La política se basa en la creación de enemigos. Las redes sociales incrementan los enemigos. Vivimos en un mundo de enemigos. Y de falta de diálogo. Y esa falta de diálogo ocurre en las familias, a nivel personal, a nivel social, a nivel político y a nivel de los discursos de odio, porque muchas veces se hacen discursos de odio sin saber cuál es la razón. En este momento estamos llenos de teorías conspirativas que crean discursos de odio sobre cualquier hecho”, dijo el juez.
En relación a esto sostuvo que la respuesta al crecimiento de los discursos de odio también requiere revisar el funcionamiento de las instituciones y generar espacios de encuentro entre personas con posiciones diferentes. Para ilustrar esa idea, recordó una audiencia pública ante la Corte Suprema en la que se alternaron las intervenciones de sectores enfrentados, una dinámica que permitió reducir las tensiones y favorecer el intercambio de argumentos.
Para Lorenzetti el desafío consiste en superar la lógica de la confrontación, promover un lenguaje menos excluyente y diseñar instituciones y tecnologías que favorezcan el diálogo en lugar de profundizar las divisiones sociales. “Es el momento de la acción eficaz y es el momento también de encontrar estos narradores morales de la nación, personas que piensen en grande, no en tribus, sino en grandes sociedades multiculturales”, concluyó.
