Proyecto Stop-Hate para detectar discursos de odio en las redes sociales

El objetivo de la prueba, desarrollada por la Universidad de Salamanca con el apoyo de tthegap es desarrollar y evaluar un detector del discurso del odio en línea en español para monitorizar estos discursos.

En España existe una preocupación creciente por el discurso de odio online y por las conductas construidas sobre prejuicios y estereotipos que pueden lastrar la convivencia social. Es un punto candente puesto que toca el debate acerca de los límites del derecho a la libertad de expresión, pero también por la incorporación de nuevas formas de comunicación.

Esta preocupación es reciente, porque los delitos de odio no empiezan a tener relevancia social con ese nombre hasta 2009 y se empieza a trabajar desde las instituciones con las primeras estrategias de acción en 2015.

Estudios e iniciativas anteriores han abordado la monitorización del discurso del odio online en diferentes países, sin embargo, no se aprecia una propuesta articulada de cómo abordar los mensajes de odio online. Desde las instituciones públicas y empresas privadas (principalmente redes sociales) se está empezando a realizar un esfuerzo por comprender este fenómeno y combatirlo con un enfoque común, pero todavía carecen de un marco articulado de objetivos y técnicas que lo solucionen, por lo que el prototipo STOP-HATE pretende aportar una herramienta que facilite estas tareas.

¿En qué consiste el proyecto?
Stop-Hate permitirá la identificación y análisis de discursos de odio online contra cuatro tipos de públicos vulnerables:

1. Racismo o xenofobia y migrantes o refugiados;
2. Orientación o identidad sexual;
3. Creencias o prácticas religiosas, incluyendo antisemitismo;
4. Ideología política

Se llevará a cabo mediante la recopilación automatizada y modelado de datos no estructurados con técnicas de procesamiento del lenguaje natural (extracción de palabras y entidades) y aprendizaje automático (análisis de sentimientos, modelado de temas, algoritmos de clasificación etc.).

Será aplicado en primer lugar en la red social Twitter, pero con la posibilidad de ampliarlo a otras redes (como Facebook), a noticias o a comentarios en medios digitales.