​Utilizamos cookies propias y de terceros para mejorar nuestros servicios y mostrarle publicidad relacionada con sus preferencias mediante el análisis de sus hábitos de navegación. Si continúa navegando, consideramos que acepta su uso. Puede obtener más información, o bien conocer cómo cambiar la configuración, en nuestra Politica de cookies

Future Trends Forum 20 Abr 2020

Proyecto Stop-Hate para detectar discursos de odio en las redes sociales

El objetivo de la prueba, desarrollada por la Universidad de Salamanca con el apoyo de tthegap es desarrollar y evaluar un detector del discurso del odio en línea en español para monitorizar estos discursos.

En España existe una preocupación creciente por el discurso de odio online y por las conductas construidas sobre prejuicios y estereotipos que pueden lastrar la convivencia social. Es un punto candente puesto que toca el debate acerca de los límites del derecho a la libertad de expresión, pero también por la incorporación de nuevas formas de comunicación.

Esta preocupación es reciente, porque los delitos de odio no empiezan a tener relevancia social con ese nombre hasta 2009 y se empieza a trabajar desde las instituciones con las primeras estrategias de acción en 2015.

Estudios e iniciativas anteriores han abordado la monitorización del discurso del odio online en diferentes países, sin embargo, no se aprecia una propuesta articulada de cómo abordar los mensajes de odio online. Desde las instituciones públicas y empresas privadas (principalmente redes sociales) se está empezando a realizar un esfuerzo por comprender este fenómeno y combatirlo con un enfoque común, pero todavía carecen de un marco articulado de objetivos y técnicas que lo solucionen, por lo que el prototipo STOP-HATE pretende aportar una herramienta que facilite estas tareas.

¿En qué consiste el proyecto?
Stop-Hate permitirá la identificación y análisis de discursos de odio online contra cuatro tipos de públicos vulnerables:

  1. Racismo o xenofobia y migrantes o refugiados;
  2. Orientación o identidad sexual;
  3. Creencias o prácticas religiosas, incluyendo antisemitismo;
  4. Ideología política

Se llevará a cabo mediante la recopilación automatizada y modelado de datos no estructurados con técnicas de procesamiento del lenguaje natural (extracción de palabras y entidades) y aprendizaje automático (análisis de sentimientos, modelado de temas, algoritmos de clasificación etc.).

Será aplicado en primer lugar en la red social Twitter, pero con la posibilidad de ampliarlo a otras redes (como Facebook), a noticias o a comentarios en medios digitales.

El objetivo de esta prueba de concepto, desarrollada por la Universidad de Salamanca, desde el Observatorio de los Contenidos Audiovisuales, con el apoyo de la agencia tthegap, es desarrollar y evaluar un detector del discurso del odio en línea en español para monitorizar con técnicas de big data este tipo de mensajes de odio y así proveer a las empresas privadas (consultoras, tecnológicas, medios de comunicación, redes sociales), gobiernos (locales, autonómicos, nacionales) y organizaciones no gubernamentales, de herramientas tecnológicas para contrarrestar sus efectos y combatir los delitos de odio (agresiones y/o amenazas verbales o físicas, etc.).
 

Proyecto financiado por la Fundación General de la Universidad de Salamanca. Plan TCUE 2018-2020

Página web del proyecto: www.ocausal.es/proyecto-stop-hate/

Más en nuestra web

  • Tendencia
    Innovación y Covid-19

    Recopilación de encuesta, webinars y recomendaciones de los expertos del Future Trends Forum sobre el impacto del Covid-19 en nuestra sociedad, y cómo la innovación se presenta como la oportunidad para afrontar esta crisis.

  • Moe Levin
    Moe Levin

    CEO en Keynote