Puede que las redes sociales sean un espacio para la libre expresión, pero en un mundo donde día con día se lucha por los derechos y la equidad de género, los discursos de odio no deberían tener lugar.
Es por ello que investigadores de la Universidad Tecnológica de Queensland (QUT), Australia, se encuentran desarrollando un algoritmo que será capaz de detectar cualquier contenido misógino en la red social Twitter.
Para hacer esto posible, el equipo de expertos extrajo un millón de tweets; luego, refinaron el conjunto de datos buscando en todas las publicaciones basándose en tres palabras clave: p#t@, mujerzuela y violación. Posteriormente, los desarrolladores de este algoritmo categorizaron los poco más de cinco mil tuits que contenían las palabras clave, fueran mensajes misóginos o no, según su contexto e intención. Finalmente, estos tweets etiquetados se enviaron a un clasificador de aprendizaje automático que utilizó las muestras para crear un modelo de clasificación propio.
Los investigadores afirmaron que, mientras su sistema de inteligencia artificial construía su vocabulario, ellos se encargaron de monitorear el contexto y la intención del lenguaje con el objetivo de ayudar al algoritmo a diferenciar entre lo que puede ser un abuso, sarcasmo y “uso amigable de terminología agresiva”.
“Tomemos la frase 'vete a la cocina' como ejemplo. Sin un contexto de desigualdad estructural, la interpretación literal de una máquina podría perder el significado misógino. Pero visto con la comprensión de lo que constituye un lenguaje abusivo o misógino, puede identificarse como un tweet con intenciones misóginas”, mencionó el profesor Richi Naya, coautor del estudio.
Gracias a lo anterior, los investigadores afirmaron que, hoy en día, su sistema posee la capacidad de entender diferentes contextos con tan sólo analizar el texto. Aunque el modelo actual puede identificar tweets misóginos con un 75% de precisión, el equipo es optimista, ya que su algoritmo también podría ajustarse para la detección de otros temas que inciten al odio, como el racismo y la homofobia.
Finalmente, los investigadores esperan que las plataformas de redes sociales aprueben su algoritmo, el cual, si tiene éxito, evitará que los propios usuarios sean quienes identifiquen y denuncien tuits con contenido inapropiado.