Exist 2021, la campaña que detecta y clasifica el lenguaje sexista en Internet

Participan investigadores de la UNED, la Universidad Politécnica de Valencia y la Universidad de Barcelona.

30

¿Cómo suena el sexismo en las redes sociales? No siempre igual, no siempre tan obvio y, a veces, puede parecer hasta amable o “gracioso”.

Veamos: “Las mujeres deben ser amadas y respetadas, trátalas siempre como un vidrio frágil” ó “Hay que amar a las mujeres… solo eso… nunca las entenderás”. Ambos ejemplos los aporta el profesor Jorge Carrillo de Albornoz, profesor de la ETSI de la UNED.

“En el primer caso se esconde la idea de que las mujeres son más débiles que los hombres; en el segundo, puede parecer una broma y es un chiste típico de humor sexista. En los casos más extremos, el sexismo puede sonar ofensivo e incluso incitar al odio. Por eso es complicado detectar automáticamente el sexismo online, porque se expresa de maneras muy diferentes.

“Investigaciones anteriores han estudiado la presencia de contenidos misóginos y violentos hacia la mujer en Internet, pero nunca antes se han tratado el sexismo en su globalidad, que incluye formas sutiles, amables e incluso encubiertas”, – Jorge Carrillo de Albornoz

“Hemos encontrado un alto porcentaje de tweets en inglés para la categoría “violencia sexual”, cuenta Carrillo, y añade que, “el porcentaje de contenido sexista que podríamos considerar implícito o sutil en el dataset es considerablemente más alto que el explícitamente violento, lo que corrobora que es imprescindible avanzar en la detección automática de este tipo de sexismo”.

El equipo de Trinidad Donoso, de la Universidad de Barcelona, referente nacional en el estudio del sexismo en la red, ha sido el encargado de identificar un conjunto de términos que, con frecuencia, se presentan en conversaciones sexistas, pero que, dependiendo del contexto de la conversación, pueden también presentarse en conversaciones sin ninguna connotación sexista.

También han elaborado una categorización de los tipos de sexismo que con mayor frecuencia encontramos en redes sociales, tomando como referencia las distintas facetas de la mujer que son atacadas o menoscabadas.

A partir de estos términos, el equipo de la UNED ha recopilado un dataset de conversaciones que los contienen y que han sido anotados manualmente como sexistas o no sexistas, y se asigna así a cada conversación sexista una categoría conforme a la categorización elaborada por las expertas.

El equipo de Trinidad Donoso, referente nacional en el estudio del sexismo en la red, ha sido el encargado de identificar un conjunto de términos que, con frecuencia, se presentan en conversaciones sexistas.

Los objetivos de Exist

“La campaña EXIST pretende impulsar el desarrollo de algoritmos automáticos capaces de detectar el sexismo en un sentido amplio. Así, se toman en cuenta tanto la misoginia explícita como otras expresiones sutiles que involucran comportamientos sexistas implícitos. Se trata de una tarea muy compleja debido al uso de vocabulario neutro y la dependencia con el contexto en que se produce la conversación”, explica el profesor.

La campaña de evaluación EXIST se organiza como parte del proyecto MISMIS (Misinformation and Miscommunication in Social Networks) en el que participan investigadores de la UNED, la Universidad Politécnica de Valencia y la Universidad de Barcelona.

“Investigaciones anteriores han estudiado la presencia de contenidos misóginos y violentos hacia la mujer en Internet, pero nunca antes se han tratado el sexismo en su globalidad, que incluye formas sutiles, amables e incluso encubiertas”, señala Carrillo.

“Durante la competición EXIST se ha pedido a los equipos participantes que desarrollen sistemas automáticos capaces de clasificar automáticamente los textos como sexistas o no sexistas y, en caso de ser sexistas, clasificarlos según el tipo de sexismo: misoginia, violencia sexual, objetivación de la mujer, de estereotipo y dominancia, e ideológico”, señala Carrillo.

La detección automática de conversaciones sexistas en la red tiene muchas aplicaciones prácticas, todas ellas de gran impacto social.

El profesor explica que el objetivo no es identificar términos sexistas sino detectar conversaciones con connotaciones sexistas. “De hecho, frecuentemente, y máxime cuando se trata de un sexismo sutil, las conversaciones no presentan términos que, per sé, puedan considerarse sexistas, pero, sin hacer uso de un vocabulario específico u ofensivo, encierran mensajes que menoscaban o discriminan a la mujer”, advierte.

Aplicaciones

La detección automática de conversaciones sexistas en la red tiene muchas aplicaciones prácticas, todas ellas de gran impacto social.

Tal y como explica el profesor Carrillo, “por un lado, proporciona valiosísima información estadística para conocer qué tipos de sexismo predominan en la red. Ello incluye: a qué colectivos afecta, en qué zonas geográficas de nuestro país se concentra, qué características sociodemográficas tienen las víctimas, cómo se propagan los contenidos sexistas, etc.

Toda esta información redundará en una mejor toma de decisiones y permitirá a las instituciones y empresas un mejor desarrollo de políticas de igualdad.

Por otro lado, puede utilizarse para el desarrollo de filtros y alertas automáticas que permitirá detectar las formas violentas y potencialmente peligrosas para detener comportamientos que puedan incluso amenazar la vida o poner en riesgo la salud física y mental de las mujeres, especialmente, adolescentes y mujeres jóvenes”.

Artículo anteriorMiriam Gutiérrez regresa a Publicis España como Directora Creativa Ejecutiva
Artículo siguienteLas mujeres ganan terreno en consejos de administración, pero…
Perfil Oficial de Mujeres y Cia