El sesgo de género en la inteligencia artificial

El Instituto de las Mujeres realizó un seminario para reflexionar sobre la importancia de incorporar el enfoque de género en estos sistemas y evitar la pérdida de derechos.

56

El Instituto de las Mujeres ha convocado a un seminario virtual denominado “Justicia algorítmica en clave de género” para reflexionar junto a varias representantes de empresas del sector, informáticas y especialistas.

La actividad se realizó el pasado 22 de septiembre y tuvo como objetivo contribuir a sensibilizar a la comunidad sobre los beneficios y riesgos de la inteligencia artificial y acerca de la importancia de un enfoque más humanista y multidisciplinar en los equipos de trabajo.

La presentación estuvo a cargo de la directora del Instituto de las Mujeres, Antonia Morillas González quien ha afirmado que siguen existiendo brechas de género dentro del campo de la inteligencia artificial, “instrumentos que siguen reproduciendo estereotipos de género” y ha destacado la necesidad de impulsar desde las instituciones públicas medidas para contrarrestar esta situación. 

Asimismo, se ha referido a la importancia de «revisar» y «analizar» cómo estos sistemas «pueden afectar al desarrollo de los derechos humanos» reproduciendo «sesgos» y «estereotipos» presentes en la sociedad.

Siguen existiendo brechas de género dentro del campo de la inteligencia artificial, “instrumentos que siguen reproduciendo estereotipos de género”.

En este sentido, cabe destacar que, según un estudio de la UNESCO, las voces femeninas virtuales presentan un tono de sumisión y obediencia, ya que han sido desarrolladas desde un enfoque patriarcal, por lo que se siguen perpetuando conductas que generan una desigualdad entre ambos géneros.

Además de este ejemplo, Morillas ha señalado que los historiales que realizan las redes sociales están «basados en estereotipos» y «concepciones previas» que «incentivan la polarización».

También apuntó a la ausencia de datos sobre asuntos que interesan a las mujeres como el tratamiento del embarazo o el parto, o la falta de cifras, por ejemplo, en relación a los infartos en mujeres. Números que, según destacó, se escondieron durante mucho tiempo.

Además, resaltó que la UNESCO esté trabajando en un documento de recomendaciones sobre ética en la IA que “apuesta por definir marcos regulatorios por parte de los estados”; así como que la UE apoye también “que haya un enfoque regulatorio” en esta materia, un tema sobre el que “se está debatiendo una propuesta de reglamento”.

Morillas ha señalado que los historiales que realizan las redes sociales están «basados en estereotipos» y «concepciones previas» que «incentivan la polarización».

Antonia Morillas González, directora del Instituto de Mujeres, en la presentación del seminario.
Mujeres y vocaciones STEM

Entre las medidas que propone la directora del Instituto de las Mujeres está la de incentivar «desde niñas» el interés por las profesiones relacionadas con la ciencia y tecnología.

A su juicio, parte de la problemática existente en el diseño de algoritmos se debe a cifras que surgen desde un análisis realizado por el Instituto de las Mujeres que indican que menos del 25% de las personas que se dedican a la investigación en IA son mujeres; y entre quienes lideran proyectos en el ámbito empresarial en este campo solo un 18% son mujeres. En cuanto a los artículos de investigación en este tema, Morillas ha indicado que el porcentaje de autoras se sitúa en el 13,8%.

Menos del 25% de las personas que se dedican a la investigación en IA son mujeres.

Debate de expertas

En la jornada, una de las mesas de debate denominada “Género, ética y algoritmos”, estuvo compuesta por Gemma Galdón Clavell, Doctora en Políticas Tecnológicas, presidenta de la Fundación Éticas, fundadora y directora de la empresa Éticas Research and Consulting; Lucía Ortiz de Zárate Alcarazo, graduada en Física y Filosofía, investigadora predoctoral en Ética y Gobernanza de la Inteligencia Artificial (Universidad Autónoma de Madrid) y Margarita Padilla García, ingeniera y programadora informática, autora de varios textos de pensamiento crítico a las tecnologías, y una de las fundadoras de Sindominio para el apoyo de colectivos sociales en la red.

Las participantes dialogaron sobre cómo mejorar adecuadamente el funcionamiento de los algoritmos y regular la industria tecnológica para no retroceder en derechos humanos.

A lo largo del debate, las expertas han defendido la necesidad de regular la industria tecnológica, ya que presenta un espacio de impunidad donde las máquinas sentencian verdades estadísticas que da lugar a una indefensión total por parte de la ciudadanía.

Puedes acceder a la grabación del evento, pincha aquí.

Artículo anteriorLas mujeres ganan terreno en consejos de administración, pero…
Artículo siguienteLa científica española Ángela Nieto, premio L’Oréal-UNESCO For Women in Science
Perfil Oficial de Mujeres y Cia