Algoritmo XX

81

La Inteligencia Artificial (IA) es la revolución en la que está sumergida el mundo, la inteligencia de la que todo el mundo habla y de la que se esperan resultados que modifiquen nuestra forma de vivir y entender el mundo. Su avance imparable se materializa en múltiples formas: aprendizaje automático, procesamientos de grandes cantidades de datos, coches autónomos, asistentes de voz, máquinas autómatas, etc…

Esta inteligencia tiene un gran potencial y presenta un gran número de posibilidades que se hacen muy necesarias y que tienen que avanzar de forma paralela al proceso inclusivo que está experimentando la sociedad.

¿Por qué? Analicemos estos dos escenarios posibles:

– La Inteligencia Artificial puede hacer que nuestra sociedad sea más inclusiva, equitativa e igualitaria.

  • – La Inteligencia Artificial puede perpetuar la discriminación por género, sexo, raza, clase social y edad.

Estas dos proyecciones y la concienciación actual de la sociedad ponen de manifiesto que existe ahora mismo una oportunidad excelente para que avancen imparables y se produzca su máximo desarrollo. Así, el resultado final dependerá solo y exclusivamente de nosotros como sociedad.

Sobre algoritmos y datos

El papel de los algoritmos en la IA es fundamental. El término algoritmo según la RAE es “un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema”. Este concepto se emplea diariamente en los medios de comunicación y ya ha tenido su traslación al lenguaje de la sociedad.

Así, la materia prima con la que trabajan los algoritmos son los datos, y de ellos y de su tratamiento dependerá la respuesta de cualquier sistema de Inteligencia Artificial. Por lo tanto, de la descripción, integridad, calidad y precisión dependerá su utilidad y acierto. 

Existen múltiples ejemplos de algoritmos que han heredado los prejuicios y sesgos sociales de los humanos, lo que conlleva la réplica, incluso potenciada, de los mismos errores en las máquinas: sexismo, clasismo, discriminación, racismo, prejuicios, estereotipos y etiquetas.

El origen de estos sesgos asociados a los algoritmos tiene mucho que ver con la escasa presencia de mujeres en el entorno de la IA.

Existen múltiples ejemplos de algoritmos que han heredado los prejuicios y sesgos sociales de los humanos, lo que conlleva la réplica, incluso potenciada, de los mismos errores en las máquinas: sexismo, clasismo, discriminación, racismo, prejuicios, estereotipos y etiquetas.

Según se constata con datos de la Unesco, entre los profesionales que se dedican a la IA solo son mujeres:

  • el 22% de los expertos dedicados a la IA
  • el 24% de las personas dedicadas a la investigación en IA
  • el 18% de quienes lideran proyectos en el ámbito empresarial de la IA
  • el 13,8% de autores de artículos de investigación relacionados con este tema

Otra contribución al sesgo proviene del uso del lenguaje, así, la mayor parte de los desarrollos que utilizan IA se basan en datos en inglés, por lo que las traducciones al español, que sí tienen género gramatical, trasladan estos sesgos. Sirva como ejemplo la discriminación detectada en las profesiones asociadas a hombres o mujeres, traduciendo de manera prioritaria “lawyer” como abogado o “nurse” como enfermera. 

Entre las medidas a adoptar para conseguir resultados inclusivos y no discriminatorios están el aumento del número de profesionales y el liderazgo de las mujeres en el ámbito de la IA, por lo que se hace necesario y obligado el fomento de las vocaciones científicas en niñas: ciencia, tecnología, ingeniería y matemáticas (CTIM).

Por otro lado, es necesaria la creación de un movimiento que asegure y ejecute el control y vigilancia de los algoritmos en lo relativo al lenguaje, ya sea en el ámbito de las traducciones como, fundamentalmente y de forma prioritaria, en la creación de un corpus en español que anote y etiquete los datos sin sesgos.

Está en nuestro ADN hacer que la Inteligencia Artificial sea social.

Sobre la autora:

Nuria San Servando es directora de la Fundación para la Transformación de La Rioja y miembro del Think Tank Margarita Bly. Lleva más de una década promoviendo la cultura de la innovación y desarrollando proyectos con gran capacidad de transformación. Ha ocupado puestos a lo largo de toda la cadena de valor – ideación, gestión, diseño, organización, puesta en marcha, proveedores, dirección de equipos.

Sostiene que el rol donde se cruzan su vocación, sus habilidades y las necesidades de la mayoría de las empresas es la creatividad, la coordinación, la puesta en marcha  y la gestión de equipos para la consecución del éxito en un proyecto. Se define como una apasionada por los retos. La motivan aquellos proyectos desafiantes que no tienen garantizada la viabilidad pero que, por su contenido, son proyectos transformadores que buscan, además de valor económico, valor social, compromiso con la educación, la igualdad y la sostenibilidad en el amplio sentido de la palabra.

Artículo anteriorResaca de alegría
Artículo siguienteAinhoa de las Pozas, nueva CEO de Serviceplan España.
Directora de la Fundación para la Transformación de La RIoja , miembro del Think Tank Margarita Bly,