¿Algoritmos machistas?

¿Puede ser que los algoritmos que controlan parte de nuestra tecnología sigan reflejando comportamientos, prejuicios o clichés de toda la vida? Existe cada vez más una preocupación entre la población, ante ciertas actuaciones de la tecnología que utiliza la inteligencia artificial, aplicando algoritmos que determinan ya aspectos fundamentales de nuestras vidas como acceder a una entrevista de trabajo, contratar una hipoteca, acceder a un préstamo, pasar la seguridad de un aeropuerto, etc. Los sesgos androcéntricos que pretenden ser neutrales no lo son tanto, y se sigue con comportamientos sexistas.

Como dato curioso y significativo, solo el 12% de las personas con capacidad de decisión en el desarrollo de la inteligencia artificial son mujeres, y en las grandes empresas que desarrollan dicha tecnología como Microsoft, IBM o Google no pasan del 15%.

Por poner algunos ejemplos de esos sesgos en los algoritmos, Facebook enviaba anuncios de trabajos mejor pagados a hombres blancos, mientras que a mujeres y personas no blancas les mostraba anuncios de trabajos peor pagados. En algunos buscadores la palabra “inteligente” da como resultado la aparición de muchos más hombres que mujeres. Amazon tuvo que eliminar su algoritmo de selección de personal porque penalizaba a los CV en los que aparecía la palabra “mujer”, o “diseñadora” en lugar de “diseñador”.

No se trata de que expresamente se diseñen esos algoritmos “machistas”, simplemente muchos hombres no saben reconocer muchos sesgos sexistas. Por lo que es importante que existan más mujeres en la creación de dichos algoritmos.

Curiosamente, la primera persona en programar fue una mujer, y la primera computadora electrónica fue programada por seis mujeres en los EE UU durante la 2ª GM.

Resumiendo, los algoritmos son tan machistas como la sociedad en la que se crean.