La tecnología nos rodea. Está por todas partes. E interviene en la toma de decisiones que tienen directa consecuencia en nuestras vidas.

Bien puede tratarse de un proceso de selección de personal, de la concesión o no de un crédito, una beca, un seguro determinado o un subsidio.

Vale preguntarse entonces con qué criterios y en base a qué datos se adoptan las decisiones. Porque, claro está, la tecnología no es neutral, sino apenas una herramienta en manos humanas.

Y así, en los procesos de decisión automatizados pueden entreverse prejuicios, estereotipos, sesgos, y arbitrariedades. Tantos, como en la sociedad que concibe esa tecnología.

"Al mismo tiempo que la adopción de los sistemas de decisiones automatizadas se masifica, exclusiones históricas se repiten”, sostienen en este sentido desde la "Alianza A plus por algoritmos inclusivos”, una alianza interdisciplinaria creada por La Fundación Ciudadanía Inteligente y la organización Women at the Table, precisamente para poner de manifiesto y transformar los sesgos presentes en la inteligencia artificial.

"La transformación digital ha excluido nuevamente y de manera sistemática a las mujeres”, indican desde la plataforma.

Algoritmos con sesgo de género

Y ejemplifican: "Amazon buscó implementar un sistema de inteligencia artificial para simplificar sus procesos de contratación. Al recibir una cantidad enorme de postulaciones, creó un sistema algorítmico que analizó qué personas dentro de sus trabajadores tenían el mejor desempeño, y buscó entre las y los nuevos postulantes a personas que tuvieran características similares, para darles prioridad en la contratación”.

"El problema es que Amazon -como la mayoría de las empresas del mundo- sufre de los sesgos de género, y su planta de empleados tiene mayor cantidad de hombres. Por esto, la inteligencia artificial empezó a rechazar los CVs de las mujeres”, cuentan sobre el caso.

"Esto evidencia que el aprendizaje automático codifica las desigualdades del mundo offline y sus discriminaciones históricas”, afirma Renata Ávila, cofundadora de la iniciativa "Alianza A plus por algoritmos inclusivos”, en diálogo con DW.  

"A plus es una alianza de gobierno, empresa, academia y sociedad civil para avanzar a una nueva era tecnológica, que termine con ese círculo vicioso y nos lleve a otro lugar”, explica Ávila, abogada guatemalteca especializada en derechos humanos y tecnología.

Algoritmos inclusivos para revertir la discriminación

"Lo que buscamos es cambiar la manera en que se crean los sistemas de inteligencia artificial y los sistemas automatizados de toma de decisiones”, continúa Ávila.

"Trabajamos para crear y aplicar algoritmos inclusivos, es decir, algoritmos para aplicar acciones afirmativas”, dice la experta a DW. "No solo para que los sistemas del futuro sean desarrollados sin sesgo, sino para que, proactivamente, sean diseñados para incluir a quienes la sociedad siempre ha excluido, por cuestiones de género, raciales y económicas”, puntualiza.

"Podemos elegir cambiar los sistemas o hacer que sigan siendo desiguales”, afirma en el mismo sentido Auska Ovando, coordinadora general de la Fundación latinoamericana Ciudadanía Inteligente, que procura "devolver el poder de la tecnología a la ciudadanía para fortalecer las democracias”.

De hecho, las expertas en informática de la organización han desarrollado una serie de algoritmos inclusivos, que están listos para ser utilizados.

Y cuentan con varias experiencias positivas en su haber, que han significado un avance mundial en la materia. Es el caso de los algoritmos aplicados en las elecciones del cantón suizo del Valais, por medio de los cuales los votantes no solo elegían candidatos sino criterios que consideraban importantes que estuvieran representados, como género, edad y procedencia. Luego los algoritmos combinaban e integraban los resultados.

El momento es ahora

Así las cosas, las expertas feministas llaman a la acción. "Estamos en una coyuntura única, en la que el uso de la tecnología puede revolucionar las formas de vida de millones de personas alrededor del mundo”, remarca Ovando en entrevista con este medio desde Chile, una de las sedes de la fundación.

"Los sistemas que se están diseñando hoy, permanecerán con nosotros durante décadas. Nuestro plan es abogar porque dichos sistemas se diseñen teniendo la inclusión como principio”, remarca Ávila. De lo contrario, "corremos el riesgo de cristalizar un patriarcado 2.0”, concluye.