DW: ¿Hay máquinas machistas?

Gabriela Ramos: Lo que hay son desarrolladores de tecnología que transfieren sus sesgos a las máquinas. Todos tenemos prejuicios, así como todos podemos ser sometidos a la influencia de máquinas para tomar decisiones. Solo que cuando las máquinas son entrenadas de forma maliciosa y no transparente con bases de datos que no son representativos, afectan a la gente y esta no sabe cómo ni por qué.

¿En qué casos las máquinas o algoritmos viciados pueden afectar a las mujeres, su carrera y/o su dignidad?

El Massachusetts Institute of Technology (MIT) documentó, por ejemplo, que hay sistemas que reconocen primordialmente rostros de hombres blancos y tienen dificultades en reconocer caras de mujeres, y si son afroamericanas, peor. Esta es una clara discriminación transmitida a las aplicaciones. La IA está influyendo en decisiones que toman empresas o instituciones que pueden estar sesgadas. Si esto se transfiere a que jueces tomen una decisión basada en la IA o que los bancos decidan si otorgar un crédito o no, la discriminación será entonces masiva.

¿En qué casos se utiliza la IA de manera maliciosa?

Cuando las máquinas conocen tus deseos y emociones y los utilizan para manipular tus decisiones. La lanzadora de alertas de Facebook misma ha revelado que la empresa usa diversas argucias para mantener a la gente conectada a Internet: de acuerdo a tu uso del teclado, te inundan con ofertas. Y si tienes sesgos racistas o clasistas, entonces te ponen mensajes con discurso de odio. Luego, si te mandan imágenes que te causan miedo, puede que reacciones irracionalmente. Las máquinas resultan dividiendo y enfrentando a la sociedad. Un ejemplo de ello fue lo que llevó al asalto al Capitolio en Washington y que demuestra la alta peligrosidad de la manipulación masiva.

En el mundo hay solo un 22% de mujeres especializadas en IA. ¿Cómo acabar con este desequilibrio?

Todo empieza por el modelo excluyente con el que se ha desarrollado la IA. En el mundo hay solo 200 empresas en cinco países que desarrollan la mayor parte de la IA. Es muy difícil encontrar diversidad o sensibilidad de género cuando el desarrollo tecnológico está monopolizado.

El pasado 25 de noviembre, 193 Estados miembros de la UNESCO aprobaron el primer marco ético sobre inteligencia artificial. ¿Qué se puede esperar de este acuerdo no vinculante?

El texto de dicho acuerdo lo dice: necesitamos integrar a más mujeres en el desarrollo de IA. Necesitamos más diversidad, de culturas, de lenguas, de orígenes. Es increíble que Google y Amazon solo hayan invertido hasta ahora un 2% de sus esfuerzos para incluir a expertos afroamericanos.

No parece coincidencia que los asistentes personales virtuales lleven exclusivamente nombres femeninos como Siri, Alexa o Cortana. ¡Alexa haz esto o lo otro! Alexa, y sus "colegas”, como una extensión de la muchacha doméstica a la que todo se le pide hacer, no importa qué ni la hora. ¿Transportan o difunden hombres con la IA el prejuicio de servilismo y sumisión de la realidad al mundo virtual, que resulta convirtiéndose en "nueva realidad”?

Tiene toda la razón. De hecho, la UNESCO fue la primera institución que hizo un estudio en 2017 sobre la reproducción de patrones en donde a la mujer solo se le adjudica el papel de servidora. Las empresas dicen que una voz de hombre les parece a los usuarios muy fuerte. El citado estudio analiza el caso de que cuando un hombre le decía a la máquina, "¡Qué bonita estás hoy, Alexa!”, ella respondía "¡Me sonrojaría, si pudiera!”. El sistema fue desarrollado para reproducir la conducta de algunos hombres. Protestas obligaron a reprogramar a los asistentes. Ahora cuando Alexa escucha cosas como "¡Estás muy sexy!”, responde "¡No entiendo!”.

¿En dónde se ubica América Latina en el desarrollo de IA?

En América Latina hay muchas aplicaciones. Algunos países están invirtiendo en IA, que si bien tiene partes negativas, es una promesa tecnológica en muchos niveles. Las inversiones en IA se centran en la ampliación de programas de Internet, enseñanza, así como para atraer capital humano e inversiones.

Los países más activos en el desarrollo de IA son México, Colombia y Chile, aparte de Brasil. En efecto, Bogotá busca convertirse en pionero de la implementación de las recomendaciones éticas del desarrollo de IA ofrecidas por la UNESCO. Chile, por su parte, está a la vanguardia de la protección de datos.

Chile adelanta una ley sobre "derechos neuronales”. ¿A qué se refiere exactamente?

Se trata de la capacidad de percepción que tiene la IA para registrar qué le gusta o no a los usuarios. De acuerdo a cómo navegues en Internet la IA informa a los proveedores de servicios sobre tus gustos. Ni la publicidad ni los mensajes que te aparecen en tu página son casualidad, se basan en tu conducta. El problema es que esta información se use para manipular tus ideas y decisiones. El usuario pierde su autonomía, y a menudo no sabe si la parte con la que comparte es una persona o una máquina.

La neurociencia es utilizada en la medicina, pero su uso es criminal cuando es empleada para radicalizar a jóvenes, como lo hacen algunos partidos, sectas y grupos terroristas, es muy preocupante.

Por ello, la UNESCO insta a todos los países a proteger los datos. La IA no puede ser una zona sin ley. La IA ya manipula nuestras elecciones. Hay vacíos legislativos alrededor de la industria que deben ser tratados rápidamente. El primer paso es convenir exactamente qué valores deben ser consagrados, y qué normas deben ser aplicadas. La IA se usa en todo el mundo, por lo que necesitamos un instrumento global para regularla.

La experta mexicana Gabriela Ramos es la Subdirectora General de Ciencias Sociales y Humanas de la UNESCO. Su programa incluye la consecución de la inclusión social y la igualdad de género, el fomento del desarrollo de los jóvenes, la promoción de valores a través del deporte, la lucha contra el racismo y la discriminación y la ética de la inteligencia artificial.

(er)