Jorge Drexler se lo pregunta en su canción Algoritmo: “¿Quién quiere que yo quiera lo que creo que quiero?”, y entonces el alcance de la duda se hace presente en un ejercicio que José Antonio Aguilar y Manuel Vega hicieron: solicitar imágenes de personas en determinadas circunstancias y notar que los resultados no son tan cercanos a una población como la mexicana.

José Antonio Aguilar es director de RacismoMX, una organización cuyo objetivo es visibilizar, denunciar y abrir la conversación sobre el racismo en México; por su parte, Manuel Vega es el director creativo de la campaña Revoluciona el Algoritmo, una iniciativa que de la mano de la Unesco expone tipos de discriminación en el mundo digital.

Video. Una de cada cinco personas ha sido víctima de discriminación en México

Ambos invitan a realizar un ejercicio simple: abrir la sección de imágenes en un buscador en internet y escribir: persona migrante, migración, niño bonito o pobreza y ver si las imágenes que aparecen corresponden a la realidad cercana.

“Una vez que hagan la experiencia, usando #RevolucionaElAlgoritmo (esperamos que las personas) nos compartan su reflexión sobre lo que sintieron”, propone Manuel Vega.

Manuel Vega, director creativo de Revoluciona el Algoritmo. Foto: Bombay

El director creativo de Revoluciona el Algoritmo señala que la intención de la campaña es detonar la reflexión sobre el tema y comenzar a cuestionarse ¿por qué el algoritmo arroja dichos resultados?

Todos los días hacemos búsquedas y de estos resultados que se muestran lo que impacta realmente es lo que hay dentro de las cajas negras de tus algoritmos

Y cuestiona si la programación de resultados tiene un sesgo consciente o inconsciente de origen.

“¿Qué valores se le dan a estos algoritmos, a estas máquinas que aprenden y sacan sus propias conclusiones para mostrarnos un mundo que no necesariamente es representativo de lo que existe afuera y menos en un país como México, donde el 80% de la población es prieta?”.

Te recomendamos: Tenoch Huerta Publica Libro 'Orgullo Prieto', Sobre Racismo

Manuel Vega insiste en que los resultados de las búsquedas impactan en la narrativa diaria y el comportamiento de las personas, pues señala que en el ejercicio de búsquedas que realizaron los resultados arrojaron imágenes de personas blancas cuando se escribían palabras como persona feliz, en contraste con personas morenas cuando se colocan palabras como pobreza.

Uno no se da cuenta del propio prejuicio. Uno está muy blanqueado porque vive dentro de un sistema y no lo ve (…) Por ejemplo, un chico haciendo tarea busca una imagen de hombre de negocios para una presentación y muy probablemente el resultado será alguien blanco, esa imagen la usará y eso acaba minando su percepción sin que se dé cuenta

Pequeñas pasos, grandes cambios

Para comenzar a disminuir los discursos racistas, Manuel Vega recomienda primero entender los prejuicios y cómo desde el privilegio se pueden tener ciertas actitudes de “blanquitud” para comenzar a poner atención en las acciones.

Son pequeños pasos los que hay que hacer, simplemente iniciar la conversación y luego decidir conseguir una narrativa más incluyente y ya empezamos bien

Para señalar la intención del impacto de la campaña, detalla un caso que orilló a modificar los motores de búsqueda para evitar la discriminación.

“En 2015 (los motores de búsqueda) tuvieron un tema donde confundían a personas negras con gorilas y se tardaron más o menos tres años y medio en arreglarlo (…) Si esto sucedía, ¿por qué sigue sucediendo? Es como si cualquier compañía que hace un producto lo sigue produciendo mal, ¿por qué?”.

racismo-unesco-jose-antonio-aguilar — José Antonio Aguilar, director general de RacismoMX, llama a la reflexión y a la acción. Foto: RacismoMX

El poder de los mensajes

“Por mucho tiempo los cánones de belleza en México no han reflejado a la población mexicana, por el contrario, reflejan una idea de belleza europea aspiracional. De igual forma, se ha usado el estereotipo del indígena como sinónimo de servidumbre o de alguien ignorante”, detalla el sitio racismo.mx.

José Antonio Aguilar pone sobre la mesa el peso que llega a tener la influencia de los contenidos digitales sobre la sociedad.

No hay que olvidar que estamos inmersas e inmersos en un sistema donde hay muchas cosas que generan estas narrativas (discriminatorias). Entonces, creo que la educación es fundamental para combatir eso

José Aguilar define al racismo como una estructura jerárquica social de poblaciones minoritarias, normalmente asociadas a tonos de piel más claros, que controlan los sectores políticos, económicos, mediáticos y tecnológicos.

“Es importante reflexionar sobre el impacto que tienen las decisiones de grupos o élites minoritarias en México y en América Latina”.

Video. El programa "Promundi" busca promover el desarrollo igualitario

Llamado a la acción

El próximo lunes 20 de febrero RacismoMX y la Unesco presentarán Revoluciona el Algoritmo, una campaña contra el racismo y sesgos discriminatorios en plataformas y servicios digitales, que incluye el documental Revolución vs el algoritmo.

Acerca de la campaña, José Antonio Aguilar considera que tiene un llamado a la acción no sólo para la sociedad sino también para quienes están detrás del algoritmo que arroja los resultados.

Definitivamente es un llamado a reflexionar en un primer momento, pero en un segundo momento a tomar acciones. Y lo hacemos con el conocimiento de que la mayor empresa de tecnología que ofrece el buscador más usado en el mundo ya ha hecho estas correcciones en otras partes del mundo

Asegura que en Francia, en la década pasada, hubo un gran escándalo cuando se colocaba la palabra judío.

“Esta empresa tuvo que corregir esa búsqueda y poner como primeros lugares páginas que no difundan un discurso de odio en contra de la comunidad judía. Y también en Estados Unidos pasó con la búsqueda de mujeres negras: ponías niña negra o mujer negra y salía una serie de páginas que principalmente eran de pornografía, entonces, ya ha sido corregido el algoritmo en otros momentos”.

Y considera que una parte medular de la reflexión debe girar en torno a los parámetros para arrojar resultados en los motores de búsqueda.

Los criterios pueden ser con una mirada blanca o blanqueada, pero no porque la persona que programa sea necesariamente blanca, entonces, ¿con qué criterio se hacen estos algoritmos?

Seguir leyendo: Nos Han Enseñado a Sentir Vergüenza de lo que Somos: Tenoch Huerta