Cuando la tecnología reproduce desigualdades

Este es un momento donde se aprecia claramente el valor de las tecnologías como herramienta para construir un mundo post-pandemia con mayor equidad e inclusión para todos. Pero ese deseo de apoyarnos en el avance tecnológico en el que estamos inmersos para construir un mundo mejor, se ve confrontado con la realidad de los potenciales peligros que implica ese avance si lo dejamos ocurrir sin cuestionar sus aspectos éticos y humanos. Entre estos aspectos uno de los más complejos es el del sesgo en los algoritmos o modelos matemáticos.

Pero, ¿de qué hablamos cuando hablamos de sesgo? El sesgo se da cuando se seleccionan datos que alimentan determinados modelos, aplicando prejuicios, creencias y visiones del mundo particulares, ya sea consciente o inconscientemente.

Como dice Joy Buolamwimi, referente en informática, activista digital ghanesa-estadounidense y fundadora de Algorithmic Justice League, una organización que busca desafiar el sesgo del software en la toma de decisiones, “a menudo asumimos que las máquinas son neutrales”. Sus investigaciones demuestran que los sesgos vienen también embebidos en los sistemas; por ejemplo, en los de Inteligencia Artificial y reconocimiento facial provenientes de gigantes de la tecnología.

Buolamwimi misma cuenta su historia de cómo algunos softwares de análisis facial no podían detectar su rostro de piel oscura y debió colocarse una máscara blanca para hacerlos funcionar. Sus investigaciones también demuestran cómo, frente a la tarea de adivinar el género de un rostro, todas las compañías se desempeñaban mucho mejor cuando se trataba de rostros masculinos, con tasas de error no mayores al 1% para rostros de piel clara. La tasa de error aumentaba al 35% con rostros femeninos de piel oscura e, incluso, fallaban en la clasificación de rostros de personas famosas como Michelle Obama y Serena Williams.

Sesgos similares también afectan a los sistemas de reconocimiento de voz, cada vez más difundidos, ya sea en aplicaciones que convierten voz en texto, como en subtítulos de videos, computación de manos libres y asistentes virtuales.

¿Y qué pasa con los asistentes de voz de inteligencia artificial? Un informe de la UNESCO titulado «Me sonrojaría si pudiera» (2019), analiza el impacto de tener asistentes de voz con voces femeninas que refuerzan y amplifican sesgos de género ya existentes.

Según el informe la servidumbre ‘femenina’ de Siri y el servilismo expresado por tantos otros asistentes digitales proyectados como mujeres jóvenes, proporcionan una poderosa ilustración de sesgos de género codificados en los productos tecnológicos y omnipresentes en el sector de la tecnología, aparente en la educación de habilidades digitales. Así mismo el reporte muestra que hoy en día, las mujeres y las niñas tienen un 25% menos de probabilidades que los hombres de saber cómo aprovechar la tecnología digital para fines básicos, 4 veces menos probabilidades de saber programar computadoras y 13 veces menos probabilidades de solicitar una patente de tecnología.

Después de toda esta información desalentadora, cabe preguntarse: ¿puede la tecnología ser nuestra aliada en una transformación positiva hacia una sociedad más inclusiva? La respuesta: ¡claro que puede! El hecho de que estos temas se discutan a nivel popular y se difundan a través de los medios de comunicación masiva, en lugar de estar limitados al ámbito académico, es un gran paso en la dirección correcta.

Mi abuela materna tenía un dicho: “el que no sabe es como el que no ve” (ella creció en el campo y tenía refranes para todo) y, creo que, en todos estos temas que a veces parecen tan complejos, lo primero que podemos hacer para entenderlos es empezar por ver de qué se tratan, leer, investigar, prestar atención.

No dejar que pasen desapercibidos. De nuestro lado está la responsabilidad de entender y aportar al debate, no mirar hacia otro lado, y hacer una contribución positiva. Cuantos más seamos, mejor.

(*) UX Designer en intive.