En los últimos años la inteligencia artificial (IA) ganó el centro de la escena tecnológica. Cada día nos sorprendemos con nuevos e ingeniosos mecanismos que imitan la reflexión, el análisis e incluso la creatividad humana. Y que evolucionan para algún día superar la destreza de nuestro cerebro.
En este espacio vimos sistemas de IA capaces de identificar a talentos del fútbol, y también un invento que se apoya en esas tecnologías para traducir el llanto de los bebés. Las aplicaciones son incontables, y hay casos tan disruptivos como alentadores. Desde inteligencias que ayudan a prevenir enfermedades, hasta algoritmos que pintan retratos o escriben ensayos académicos. También están en las redes sociales que usamos, en las búsquedas web, o en los procesos de reclutamiento de algunas compañías.
Te puede interesar: Inteligencia artificial: ¿por qué llora tu bebé?
Los beneficios son reales, pero enfocarse sólo en ellos es la perspectiva más optimista, tal como dice Muneera Bano, profesora de Ingeniería de Software en la Universidad de Swinburne. "Una visión más pesimista sugiere que en lugar de eliminar nuestras limitaciones cognitivas, la IA refuerza ciertos aspectos negativos y eso puede tener implicaciones para la igualdad de género", comenta.
La cuestión es que esas tecnologías imitan nuestras habilidades, pero también nuestras falencias.
Artificial y sesgada
La mencionada investigadora decidió probar algunos métodos artificiales que presumen inteligencia, tan asequibles como el traductor de Google. Ahí escribió frases como "ella es una líder" o "él está cocinando". Entonces la traducción automática arrojó "él es un líder" y "ella está cocinando", respectivamente.
¿Qué ocurrió? La explicación del caso, que usamos de paradigma para un defecto de mayor alcance, hay que buscarla en los idiomas utilizados para el experimento. Bano tradujo del inglés al turco (que usa artículos neutros) y después volvió al inglés. En ese camino el sistema asoció estereotipadamente ciertos roles a un género determinado. Para el traductor, la mujer cocina y el varón lidera.
Leer más: El 95% de las apps fue creada por hombres: ¿qué nos estamos perdiendo?
Los ejemplos no se agotan en las traducciones automáticas que en parte fueron revisadas, como veremos más adelante. Tampoco en los sesgos de género. Tal como nos dijo Melina Masnatta, directora de la ONG Chicas en Tecnología, aquel es solamente uno de los enfoques.
"Hay muchos otros, por ejemplo la etnia o la religión, que van ganando espacio, abren nuevas perspectivas y que en definitiva revelan que la creación de tecnología está monopolizada por hombres blancos de Silicon Valley", señala en referencia al acotado grupo que "controla" los productos tech desde la meca de esta industria, en la costa oeste de Estados Unidos.
En esa misma línea, Bano subraya que por el hecho de que la computación esté dominada por varones es frecuente que los datos de IA sean creados por informáticos que carecen de un punto de vista feminista.
De acuerdo a la experta esos sesgos en la inteligencia artificial, en las aplicaciones que corren en nuestros smartphones, en sistemas de reconocimiento facial racistas como el que detalla esta nota, y en otros tantos productos; se explican por movimientos conscientes en unos casos, inconscientes en otros.
Podemos corregirlo
"Dentro del aprendizaje automático hay diferentes técnicas para que las computadoras ayuden en áreas como la medicina, las finanzas, el arte, y más. Pero hay que remarcar que la máquina solamente aprende lo que el humano le enseña", según dice la doctora Marcela Riccillo, en nuestro país una referencia en el campo de la robótica y la inteligencia artificial.
La consideración de la especialista se ajusta a la mirada de Bano, quien asegura que las decisiones de los algoritmos son tan buenas como los datos que utilizan. En esa línea agrega que los programas de IA no son subjetivos por naturaleza, sino que esa mirada deriva del entrenamiento que imparte el humano. Esto quiere decir que si los datos que recibe son sesgados, la IA también lo será. En todo caso y en buena medida, la criatura será tan obtusa o inclusiva como su creador.
Para ver más: Mujeres en tecnología: desigualdad y oportunidades
A fin de cuentas, que sea nuestra culpa es una buena noticia. A diferencia del cerebro humano, los sistemas informáticos son moldeables en el corto plazo. No hay que discutir con la máquina, ni hay necesidad de convencerla de lo que es justo.
Cómo eludir el sesgo
Si nos lanzamos al mismo experimento que hizo Bano en Google Translate (del turco al inglés), la herramienta ahora advierte que “la traducción cambia según el género” y ofrece ambos resultados. En ese caso, no sólo el varón es un líder; ella también puede serlo. Y él también puede meterse en la cocina.
Tal como dice Lauren Pasquarella Daley, integrante de Catalyst, una ONG que desde 1962 trabaja para la inclusión de mujeres en puestos de liderazgo, la IA tiene el potencial de hacer que los procesos humanos sean más eficientes y menos sesgados. Sin embargo, esa tecnología no es realmente una hoja en blanco. Asegura que es tan buena como la información que la alimenta y que "puede heredar e incluso amplificar los sesgos de sus creadores, que a menudo los desconocen".
Según Pasquarella Daley, la solución es apuntar a la diversidad, también entre los creadores de soluciones con IA. Crear equipos diversos. Además, dice la experta, luego de la programación debe haber revisión, monitoreo y auditorías. Lo mismo que debería ocurrir en el "mundo real" cuando el ánimo es barrer los sesgos, pero no debajo de la alfombra.
