Desde que Netflix comenzó a complejizar su manera de presentarnos su enorme catálogo, de indexarlo y de hacernos sugerencias basadas en nuestras elecciones previas, se viene hablando con énfasis sobre “el algoritmo”: que es útil, que es sesgado, que reemplaza el trabajo humano, que “esconde cosas”.
En el reciente festival de Cannes, por ejemplo, en un panel, la directora de cine Agnieszka Hollande planteó que las plataformas ofrecen películas “curadas por algoritmos” en lugar de tener “curadores reales, festivales académicos y críticos”.
Javier Blanco es doctor en Informática, profesor titular de la Facultad de Matemática, Astronomía, Física y Computación (Famaf) de la UNC y dirige la Maestría en Tecnología, Políticas y Culturas. Desde hace 15 años, viene trabajando en miradas filosóficas y conceptuales sobre los programas digitales.
“Intento hacer un vínculo de pensamiento híbrido de estos fenómenos técnicos, interrogando cómo funcionan, sin prejuicios. Muchas veces se discute estos temas de manera rápida, con ideas antagónicas, con miedos. La idea es pensarlo en sus posibilidades. Sí, tienen problemas y riesgos, pero abren posibilidades para pensarlos de manera productiva”, comienza.
Aclara que los algoritmos del tipo machine learning (o aprendizaje automatizado), como los que usan las plataformas audiovisuales (Netflix o Spotify), es decir, aquellos que a partir de datos del mundo producen programas que reconocen esos datos, son apenas un grupo de algoritmos específicos, no los únicos.
También subraya que no necesariamente son algoritmos sofisticados, sino que es una tecnología que en términos matemáticos existe hace dos siglos, pero que aumentó su potencia de cálculo con las computadoras.
“Lo paradójico es que la estadística históricamente fue una ciencia no personalizada, hablaba de grandes números de manera general, pero hoy se usa para personalizar datos respecto a un perfil”, añade.
Sobre si este tipo de algoritmos se ha afinado o perfeccionado en los últimos años, responde: “Sí. Por un lado, se introducen programaciones, están en continua evolución. Pero también evolucionan solos al incorporar más datos y afinar su forma de reconocimiento. Al tener más datos, producen más correlaciones”.
Y acerca de la discusión en torno a si los algoritmos de Netflix “reemplazan” al factor humano, aclara: “Los algoritmos son objetos técnicos sofisticados, son una realidad humana cristalizada. No son inhumanos o extraterrestres, como si la técnica estuviera por fuera de la cultura”.
Y agrega: “Hay un intercambio continuo entre algoritmos y humanos. Se desplazan las fronteras. Los humanos que trabajan con ellos quedan librados a otras acciones: revisar los criterios del algoritmo, analizar los datos, la conducta de la gente. Antes solo teníamos la opinión, ahora tenemos la base empírica de los comportamientos humanos: eso es muy rico para entender el consumo cultural. En ese acoplamiento dinámico entre humanos y algoritmos no se reemplaza una cosa por otra. Hoy la cognición y la percepción humana están distribuidas entre viejas prácticas y nuevas prácticas que permite la tecnología”.
Y subraya que ni siquiera los programadores de esos algoritmos pueden conocer los por qué de las asociaciones. “El programador no sabe ese criterio: no sabe que si te gustó esta serie te gustará esta otra. Los patrones no revelan criterios porque no pueden. Este patrón de conducta se parece al de estos 10 mil perfiles. Se sabe que hay una correlación, pero no se sabe por qué. Eso no significa que un programador no pueda descubrir criterios luego. Pero no es obvio”.
También remarca que esa misma opacidad de los algoritmos hace que muchas veces se introduzcan sesgos, que se originan en los datos humanos con los que la tecnología “se entrena”.
Más allá de matizar la mirada binaria de si los algoritmos son “buenos o malos” y de complejizar la discusión acerca de si “reemplazan al factor humano”, Blanco también señala otro tema del que mucho se ha hablado: se desconoce qué hace Netflix, por ejemplo, con los datos que recoge de sus usuarios.
“No hay sistema legal que nos proteja de eso. Europa tiene un mejor sistema que nosotros o que Estados Unidos, pero son todos insuficientes, la tecnología avanza muy rápido. La disputa más que legal es cultural, hay que construir formas de vínculos tecnológicos mejores que las actuales, pensar mejores sistemas de usos de datos”.
