Hace unas semanas, el pódcast del estadounidense Joe Rogan se vio intervenido por Spotify debido a que algunos episodios grabados entre 2009 y 2018 contenían comentarios racistas.
Según Télam, “la compañía no brindó precisiones sobre los motivos que impulsaron esta decisión” ni se refirió a las denuncias que hicieron artistas como Neil Young y Joni Mitchell - quienes incluso sacaron su música de la plataforma - sobre la desinformación y el discurso antivacuna que promulgaba el podcaster.
Por otra parte, en diálogos con VOS y Número Cero, algunas cuentas de Instagram que hablan sobre el cannabis y la educación sexual integral se vieron envueltos en problemas con Instagram por el contenido que subían. La red social los “shadowbaneaba” invisibilizando sus publicaciones y haciendo que pierdan alcance en sus seguidores.
El tema es complejo y genera muchas dudas al respecto: ¿Cuáles son los límites de lo que se puede y lo que no se puede publicar en internet? ¿Quién o qué los controla? ¿Por qué hay canales y perfiles que exhiben contenidos explícitos y no se ven envueltos en esta problemática? ¿Hasta dónde es curaduría y hasta qué punto, censura?
Internet: la libertad de expresión y el silencio privado
En internet, las personas pueden subir todo tipo de contenido mientras no infrinjan las normas de convivencia y respeto en la comunidad. Pero aún así, los usuarios se topan con fake news, discriminaciones, falsas acusaciones, censuras en su contenido, robo de identidad, bullying, entre muchas otras cosas.
Si bien las plataformas luchan todos los días contra estas faltas, los métodos que utilizan no son claros y al ser temas delicados no los puede dejar a la vera de una máquina o un código. Cuando ingresa la intervención humana, también lo hacen los intereses privados y comerciales.
El caso de Joe Regan trascendió al mundo de la música porque cantantes como India Arie, Neil Young y Joni Mitchell se manifestaron en contra de Spotify ya que este permitía que el podcaster tuviera episodios con información confusa sobre el coronavirus. El conductor invitaba a personas que negaban la existencia de la pandemia y defendían posturas antivacunas.
El problema sólo se resolvió a través de la eliminación de 70 capítulos de The Joe Rogan Experience, pero que no hablaban del tema en cuestión, sino que tenían expresiones racistas en su contenido. En este sentido, Spotify agregó una guía y un cartel de advertencia sobre los episodios que tienen discusiones sobre el virus y cumplió con responsabilizar parcialmente al hombre, quien sólo se disculpó por compromiso a través de sus redes sociales.
Al final, la plataforma que los almacenaba no retomó la polémica, pero sí cambió sus normas informativas para con el resto de los consumidores. El podcaster tiene ahora entonces la libertad de expresarse, pero con ciertas limitaciones pautadas por la empresa privada.
¿Cómo controlar el sonido?
Alan Porcel de Parque Podcast sostiene que este conflicto “se abordó de una manera errada”. “Se habló mucho de moderación de contenidos y qué cosas se filtran a Spotify en sus contenidos, pero lo cierto es que la empresa puso 100 millones de dólares para tener ese pódcast”, informa.
Y luego aclara: “Es una de sus principales ofertas en Estados Unidos. No es que ‘no llegó’ a moderar ese contenido. Es un pódcast al que va a defender por la inversión que hizo y me parece que en este caso Spotify no es plataforma sino medio/publisher”.
El producto sigue al aire porque la pauta lo permite y, por consecuencia, la gente lo escucha. Según Spotify Charts, el pódcast de Joe Rogan está en el primer puesto de los más escuchados en América del Norte, mientras que en Argentina ocupa el puesto 46.
Saliendo de este caso donde el control de la empresa es comercial y publicitario, la falta de moderación del contenido en formato audio sigue siendo un gran pendiente. “Creo que los pódcast tienen un grado de complejidad mayor para lo que es moderación de contenidos porque las herramientas automáticas aún no pueden trabajar con audio”, explica Alan.
A diferencia de lo escrito donde hay una moderación automática “y aún así no funciona del todo bien”, para el podcaster, “al audio le falta mucho desarrollo para que haya un control más férreo sobre lo que se puede decir” y especialmente “en distintos idiomas”.
Aún así, el entrevistado asegura que, si llegase a existir esa normalización, “será muy complicado” aplicarla ante el uso de “sarcasmos o inflexiones en la voz que pueden generar otros sentidos”. Esto llevaría a una necesidad de revisión manual y auditiva con controles públicos y explícitos para los usuarios, pero, ¿cómo limitar ese poder?
En comunicación con Spotify vía mail, lo único que se le proporcionó a VOS fue una guía para creadores llamada Spotify for Podcasters que, según la empresa, “es súper completo”. A falta de “voceros” para “agendar una charla”, la plataforma sólo pudo compartir esa información.
La página contiene un hipervínculo donde se expresa el “contenido prohibido en Spotify”. Apelando primero a la inclusión de todas las voces y al ánimo en la creación artística, un contenido puede ser “eliminado o filtrado” si se atenta contra “la propiedad intelectual” y “las marcas” sin previa autorización, si tiene contenido ilegal en cuanto a “las leyes y los reglamentos aplicables” locales y si hay “contenido de incitación al odio”.
El Shadowban en redes sociales
Como sostuvo Alan Porcel, el control de lo que se sube a redes sociales está mucho más automatizado, pero sigue trayendo problemas. Por ejemplo, la sexóloga Cecilia Ce contó en VOS que tiene que cuidarse mucho de que no le bajen la cuenta por hacer publicaciones sobre educación sexual integral.
“Tuvimos mucha censura por parte de Google, cosas que te sorprenden porque estás haciendo educación sexual. Y después tenés la pornografía disponible en todos lados”, afirmó Ce en una entrevista para este medio.
Las cuentas de grow shops sufren también esta situación. En comunicación con Número Cero, el dueño de la tienda de cultivo Santa Kaya, contó que le suprimieron la cuenta de Instagram por promocionar los insumos legales que tenía a la venta.
Afirmando que no existe solución para esto, el hombre se sintió ofuscado cuando vio otras publicidades en redes sobre “hongos alucinógenos y semillas”, productos ilegales para su comercialización. “Es muy raro cómo se maneja el algoritmo. Nosotros dentro de lo que publicamos no posteamos nada ilegal”, sentenció.
El Shadowban es una práctica en redes sociales que consiste en hacer invisible una publicación que, según la plataforma, no cumple con las normas de uso de la misma. Según Instagram, las condiciones de uso de la red tienen que ver con no suplantar una identidad, publicar contenido ilegal, infringir los derechos de autor sin autorización, etc.
Sin embargo, el límite entre considerar que una publicación no es apta porque muestra insumos para cultivar marihuana –y no semillas para hacerlo–- o enseña a cuidarse al momento de tener relaciones sexuales con un preservativo bien colocado, demuestra la falta de criterio real y la desinformación que existe sobre temas que aún rozan lo tabú.
¿Cómo se modera el contenido en las redes sociales?
Hernán es programador y moderador de contenido - a pedido de la fuente se resguarda el uso de su apellido. Cuando trabajaba en Olapic –empresa que impulsa la estrategia de marketing de las marcas con contenido visual–, se encargaba de separar aquellos posteos en redes sociales de usuarios que fueran potenciales representantes de la empresa de los que no cumplían las expectativas.
El proceso constaba de cuatro etapas: La inicial filtraba todas las publicaciones relacionadas a la marca a partir de un software creado en base a hashtags y palabras claves; en la segunda parte, un moderador humano depuraba nuevamente el contenido según ciertos requerimientos de la empresa; en la tercera etapa se revisaba con más profundidad y al final, las fotos que pasaron las pruebas, quedaban como referentes de la marca, e incluso podían ser usadas por la empresa con una previa petición al usuario.
Hernán sostiene que algunas pautas que recibía eran muy discriminatorias hasta el punto en que algunas marcas no querían fotos de afrodescendientes con sus productos. “Haciendo esto se posiciona la marca para un cierto público (...) Entrabas a su feed en Instagram y había todos gringos ojos celestes. Te querían demostrar que la marca era para cuerpos perfectos”, aclara.
El programador explica que las redes sociales en general tienen “una inteligencia artificial” que detecta automáticamente la foto o el video que infringe las condiciones de uso de la app, políticas y normas comunitarias.
Después existe otro mecanismo de control basado en “los reportes” de los usuarios. “Si tenes una cierta cantidad de gente que reporta una publicación, directamente se baja. Hubo un caso de una mujer que estaba amamantando a su hijo y salieron todos los haters a reportarla. Entonces, el sistema bajó la foto”, comenta.
En este sentido, la app no tiene un juicio claro con respecto al contenido denunciado. Sólo se basa en el pedido de la masa. Aquí también se corre el riesgo de dejar al libre albedrío el discurso permitido en las redes sociales –que cumple incluso las reglas de consumo del mercado– y aquel que se condena a la censura.
Además, cuenta que tuvo un caso de una empresa estadounidense que autorizó la baja de fotos de una joven que subía contenido sobre la marca todo el tiempo. “La misma marca le reportaba las fotos y se las bajaba. Luego, la chica salía a escracharlos por todos lados”, explica.
Pero ¿qué sucede con ese contenido viral que llega a los usuarios y que infringe las normas? Para Hernán la respuesta es clara: “Instagram sabe el contenido que más pecha”. Si vende, se queda. Algo así como el pódcast de Rogan.
