10 jul 2025
Juegos
Juegos
Newsletter
Newsletters
Tienda La Voz
Tienda
Club La Voz
Club LaVoz
La Voz
  • Suscripción
    Suscripción
    Suscripción
    • Contenido exclusivo
    • Cursos
    • Sorteos
    • Club La Voz
    • Edición impresa
    • Suscribirme
  • Últimas noticias
    Últimas noticias
  • Juegos
    Juegos
  • Noticias
    Noticias
    • Sucesos
    • Ciudadanos
    • Política
    • Mundo
    • Tecnología
    • Opinión
    • Editorial
    • Salud
    • Viral
    • Videos
    • Cultura
    • Diseño
    • Clima
    • Horóscopo
    • Quinielas
    • Agenda
    • Cartelera
    • Agencias
    • Servicios
    • Comer y beber
  • Deportes
    Deportes
    • Portada
    • Fútbol
    • Belgrano
    • Instituto
    • Talleres
    • Racing (C)
    • Agenda
    • Tenis
    • Básquet
    • Rugby
    • Motores
    • Hockey
    • Natación
    • Vóley
    • Ciclismo
    • Estadísticas
    • Extremo
  • Espectáculos
    Espectáculos
    • Portada
    • Mirá
    • Tevé
    • Cine y series
    • Música
    • Escena
    • Cartelera
    • Agenda
  • Agro
    Agro
    • Portada
    • Actualidad
    • Agricultura
    • Ganadería
    • Entrevistas
    • Clima
    • AgroVoz Expertos
  • Negocios
    Negocios
    • Portada
    • Emprendedores
    • Empresas
    • Entrevistas
    • Finanzas
    • Autos
    • Inmuebles
    • Los datos dicen
  • Club La Voz
  • Fúnebres
  • Clasificados
  • Voy de Viaje
  • Especiales
  • Edición Impresa
  • Institucional
    Institucional
    • La empresa
    • ¿Quiénes somos?
    • Manual de estilo
    • Normas éticas
    • Políticas de privacidad
    • Términos y condiciones

En las redes

  • cerrar menu
  • cerrar menu
  • cerrar menu
  • cerrar menu

Descargate la app de La Voz

android
ios
usuario

Hola,

  • cerrar menu
    Mis datos
    chevron
  • cerrar menu
    Mi suscripción
    chevron
  • cerrar menu
    Mis pagos
    chevron
  • cerrar menu
    Mis newsletters
    chevron
  • cerrar menu
    Mis cursos
    chevron
  • cerrar menu
    Club La Voz
    chevron
  • cerrar menu
    Mis credenciales
    chevron
  • cerrar menu
    Edición Impresa
    chevron
  • cerrar menu
    Preguntas frecuentes
    chevron
  • cerrar menu
    Centro de ayuda
    chevron
  • cerrar menu
    Cerrar sesión
    chevron
La Voz
La Voz
Ciudadanos / Inteligencia artificial

Inteligencia artificial: los algoritmos también discriminan

La tecnología no atiende las demandas de todos los sectores. El riesgo es que colabore en la perpetuación de las desigualdades. ¿Qué datos faltan en el Big Data?

14 de octubre de 2022,

00:02
Mariana Otero
Mariana Otero
Inteligencia artificial: los algoritmos también discriminan
El robot tuvo que clasificar bloques con caras humanas en distintas cajas. Foto: Web

Lo más leído

1
Imagen ilustrativa. (AP/Alexandre Meneghini/Archivo)

Sucesos

Justicia. Córdoba: el aviso clasificado que terminó en una doble condena a madre e hija como jefas de prostíbulos

2

Negocios

Ropa y decoración. La mayor cadena de moda de Uruguay llegó a Córdoba y abrirá 9 tiendas en Argentina

3

Fútbol

Rompe el molde. Instituto cruza fronteras: cinco extranjeros, un hecho inédito en Alta Córdoba

4

Fútbol

Artillero. El ex-Instituto que se reconvirtió y es el goleador de la Primera Nacional a los 35 años

5

Política

Encuestas. Elecciones 2025: a quién votarían los cordobeses hoy

¿Cuánta diversidad hay en la virtualidad? ¿De qué manera la inteligencia artificial (IA) colabora en perpetuar los estereotipos y la discriminación? Estas son algunas de las preguntas que los ciudadanos/usuarios de tecnologías deberíamos hacernos cada vez más.

Para los legos en la materia, la IA y las ciencias de datos son un universo bastante desconocido pese al impacto real y concreto en nuestras vidas diarias. La tecnología omnipresente nos sigue desconcertando con su poder maravilloso que, a veces, nos hace más fácil la existencia y otras, más vulnerables.

Para entender cómo funciona la IA tal vez sea necesario recordar que la inteligencia artificial no es inteligente porque no puede entender sus errores ni corregirlos como una persona. Y, que los datos no son neutrales, ya que pueden generar o ahondar estereotipos y sostener prejuicios, que afectan a los buscadores como Google, a las traducciones automáticas, a los sistemas de selección laboral y a otras tecnologías del lenguaje humano.

“La tecnología podría ser mejor, podría ser menos sesgada si manualmente se eliminaran sesgos de forma sistemática de los datos de entrenamiento, como manualmente se filtra la pornografía de internet, por ejemplo. Pero este tipo de auditoría es costosa y no es prioridad para los grandes monopolios tecnológicos”, explica Luciana benotti, investigadora y docente de la UNC.

La tecnología no atiende las demandas de todos los sectores y, por lo tanto, es posible que priorice los intereses de unos pocos en detrimento de las mayorías y colabore en la perpetuación de las desigualdades igual que en la vida real.

Laura Alonso Alemany, experta en lingüística computacional en la UNC, explica que en un sistema de toma automática de decisiones hay errores. A esas fallas se les denomina “sesgo”, dice, cuando son sistemáticas y no espontáneas. Es decir, cuando no son aleatorias, sino que se distribuyen con patrones (racistas, por ejemplo) que se encuentran en los datos y que ocurren en la realidad aunque no quisiéramos que sucedan. “Nuestra sociedad es racista, entonces los datos reales tienen racismo y los sistemas que encuentran patrones en esos datos encuentran patrones racistas. Lo mismo con el machismo, con la discriminación a personas con discapacidad y discriminación de otro tipo”, remarca Alonso Alemany.

Un ejemplo conocido fue un antiguo algoritmo de Amazon, basado en un mensaje automático, que servía para filtrar curriculums y ver cuáles podían ser mejores para una búsqueda laboral. El algoritmo había “aprendido” que las mujeres no eran buenas candidatas porque Amazon casi no contrataba mujeres.

En un momento, el algoritmo de cropping (recorte) de Twitter también discriminaba a personas gordas y viejas, cortándolas de las fotos.

Algunos estudios de casos, que pueden encontrarse fácilmente en la web, revelan por ejemplo que un algoritmo de IA aprendió a asociar mujeres con imágenes de cocinas, basado en decenas de miles de fotografías de internet donde aparecen más mujeres que hombres en ese lugar de una casa. De esta manera, el algoritmo multiplicó el sesgo de género presente en un conjunto de datos.

Ilustración de Chumbi. Inteligencia Artificial
Ilustración de Chumbi. Inteligencia Artificial

Máquinas prejuiciosas

La discriminación de género algorítmica tiene varias explicaciones. Una de ellas es que, por ejemplo, las IA están entrenadas con datos históricos, del pasado, cuando la perspectiva de género no estaba en agenda.

En este punto, la tecnología no sólo puede amplificar las desigualdades, sino profundizar los prejuicios cuando la decisión algorítmica se percibe como más justa que la decisión humana.

El problema es que los sesgos son difíciles de ver porque están muy naturalizados, ya que es un mecanismo cognitivo para simplificar la realidad y poder tomar decisiones rápidas.

Luciana Benotti plantea que los sistemas y los datos están sesgados de tal modo que “benefician a quienes tienen poder porque son creados por personas con poder” -con recursos económicos, humanos y técnicos- capaces de recolectar grandes cantidades de datos. La pregunta sería, ¿qué datos faltan en el Big Data?

Benotti remarca que los datos que se recogen no representan a todo el mundo, y que gran parte de los que se usan son un reflejo del “Norte global”. Entre los hablantes del español, dice, también ocurren desigualdades: los modelos de lenguaje, por ejemplo, son creados con datos que provienen principalmente de España, donde viven menos hispanohablantes que en el resto del mundo.

El problema plantea un dilema. Como dijo en una oportunidad Alonso Alemany a este diario, cuando en la vida real una persona es discriminada, existe la posibilidad de pedir explicaciones, pero si te discrimina una máquina, ¿a quién se reclama?

Temas Relacionados

  • Inteligencia artificial
  • Educación
  • Exclusivo
  • Edición impresa
Más de Ciudadanos
Quebracho blanco

Ciudadanos

Villa Allende. Especialista aseguró que el quebracho blanco es intransplantable: “Es como un dinosaurio vegetal”

Benita Cuellar
Lisandro Otero, entre colegas de investigación. Es microbiólogo y doctor en Ciencias Biológicas de la UNRC.

Ciudadanos

Ciencia y salud. Un científico cordobés, en un hallazgo clave para tratar el síndrome urémico hemolítico

Fernando Colautti

Espacio de marca

Tracker y Spin: dos SUVs con la cuota más baja en Maipú Chevrolet

Espacio de marca

Mundo Maipú

Tracker y Spin: dos SUVs con la cuota más baja en Maipú Chevrolet

Mundo Maipú
José Ignacio Scotto recorrió el departamento Marcos Juárez ejecutando programas de impacto socio comunitario

Espacio de marca

Agencia Córdoba Joven

José Ignacio Scotto recorrió el departamento Marcos Juárez ejecutando programas de impacto socio comunitario

Agencia Córdoba Joven
Conseguí tu Volkswagen Amarok con una imperdible financiación a tasa 0%

Espacio de marca

Mundo Maipú

Conseguí tu Volkswagen Amarok con una imperdible financiación a tasa 0%

Mundo Maipú
Conocé los modelos Ducati con entrega inmediata y financiación en Maipú

Espacio de marca

Mundo Maipú

Conocé los modelos Ducati con entrega inmediata y financiación en Maipú

Mundo Maipú
Ver más Espacio de marca

Suscripción La Voz

Luis Caputo y Javier Milei.

Opinión

Política cambiaria. Los matices de una economía en transición

Luciana Flores
Carlos Tevez

Fútbol

Análisis. Un Talleres relativo: el reto de Tevez, el mismo que Cocca no aceptó

Hugo García
Javier Milei, Axel Kicillof y Juan Schiaretti

Política

Encuesta. Si hoy se votara a presidente, ganaría Milei... ¿pero le alcanzaría para evitar el balotaje?

Federico Giammaría
Germán Di Cersari, elegido como el enólogo del año pot Tim Atkin.

Comer y beber

Logro. Un premio a la constancia y al refinamiento del vino: charla con el enólogo del año

Javier Ferreyra
Ver más Suscripción La Voz

Videos

  • .

    Justicia. Muerte de Maradona: suspendieron la audiencia clave a la enfermera en la previa al nuevo juicio

  • La joven estaba completamente indignada.

    Polémica. Fue a una entrevista en un salón de lujo y se indignó con la propuesta: Podría trabajar todo el día y...

  • Así tiene la piel la mujer.

    Crudo relato. “No puedo dejarlo”: el testimonio de una joven adicta a las camas solares que conmovió en TikTok

  • 01:20

    Maradona

    La Voz En Vivo. Estrenó el documental sobre el juicio de la muerte de Maradona tras el escándalo con la jueza Makintach

  • 00:06

    Las FDI eliminaron al comandante de artillería del sector costero de la organización terrorista Hezbola.

    Video. En un ataque de precisión, Israel aniquila al comandante de Artillería de la organización terrorista Hezbolla

  • La Voz Argentina

    ¡Golpazo! La Voz Argentina: un participante se cayó en el escenario, pero Luck Ra le dio una alegría

  • Video: entró a robar aun local en Nueva Córdoba, se le cayó un chaleco y creen que sería un “naranjita”

    Inseguridad. Video: entró a robar a un local en Nueva Córdoba, se le cayó un chaleco y creen que sería un “naranjita”

  • 00:47

    Pimpinela

    Emotivo. Video: Lucía Galán emocionó a todos interpretando una canción de Adele junto a su hija

Últimas noticias

Wimbledon

Tenis

El sábado. A Wimbledon le quedan dos pretendientes a reina: la final será entre Iga Swiatek y Amanda Anisimova

Redacción LAVOZ
Instituto-Boca, en el Sandrín

Básquet

La final de la Liga Nacional. Saiz, “el control del partido”, los “detallitos” que definen y “el orgullo” por Instituto

Marcelo Chaijale
.

Sucesos

Justicia. Muerte de Maradona: suspendieron la audiencia clave a la enfermera en la previa al nuevo juicio

Redacción LAVOZ
Elías Torres

Fútbol

Mercado de pases. Salió de Atalaya, sonó en Talleres pero eligió a un grande de Buenos Aires,

Redacción LAVOZ
Ver más Últimas noticias
adZocalo
La Voz

    Nuestros sitios

  • La Voz
  • Clasificados
  • Voy de Viaje
  • Club La Voz

    Publicidad

  • La Voz Comercial
  • Clasificados

    Edición Impresa

  • Edición Impresa
  • Edición PDF

    Institucional

  • Directo al editor
  • La empresa
  • Redacción
  • Manual de estilo
  • Normas éticas

    Miembros del Grupo Clarín

  • Clarín
  • Olé
  • EntreMujeres
  • Vía País
  • TyC Sports
  • TN
  • Ciudad
  • El Trece TV
  • Mitre
  • La 100
  • Cienradios
  • facebook
  • twitter
  • instagram
  • youtube

La Voz del Interior. Fundado el 15 de marzo de 1904. LaVoz.com.ar. Lanzada el 21 de septiembre de 1996. Año 28. Edición N° 10520. Registro intelectual 56057581.

Domicilio legal: La Voz del Interior 6080 – CP: X5008HKJ – Córdoba, Argentina. Propietario: La Voz del Interior SA. Gerente General: Juan Tillard. Director: Carlos Hugo Jornet. Editor: Carlos Hugo Jornet.

© 1996 - 2025 Todos los derechos reservados. Aviso legal | Política de privacidad – Por consultas comunicate al 0800 555 2869, de lunes a viernes, de 9 a 17, o escribinos por WhatsApp al +54 9 351 884 2000

La Voz - Product Design