Fue hace más de una década cuando Amazon lanzó su herramienta de inteligencia artificial que facilitaba la contratación de desarrolladores de software. El modelo era capaz de procesar un alto número de currículums, los examinaba y luego elegía los cinco mejores profesionales para ser contratados. Sin embargo, la compañía se dio cuenta de que la máquina tenía un sesgo y discriminaba a las mujeres.
A la hora de examinar a los candidatos, la herramienta favorecía a los hombres para los puestos de carácter técnico. "El caso de la selección de personal es muy conocido porque fue uno de los primeros casos que se denunció como discriminación abierta hacia las mujeres", dice Claudia López, investigadora del Centro Nacional de Inteligencia Artificial (CENIA), en conversación con Radio Pauta.
Sesgos machistas en herramientas de IA y algoritmos: ¿Cómo afectan el avance y desarrollo de las mujeres?
La experta explica que el modelo descartaba todo currículum que tuviese alguna referencia femenina. El caso llevó a que Amazon disolviera el 2017 el equipo que creó la inteligencia artificial.
Con el acceso masivo a los modelos de inteligencia artificial como los chatbots ChatGPT y Google Bard, e incluso la incorporación de estas herramientas en distintos sectores de la industria, López advierte sobre los sesgos que se pueden encontrar en estos modelos, convirtiéndose en un posible "daño de las oportunidades que pueden obtener las personas".
La también académica de la Universidad Técnica Federico Santa María de Valparaíso declara que "los sesgos están de alguna manera metidos dentro de los conjuntos de datos que utiliza la inteligencia artificial hoy día para poder aprender y poder generar modelos que eventualmente vamos a usar, ya sea IA generativa o en predicciones de cosas que podrían pasar".
La experta aclara que "nuestros comportamientos han sido sesgados como sociedad" por lo que "a veces esos tipos de sesgos nos hacen tomar decisiones dentro del proceso de desarrollo que podrían terminar replicándolos".
Revisa la entrevista completa aquí:
Relacionados


El regreso de Amaro Gómez-Pablos: llega a Radio Pauta con "Clima de Cambio"
El histórico rostro televisivo debutará en "Clima de Cambio", programa de Radio Pauta que abordará temas relacionados con sustentabilidad con una mirada "propositiva y proactiva."



Con una mujer como protagonista: The Office regresa con un remake a Prime Video
En la ya decimotercera versión, la actriz Felicity Ward será la primera mujer en interpretar el rol antes encarnado por Steve Carell y Ricky Gervais.


"Riesgo de extinción": creador de Chat GPT y otros líderes hacen alarmante llamado sobre IA
En una carta abierta firmada por más de 350 líderes en la industria, como los líderes de Open AI y Google DeepMind, detalla que debe ser "prioridad global junto a otros riesgos de escala social como las pandemias y una guerra nuclear".


¿Tendrán que volver los DVD? Las plataformas de streaming seguirán eliminando contenido por los costos de licencias
La promesa de una biblioteca digital permanente para todas las películas y series, queda ahora relegada por la necesidad de las plataformas de volverse rentables.