Header Ads Widget

Ticker

6/recent/ticker-posts

Herramienta De Reclutamiento De Inteligencia Artificial De Amazon Descartada Por Ser Sexista

 Amazon se ha visto obligada a desechar su sistema de reclutamiento de inteligencia artificial después de que se descubrió que estaba predispuesto contra las mujeres solicitantes.

Herramienta de reclutamiento de inteligencia artificial de Amazon descartada por ser sexista

La IA fue desarrollada en 2014 por Amazon como una forma de filtrar a la mayoría de los candidatos para proporcionar a la empresa las cinco mejores personas para un puesto. En 2015 se descubrió que no estaba calificando a los solicitantes de una manera neutral en cuanto al género, lo cual es un gran problema y va en contra de los intentos de Amazon de nivelar el campo de juego al tener una IA objetiva que tome las decisiones iniciales.

Resulta que el problema radica en cómo se entrenó el sistema. Al igual que con todo en la IA, la falta de diversidad en la industria llevó a que se capacitara casi en su totalidad en CV masculinos. Esto significaba que, a medida que estaba aprendiendo a detectar los patrones en el reclutamiento durante un período de 10 años, también estaba aprendiendo a devaluar los CV de las mujeres.

LEER A CONTINUACIÓN: ¿Qué podemos hacer con respecto al problema de la diversidad de la tecnología?

Según Reuters , el sistema se enseñó a sí mismo que los candidatos masculinos eran preferibles a las mujeres. Bajó la calificación de los CV si se encontraban palabras como "mujeres" y penalizó a los graduados de universidades exclusivamente para mujeres.

Si bien Amazon recodificó el software para hacer que la IA sea neutral a estos términos, se dio cuenta de que esto no garantizaba que la tecnología encontraría otros métodos de discriminación contra las mujeres, según el informe.

El equipo, establecido en el centro de ingeniería de Amazon en Edimburgo, creó 500 modelos concentrados en ubicaciones y funciones de trabajo detalladas. También se le enseñó al sistema a reconocer alrededor de 50.000 términos que aparecían en los CV de los candidatos anteriores.

La tecnología aprendió a asignar poca importancia a las habilidades comunes entre los solicitantes de TI, favoreciendo los términos que se encuentran más comúnmente en los currículums de ingenieros masculinos, como "ejecutado" y "capturado", según el informe.

LEER A CONTINUACIÓN: ¿Las cuotas de diversidad ayudan u obstaculizan a las mujeres en la tecnología?

El modelo utilizado en el sistema de inteligencia artificial tenía otros problemas que llevaron a que se recomendaran candidatos no calificados para una variedad de trabajos inadecuados.

Esto finalmente llevó a Amazon a desconectar el equipo cuando los ejecutivos "perdieron la esperanza" sobre el proyecto, dijeron fuentes anónimas a Amazon. No se puede confiar únicamente en la herramienta para clasificar candidatos.

La empresa ahora utiliza una "versión muy diluida" del motor de contratación para realizar "tareas rudimentarias"

Publicar un comentario

0 Comentarios