Investigación muestra que modelos de IA como ChatGPT crean estereotipos más fuertes que humanos al seleccionar candidatos en procesos de contratación.
Un estudio reciente de las universidades de Princeton y Chicago demuestra que los modelos de inteligencia artificial (IA) como ChatGPT, Claude y Gemini tienden a formar sesgos y estereotipos más marcados que los humanos al evaluar candidatos para empleos.
Por qué importa: La IA no solo aprende prejuicios de sus datos de entrenamiento, sino que también puede generar nuevos sesgos durante su uso, afectando la equidad en procesos de selección laboral.
Lo esencial
Modelos de lenguaje grande (LLM) fueron evaluados en un juego simulado de contratación con candidatos ficticios de cuatro grupos étnicos.
Los LLM desarrollaron estereotipos que asignaban a ciertos grupos a trabajos específicos, incluso cuando todos tenían igual probabilidad de éxito.
Los sesgos generados por IA fueron aproximadamente un 65% más altos que los observados en humanos en un estudio previo similar.
Simulación de contratación con IA
Los investigadores adaptaron un experimento psicológico para probar cómo los LLM toman decisiones de contratación. Cada modelo actuó como consultor del alcalde de una ciudad ficticia y debía seleccionar candidatos para 20 puestos, desde doctores hasta conserjes. Los candidatos provenían de cuatro grupos étnicos inventados: Tufa, Aima, Reku y Weki.
Tras cada contratación, el modelo recibía información sobre el desempeño del candidato y debía optimizar sus elecciones para maximizar el éxito en 40 rondas. Aunque todos los candidatos tenían igual probabilidad de éxito, los modelos comenzaron a asignar sistemáticamente ciertos grupos a trabajos específicos basándose en resultados iniciales.
IA crea estereotipos más fuertes que humanos
Los modelos mostraron una tendencia a generalizar rápidamente a partir de datos limitados, un comportamiento optimizado en su entrenamiento para resolver problemas matemáticos y científicos. Por ejemplo, si un candidato Aima fallaba como doctor, el modelo evitaba contratar más Aimas para ese puesto y los relegaba a trabajos considerados de menor competencia.
Imagen de referencia: MIT Technology Review.
En la escala de segregación usada, donde 2 indica máxima segregación por grupo, los humanos alcanzaron un puntaje de 0.84, mientras que el modelo de OpenAI o3 llegó a 1.83, casi el máximo posible. Esto evidencia que la IA puede exacerbar prejuicios más allá de los humanos.
Implicaciones para el uso de IA en recursos humanos
Con la creciente adopción de IA para filtrar currículos y preseleccionar candidatos, estos hallazgos alertan sobre riesgos de discriminación inadvertida. Los modelos pueden formar prejuicios no solo por los datos de entrenamiento, sino también por su propia dinámica de aprendizaje durante la interacción.
Esto plantea desafíos para diseñar sistemas de IA que sean justos y transparentes, especialmente cuando se usan en decisiones que afectan oportunidades laborales y diversidad.
Preguntas frecuentes sobre sesgos en IA de contratación
¿Por qué la IA genera más sesgos que los humanos?
Los modelos de lenguaje grande están optimizados para generalizar rápidamente a partir de pocos ejemplos, lo que los lleva a crear estereotipos más rígidos que los humanos, que suelen ser más flexibles en sus juicios.
¿Se puede evitar que la IA forme estos prejuicios?
El estudio no detalla soluciones específicas, pero sugiere que la forma en que los modelos aprenden y actualizan sus decisiones debe ser revisada para minimizar la formación de sesgos durante su uso.
