Los modelos de lenguaje muestran sesgos de género al crear y evaluar currículums

· Ciencia

Los modelos de lenguaje muestran sesgos de género al crear y evaluar currículums

Un amplio estudio ha demostrado que los modelos de lenguaje discriminan involuntariamente a los candidatos al evaluar con menor puntuación a las mujeres en profesiones dominadas por hombres, y viceversa.

La inteligencia artificial muestra sesgos de género al crear y evaluar currículums. Según un estudio publicado en la revista PNAS, los modelos de lenguaje tienden a dar calificaciones más bajas a las mujeres en ámbitos profesionales dominados por hombres y a darles preferencia en sectores donde trabajan más mujeres.

Características del sesgo de género en la IA

En el marco de un experimento científico, los especialistas probaron seis modelos distintos en 98 profesiones en Estados Unidos, generando más de 35.000 currículums ficticios. Los resultados mostraron que los modelos creaban y evaluaban los currículums de manera sesgada. Por ejemplo, en los perfiles profesionales de las candidatas, los modelos solían poner más énfasis en una predisposición hacia tareas de apoyo, algo que rara vez contribuye al crecimiento profesional. Incluso sin especificar explícitamente el género, el modelo estadístico identificaba el sexo del candidato a través del texto del currículum con una precisión del 81 %.

Para aislar el mecanismo de evaluación, los científicos realizaron pruebas comparativas cambiando únicamente los marcadores de género en los formularios, mientras que el resto del contenido permanecía inalterado. Los investigadores descubrieron que:

  • En profesiones donde las mujeres representan menos del 10 % del personal, las candidatas recibían calificaciones, en promedio, un 2,7 % más bajas que las de los hombres.
  • En sectores con una mayor presencia femenina, se observaba la tendencia opuesta.
  • En términos generales, a través de todas las profesiones, estas desproporciones terminaban por compensarse entre sí.

Es importante señalar que este estudio se basó en pruebas controladas de currículums en inglés y no refleja un proceso de contratación real. No obstante, demuestra de forma clara cómo las tecnologías de automatización pueden reproducir y consolidar estereotipos sociales, incluso sin mencionar directamente el género en el currículum.

Basado en información de: nauka.ua

Adaptación al español con ayuda de inteligencia artificial. Читати українською

¿De qué va? — la edición en español de «Про Що?»