Мовні моделі демонструють гендерні упередження під час створення й оцінювання резюме

· Наука

Мовні моделі демонструють гендерні упередження під час створення й оцінювання резюме

Велике дослідження показало, що мовні моделі несвідомо дискримінують кандидатів на роботу, оцінюючи резюме жінок нижче в професіях, де переважають чоловіки, і навпаки.

Штучний інтелект демонструє гендерні упередження під час створення та оцінювання резюме. Згідно з дослідженням, опублікованим у журналі PNAS, мовні моделі схильні занижувати оцінки жінкам у професійних сферах, де домінують чоловіки, та надавати їм перевагу в галузях, де працює більше жінок.

Особливості гендерного упередження ШІ

У межах наукового експерименту фахівці протестували шість різних моделей на 98 професіях у США, згенерувавши понад 35 тисяч вигаданих резюме. Результати показали, що моделі упереджено створювали й оцінювали резюме. Наприклад, у професійних анкетах кандидаток моделі частіше акцентували увагу на схильності до допоміжної роботи, що рідко сприяє професійному зростанню. Навіть без прямого зазначення статі, статистична модель визначала стать кандидата за текстом резюме з точністю 81%.

Щоб виокремити саме механізм оцінювання, вчені проводили порівняльні тести, змінюючи в анкетах лише гендерні маркери, тоді як інший зміст залишався незмінним. Дослідники з’ясували:

  • У професіях, де жінки складають менш ніж 10% персоналу, кандидатки отримували оцінки в середньому на 2,7% нижчі за чоловічі.
  • У секторах із переважанням жіночої зайнятості спостерігалася зворотна тенденція.
  • Загалом по всіх професіях ці диспропорції в середньому нівелювали одна одну.

Важливо зазначити, що це дослідження базувалося на контрольованих тестах англомовних резюме і не відображає процес реального працевлаштування. Воно наочно демонструє, як технології автоматизації можуть відтворювати та закріплювати соціальні стереотипи, навіть без прямих згадок статі в резюме.

За матеріалами nauka.ua

Про Що? — новини науки, технологій і світу