Мовні моделі демонструють гендерні упередження під час створення й оцінювання резюме
· Наука
Велике дослідження показало, що мовні моделі несвідомо дискримінують кандидатів на роботу, оцінюючи резюме жінок нижче в професіях, де переважають чоловіки, і навпаки.
Штучний інтелект демонструє гендерні упередження під час створення та оцінювання резюме. Згідно з дослідженням, опублікованим у журналі PNAS, мовні моделі схильні занижувати оцінки жінкам у професійних сферах, де домінують чоловіки, та надавати їм перевагу в галузях, де працює більше жінок.
Особливості гендерного упередження ШІ
У межах наукового експерименту фахівці протестували шість різних моделей на 98 професіях у США, згенерувавши понад 35 тисяч вигаданих резюме. Результати показали, що моделі упереджено створювали й оцінювали резюме. Наприклад, у професійних анкетах кандидаток моделі частіше акцентували увагу на схильності до допоміжної роботи, що рідко сприяє професійному зростанню. Навіть без прямого зазначення статі, статистична модель визначала стать кандидата за текстом резюме з точністю 81%.
Щоб виокремити саме механізм оцінювання, вчені проводили порівняльні тести, змінюючи в анкетах лише гендерні маркери, тоді як інший зміст залишався незмінним. Дослідники з’ясували:
- У професіях, де жінки складають менш ніж 10% персоналу, кандидатки отримували оцінки в середньому на 2,7% нижчі за чоловічі.
- У секторах із переважанням жіночої зайнятості спостерігалася зворотна тенденція.
- Загалом по всіх професіях ці диспропорції в середньому нівелювали одна одну.
Важливо зазначити, що це дослідження базувалося на контрольованих тестах англомовних резюме і не відображає процес реального працевлаштування. Воно наочно демонструє, як технології автоматизації можуть відтворювати та закріплювати соціальні стереотипи, навіть без прямих згадок статі в резюме.
За матеріалами nauka.ua