Алгоритмы найма на основе ИИ чаще отклоняют резюме от чернокожих и азиатов

Авторы исследования изучили, какие решения принимали алгоритмы в разных компаниях. При этом все эти компании использовали одного и того же поставщика HR-технологий — платформу Pymetrics, которая с 2022 года принадлежит Harver. 

Ученые получили доступ к базе данных Pymetrics за период с декабря 2018 по декабрь 2022 года. База состояла из 4,2 миллиона заявок от 3,37 миллиона соискателей на 1746 вакансий. Она охватывала 156 работодателей с совокупной годовой выручкой около 225 миллиардов долларов. В исследование вошли компании из 11 отраслей.

Подавая заявку, кандидаты проходили игровые тесты на платформе Pymetrics. Оценив результаты, алгоритм рекомендовал работодателям в среднем 58,2% соискателей на каждую позицию. Компании сами решали, кого пригласить на собеседование, но обычно они отклоняли кандидатов, которых не рекомендовал искусственный интеллект. 

Исследователи обнаружили признаки расовой дискриминации при ИИ-анализе кандидатов. Авторы использовали правило «четырех пятых». Оно обращает внимание на возможную дискриминацию, если какую-то группу отобрали менее чем на 80% от показателя наиболее успешной группы кандидатов.

Ученые обнаружили, что 26% чернокожих соискателей и 15% азиатских кандидатов подавали заявки на вакансии, где искусственный интеллект дискриминировал их расовую группу. Согласно выводам исследователей, от дискриминации ИИ-систем пострадали около 40 тысяч соискателей. Их могли пригласить на следующий этап отбора, если бы чернокожие и азиатские кандидаты проходили первичный отбор с той же вероятностью, что и наиболее часто одобряемая группа.

Также исследование показало, что алгоритмы чаще отклоняли кандидатов, подававших заявки сразу в несколько компаний с одной ИИ-системой отбора. Среди соискателей, которые отправили четыре заявки, около 10% получили отказ от всех работодателей.

Закладка

-

0

+

93

Twitter

VK

Telegram