Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

30 мая, 15:09

Рейтинг: +1614

Посты: 1252

Алгоритмы найма на основе ИИ чаще отклоняют резюме от чернокожих и азиатов

Группа американских исследователей обнаружила, что алгоритмы искусственного интеллекта при отборе кандидатов на работу демонстрируют расовую предвзятость. Также они чаще отклоняли кандидатуры людей, которые подавали заявки сразу в несколько компаний.

Сообщество

# бизнес

# дискриминация

# искусственный интеллект

# работа

Кадр фильма «Скрытые фигуры» / © Fox 2000 Pictures

Авторы исследования изучили, какие решения принимали алгоритмы в разных компаниях. При этом все эти компании использовали одного и того же поставщика HR-технологий — платформу Pymetrics, которая с 2022 года принадлежит Harver.

Ученые получили доступ к базе данных Pymetrics за период с декабря 2018 по декабрь 2022 года. База состояла из 4,2 миллиона заявок от 3,37 миллиона соискателей на 1746 вакансий. Она охватывала 156 работодателей с совокупной годовой выручкой около 225 миллиардов долларов. В исследование вошли компании из 11 отраслей.

Подавая заявку, кандидаты проходили игровые тесты на платформе Pymetrics. Оценив результаты, алгоритм рекомендовал работодателям в среднем 58,2% соискателей на каждую позицию. Компании сами решали, кого пригласить на собеседование, но обычно они отклоняли кандидатов, которых не рекомендовал искусственный интеллект.

Исследователи обнаружили признаки расовой дискриминации при ИИ-анализе кандидатов. Авторы использовали правило «четырех пятых». Оно обращает внимание на возможную дискриминацию, если какую-то группу отобрали менее чем на 80% от показателя наиболее успешной группы кандидатов.

Ученые обнаружили, что 26% чернокожих соискателей и 15% азиатских кандидатов подавали заявки на вакансии, где искусственный интеллект дискриминировал их расовую группу. Согласно выводам исследователей, от дискриминации ИИ-систем пострадали около 40 тысяч соискателей. Их могли пригласить на следующий этап отбора, если бы чернокожие и азиатские кандидаты проходили первичный отбор с той же вероятностью, что и наиболее часто одобряемая группа.

Также исследование показало, что алгоритмы чаще отклоняли кандидатов, подававших заявки сразу в несколько компаний с одной ИИ-системой отбора. Среди соискателей, которые отправили четыре заявки, около 10% получили отказ от всех работодателей.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.