• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Алгоритмы найма на основе ИИ чаще отклоняют резюме от чернокожих и азиатов

Группа американских исследователей обнаружила, что алгоритмы искусственного интеллекта при отборе кандидатов на работу демонстрируют расовую предвзятость. Также они чаще отклоняли кандидатуры людей, которые подавали заявки сразу в несколько компаний.

Кадр фильма «Скрытые фигуры» / © Fox 2000 Pictures
Кадр фильма «Скрытые фигуры» / © Fox 2000 Pictures

Авторы исследования изучили, какие решения принимали алгоритмы в разных компаниях. При этом все эти компании использовали одного и того же поставщика HR-технологий — платформу Pymetrics, которая с 2022 года принадлежит Harver. 

Ученые получили доступ к базе данных Pymetrics за период с декабря 2018 по декабрь 2022 года. База состояла из 4,2 миллиона заявок от 3,37 миллиона соискателей на 1746 вакансий. Она охватывала 156 работодателей с совокупной годовой выручкой около 225 миллиардов долларов. В исследование вошли компании из 11 отраслей.

Подавая заявку, кандидаты проходили игровые тесты на платформе Pymetrics. Оценив результаты, алгоритм рекомендовал работодателям в среднем 58,2% соискателей на каждую позицию. Компании сами решали, кого пригласить на собеседование, но обычно они отклоняли кандидатов, которых не рекомендовал искусственный интеллект. 

Исследователи обнаружили признаки расовой дискриминации при ИИ-анализе кандидатов. Авторы использовали правило «четырех пятых». Оно обращает внимание на возможную дискриминацию, если какую-то группу отобрали менее чем на 80% от показателя наиболее успешной группы кандидатов.

Ученые обнаружили, что 26% чернокожих соискателей и 15% азиатских кандидатов подавали заявки на вакансии, где искусственный интеллект дискриминировал их расовую группу. Согласно выводам исследователей, от дискриминации ИИ-систем пострадали около 40 тысяч соискателей. Их могли пригласить на следующий этап отбора, если бы чернокожие и азиатские кандидаты проходили первичный отбор с той же вероятностью, что и наиболее часто одобряемая группа.

Также исследование показало, что алгоритмы чаще отклоняли кандидатов, подававших заявки сразу в несколько компаний с одной ИИ-системой отбора. Среди соискателей, которые отправили четыре заявки, около 10% получили отказ от всех работодателей.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

Написать комментарий
Предстоящие мероприятия
29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

31 августа, 09:44
Evgenia Vavilova

Обычно место соединения двух деталей, даже из одного материала — слабая точка изделия. Но правильно сваренные друг с другом куски полиэтилена это правило нарушали, хотя ученые и не понимали почему.

30 августа, 16:26
Александр Березин

Телескоп «Роман» в несколько раз превосходит любого из своих американских предшественников по числу мегапикселей в матрице и будет отправлять на Землю больше данных, чем любой другой космический телескоп из когда-либо созданных. С его помощью астрономы надеются и прояснить природу темной энергии и материи, и найти немало новых экзопланет — в особенности планет-бродяг

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

30 августа, 16:26
Александр Березин

Телескоп «Роман» в несколько раз превосходит любого из своих американских предшественников по числу мегапикселей в матрице и будет отправлять на Землю больше данных, чем любой другой космический телескоп из когда-либо созданных. С его помощью астрономы надеются и прояснить природу темной энергии и материи, и найти немало новых экзопланет — в особенности планет-бродяг

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]