13.02.2018
Редакция Naked Science
1

Нейросети не умеют распознавать людей с темной кожей

Сотрудники Массачусетского технологического института и Стэнфордского университета выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи.

code-2620118_960_720
©Wikipedia

Несколько лет назад авторы статьи уже обнаружили некоторые неточности в работе нейросетей. Они заметили, что системы, обрабатывающие данные с помощью ИИ, без проблем идентифицируют светлокожих людей и часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее. Чтобы это доказать, исследователь из медиалаборатории МТИ Джой Буоламвини (Joy Buolamwini) собрала коллекцию из 1200 фотографий разных людей, где в большинстве были представлены женщины с темной кожей. Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи (где I – самый светлый, VI – самый темный). Все собранные материалы специалист использовала для анализа трех коммерческих программ.

 

В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

 

Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

 

Рушир Пури, сотрудник IBM Watson, говорит, что это исследование оказало влияние на модель, которая создается в данный момент. «Выводы Буоламвини дали нам много пищи для размышлений, и, возможно, мы внесем в продукт некоторые изменения», – добавляет он. Результаты исследования в скором времени будут представлены на Конференции по вопросам справедливости, подотчетности и транспарентности в Нью-Йорке.

 

© Massachusetts Institute of Technology

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
4 часа назад
Мария Азарова

Ученые из США представили альтернативный молекулярный механизм образования меланоцитарного невуса, который согласуется как с экспериментальными, так и с клиническими наблюдениями.

Вчера, 14:37
Николай Цыгикало

Запуск в космос всегда динамичен. Ревущий старт, огромный факел огня, затихающий гром в небе. Первая ступень отработала и отделилась, отработала следующая, эстафета ускорения закончилась достижением орбитальной скорости на нужной высоте. Пуск ракеты завершен, заняв всего восемь – десять минут. Но выведение на этом не заканчивается. В работу вступает особая, космическая ступень. Именно она поднимает орбиту на большую высоту, начинает межпланетное путешествие, и решает много других задач. О ее сложной работе и больших возможностях – в нашем материале.

26 ноября
Анастасия Михалева

За всю историю исследования в космосе побывали более 500 человек. В океан на глубину более 10 километров спускались всего трое. Мы до сих пор знаем о Мировом океане и его обитателях недопустимо мало.

25 ноября
НИУ ВШЭ

Мобильные ученые публикуются в индексируемых журналах в два раза чаще. К такому выводу пришли исследователи из НИУ ВШЭ.

26 ноября
Анастасия Михалева

За всю историю исследования в космосе побывали более 500 человек. В океан на глубину более 10 километров спускались всего трое. Мы до сих пор знаем о Мировом океане и его обитателях недопустимо мало.

25 ноября
Илья Ведмеденко

Российские инженеры спроектировали самолет для межконтинентальных полетов в стратосфере. Его можно назвать условным аналогом британского Skylon.

3 ноября
Ольга Иванова

Исследований на эту тему, как ни странно, мало, хотя предположений — великое множество. По мнению ученых из Венгрии, одна из причин такого поведения — высокая концентрация внимания на речи хозяина, а еще это означает, что собака слышит знакомое слово.

12 ноября
Мария Азарова

Кошки оказывались сбиты с толку, когда их человек, как им казалось, «телепортировался» в новое, неожиданное место. Однако они не реагировали таким же образом на чужих людей или других животных.

2 ноября
Мария Азарова

Авторы новой работы на примере Шотландии определили характеристики людей, умерших от Covid-19, хотя они были привиты, а также выявили основные предикторы смертности.

[miniorange_social_login]

Комментарии

1 Комментарий

13.02.2018
-
0
+
а как там с распознаванием азиатов дела?)
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: