Нейросети не умеют распознавать людей с темной кожей — Naked Science
4 минуты
Редакция
1

Нейросети не умеют распознавать людей с темной кожей

Сотрудники Массачусетского технологического института и Стэнфордского университета выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи.

code-2620118_960_720
©Wikipedia

Несколько лет назад авторы статьи уже обнаружили некоторые неточности в работе нейросетей. Они заметили, что системы, обрабатывающие данные с помощью ИИ, без проблем идентифицируют светлокожих людей и часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее. Чтобы это доказать, исследователь из медиалаборатории МТИ Джой Буоламвини (Joy Buolamwini) собрала коллекцию из 1200 фотографий разных людей, где в большинстве были представлены женщины с темной кожей. Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи (где I – самый светлый, VI – самый темный). Все собранные материалы специалист использовала для анализа трех коммерческих программ.

 

В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

 

Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

 

Рушир Пури, сотрудник IBM Watson, говорит, что это исследование оказало влияние на модель, которая создается в данный момент. «Выводы Буоламвини дали нам много пищи для размышлений, и, возможно, мы внесем в продукт некоторые изменения», – добавляет он. Результаты исследования в скором времени будут представлены на Конференции по вопросам справедливости, подотчетности и транспарентности в Нью-Йорке.

 

© Massachusetts Institute of Technology

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 12:41
30 минут
Николай Цыгикало

Трагическая новость о взрыве огромной силы в Бейруте, занявшая первые строчки новостных ресурсов, вызывает естественные вопросы: как это могло произойти, что там взорвалось, в силу каких факторов возможны подобные происшествия? Чтобы разобраться, взглянем пристальнее на свойства аммиачной селитры и связанные с ней опасные моменты.

Вчера, 20:22
5 минут
Денис Гордеев

Новая система работает в любых атмосферных условиях — при дожде, ветре и большом количестве пыли в воздухе.

Вчера, 15:11
7 минут
Ольга Иванова

Антрополог из Цюрихского университета Ицхак Бен Мокко провел исследование, посвященное человеческим репродуктивным привычкам. В частности, он попытался ответить на вопрос, почему люди предпочитают заниматься сексом наедине, в то время как почти все остальные животные делают это в присутствии сородичей.

Вчера, 12:41
30 минут
Николай Цыгикало

Трагическая новость о взрыве огромной силы в Бейруте, занявшая первые строчки новостных ресурсов, вызывает естественные вопросы: как это могло произойти, что там взорвалось, в силу каких факторов возможны подобные происшествия? Чтобы разобраться, взглянем пристальнее на свойства аммиачной селитры и связанные с ней опасные моменты.

3 августа
5 минут
Сергей Васильев

Микроскоп с высокоскоростной камерой и компьютерное моделирование показали, что сперматозоиды плавают не за счет боковых движений хвоста, а быстро вращаясь всем телом.

Вчера, 20:22
5 минут
Денис Гордеев

Новая система работает в любых атмосферных условиях — при дожде, ветре и большом количестве пыли в воздухе.

22 июля
66 минут
Александр Березин

С 2064 года численность людей начнет сокращаться — и этот процесс может быть необратим. Один из авторов соответствующей научной работы прямо указывает: если ничего не изменится, через несколько веков человечество вымрет. Однако есть вещи и похуже вымирания. Куда вероятнее иной сценарий: мир будет заселен теми, кто сможет размножаться в новых культурных условиях. К сожалению, значительная часть современных европейцев, американцев и, возможно, других народов будут вытеснены с первых страниц истории. Вдобавок те, кто победят в этой непростой борьбе, нам, сегодняшнему населению Земли, могут сильно не понравиться. Попробуем разобраться почему.

10 июля
7 минут
Мария Кривоченко

Биологи выяснили, какое воздействие оказывают радиоволны на эмбрионы рыб. Оказалось, они существенно не влияют на уровень смертности, морфологию и реакцию на свет, но немного подавляют сенсомоторные функции. Как это скажется на взрослых особях, еще предстоит выяснить.

12 июля
28 минут
Илья Ведмеденко

Программа ПАК ДП (перспективный авиационный комплекс дальнего перехвата) привлекает к себе все больше внимания. Разберемся, что это такое и появится ли у России новый боевой самолет.

[miniorange_social_login]

Комментарии

1 Комментарий

AlekseyM90
13.02.2018
-
0
+
а как там с распознаванием азиатов дела?)
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: