Нейросети не умеют распознавать людей с темной кожей — Naked Science
4 минуты
Редакция
1

Нейросети не умеют распознавать людей с темной кожей

Сотрудники Массачусетского технологического института и Стэнфордского университета выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи.

code-2620118_960_720
©Wikipedia

Несколько лет назад авторы статьи уже обнаружили некоторые неточности в работе нейросетей. Они заметили, что системы, обрабатывающие данные с помощью ИИ, без проблем идентифицируют светлокожих людей и часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее. Чтобы это доказать, исследователь из медиалаборатории МТИ Джой Буоламвини (Joy Buolamwini) собрала коллекцию из 1200 фотографий разных людей, где в большинстве были представлены женщины с темной кожей. Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи (где I – самый светлый, VI – самый темный). Все собранные материалы специалист использовала для анализа трех коммерческих программ.

 

В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

 

Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

 

Рушир Пури, сотрудник IBM Watson, говорит, что это исследование оказало влияние на модель, которая создается в данный момент. «Выводы Буоламвини дали нам много пищи для размышлений, и, возможно, мы внесем в продукт некоторые изменения», – добавляет он. Результаты исследования в скором времени будут представлены на Конференции по вопросам справедливости, подотчетности и транспарентности в Нью-Йорке.

 

© Massachusetts Institute of Technology

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
4 часа назад
3 минуты
Сергей Васильев

Среди находок из знаменитого Олдувайского ущелья обнаружены зазубренный наконечник гарпуна и другие костяные инструменты, изготовленные еще 800 тысяч лет назад — скорее всего, представителями Homo erectus.

6 часов назад
9 минут
Мария Азарова

В Перу обнаружили отлично сохранившиеся останки лам и морской свинки. Поскольку на телах животных не выявили каких-либо смертельных повреждений, ученые сделали вывод, что их хоронили заживо, перевязав конечности веревками.

3 часа назад
4 минуты
Илья Ведмеденко

Давно выведенный из арсенала ВВС США, но продолжающий полеты F-117 сфотографировали с близкого расстояния.

20 октября
4 минуты
Сергей Васильев

Глубоко в носоглотке ученые обнаружили новую — четвертую — пару крупных слюнных желез, о существовании которой ранее никто не подозревал.

16 октября
6 минут
Василий Парфенов

Несмотря на устоявшееся мнение, согласно которому газотурбинные двигатели (ГТД) почти достигли технологического совершенства и прироста характеристик более чем на единицы процентов в новых моделях ждать не стоит, инженеры продолжают искать способы радикально их улучшить. Компания GE Aviation уже до конца 2020 года собирается представить предсерийные экземпляры своих революционных силовых установок, которые должны быть на 20% долговечнее, на 35% экономичнее и будут иметь улучшенную на 80% энерговооруженность, чем предыдущие аналогичные модели.

19 октября
4 минуты
Ольга Иванова

Международная группа ученых сделала рентгеновские снимки грудного отдела тела муравьев, проанализировав их мышцы и внутренний скелет. В результате исследователи выяснили, что сила этих насекомых связана с потерей способности летать.

28 сентября
29 минут
Александр Березин

Сентябрь 2020 года принес в Закавказье войну — столкновение Азербайджана и Нагорного Карабаха получило большой размах, общее число жертв, судя по всему, уже перевалило за сотню, а Ереван и Баку объявили мобилизацию (в Азербайджане — частичную). Объективного смысла в войне для самих участников нет. Баку не победит, но и Армения от конфликта ничего не выиграет. Пользу конфликт, однако, объективно принесет Турции, а также тем, кто поставляет в Азербайджан оружие. Возникает вопрос: почему война оказалась возможна, несмотря на дружественную позицию России к Армении, и зачем на нее пошли в Баку? И есть ли у Еревана разумный выход из назревающей бойни?

16 октября
6 минут
Денис Гордеев

Люди со второй и четвертой группами крови с большей вероятностью переболеют Covid-19 в тяжелой форме.

20 октября
4 минуты
Сергей Васильев

Глубоко в носоглотке ученые обнаружили новую — четвертую — пару крупных слюнных желез, о существовании которой ранее никто не подозревал.

[miniorange_social_login]

Комментарии

1 Комментарий

AlekseyM90
13.02.2018
-
0
+
а как там с распознаванием азиатов дела?)
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: