• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
13.02.2018
Редакция Naked Science
1
349

Нейросети не умеют распознавать людей с темной кожей

Сотрудники Массачусетского технологического института и Стэнфордского университета выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи.

code-2620118_960_720
©Wikipedia

Несколько лет назад авторы статьи уже обнаружили некоторые неточности в работе нейросетей. Они заметили, что системы, обрабатывающие данные с помощью ИИ, без проблем идентифицируют светлокожих людей и часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее. Чтобы это доказать, исследователь из медиалаборатории МТИ Джой Буоламвини (Joy Buolamwini) собрала коллекцию из 1200 фотографий разных людей, где в большинстве были представлены женщины с темной кожей. Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи (где I – самый светлый, VI – самый темный). Все собранные материалы специалист использовала для анализа трех коммерческих программ.

 

В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

 

Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

 

Рушир Пури, сотрудник IBM Watson, говорит, что это исследование оказало влияние на модель, которая создается в данный момент. «Выводы Буоламвини дали нам много пищи для размышлений, и, возможно, мы внесем в продукт некоторые изменения», – добавляет он. Результаты исследования в скором времени будут представлены на Конференции по вопросам справедливости, подотчетности и транспарентности в Нью-Йорке.

 

© Massachusetts Institute of Technology

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
8 часов назад
Михаил Орлов

Переход к паразитизму вызывает характерные изменения у самых разных существ. Авторы нового исследования узнали, как он повлиял на геномы растений, ставших «настолько паразитическими», что от них остался только клубень-химера с грибовидными соцветиями.

Вчера, 08:22
Михаил Орлов

Долгое время ученые не могли понять, как среди бедной почвы бассейна Амазонки появились небольшие участки черной плодородной земли. Из нового исследования следует, что аборигены Америки создали их намеренно. Они целенаправленно собирали и перерабатывали органику, чтобы улучшить возделываемую почву.

Позавчера, 12:15
ЮУрГУ

Научный коллектив Института лингвистики и международных коммуникаций ЮУрГУ создал уникальный интернет-портал, представляющий собой большой банк данных об интерпретациях в русской лингвокультуре важных общечеловеческих ценностей и других ментальных категорий. Ученые исследовали ассоциации обывателей для таких ценностей, как «образование», «карьера», «Родина», а также для концепта «страх».

8 часов назад
Михаил Орлов

Переход к паразитизму вызывает характерные изменения у самых разных существ. Авторы нового исследования узнали, как он повлиял на геномы растений, ставших «настолько паразитическими», что от них остался только клубень-химера с грибовидными соцветиями.

21 сентября
Дарья

Распространенное мнение о том, что подавление негативных мыслей может быть вредным и даже опасным для психического здоровья, признали ошибочным. К такому выводу пришли ученые из Кембриджского университета (Великобритания).

Вчера, 08:22
Михаил Орлов

Долгое время ученые не могли понять, как среди бедной почвы бассейна Амазонки появились небольшие участки черной плодородной земли. Из нового исследования следует, что аборигены Америки создали их намеренно. Они целенаправленно собирали и перерабатывали органику, чтобы улучшить возделываемую почву.

31 августа
Сергей Васильев

Вопреки предсказаниям, кислород-28 оказался крайне неустойчивым. Физики не успели даже зарегистрировать такие ядра, хотя теоретически они должны быть дважды магическими, а значит — особенно стабильными.

31 августа
Дарья Губина

Тотальная память — плохо для мозга. Чтобы детально запомнить событие, стоит о нем вспоминать как можно реже. Чем больше вы знаете по теме, тем больше новой информации вы запомните. Но если информации будет слишком много, то не вся она будет зафиксирована в мозге. Naked Science разбирается, как сегодня ученые, нейробиологи и психологи объясняют способности нашего мозга запоминать и учиться.

20 сентября
Ольга Иванова

Исследователи из Швеции и Великобритания узнали, что «правило деревьев» да Винчи, который считал, что толщина всех веток дерева на любой его высоте, сложенная вместе, равна толщине ствола, ошибочно на микроуровне.

[miniorange_social_login]

Комментарии

1 Комментарий

AlekseyM90
13.02.2018
-
0
+
а как там с распознаванием азиатов дела?)
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: