Нейросети не умеют распознавать людей с темной кожей
Сотрудники Массачусетского технологического института и Стэнфордского университета выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи.
Несколько лет назад авторы статьи уже обнаружили некоторые неточности в работе нейросетей. Они заметили, что системы, обрабатывающие данные с помощью ИИ, без проблем идентифицируют светлокожих людей и часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее. Чтобы это доказать, исследователь из медиалаборатории МТИ Джой Буоламвини (Joy Buolamwini) собрала коллекцию из 1200 фотографий разных людей, где в большинстве были представлены женщины с темной кожей. Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи (где I – самый светлый, VI – самый темный). Все собранные материалы специалист использовала для анализа трех коммерческих программ.
В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.
Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.
Рушир Пури, сотрудник IBM Watson, говорит, что это исследование оказало влияние на модель, которая создается в данный момент. «Выводы Буоламвини дали нам много пищи для размышлений, и, возможно, мы внесем в продукт некоторые изменения», – добавляет он. Результаты исследования в скором времени будут представлены на Конференции по вопросам справедливости, подотчетности и транспарентности в Нью-Йорке.
Telegram 
Дзен 
VK Сам факт того, что после распада Западной Римской империи возникали новые государства, историкам известен давно. Нет сомнений в существовании королевств готов, франков, лангобардов и других постримских политических образований. Авторы нового исследования сосредоточились на более сложном вопросе. Они попытались выяснить, как именно происходило формирование таких обществ на уровне отдельных людей, семей и общин. Впервые благодаря сочетанию генетических и археологических данных исследователи смогли реконструировать развитие одного постримского политического общества, которое располагалось на территории Паннонии.
Физикам долго не удавалось применить фазовый контраст в электронной микроскопии. Оказалось, что нужно было прекратить искать подходящее вещество для фазовой пластины и обратить внимание на лазеры.
Ученые с высокой точностью измерили ключевые параметры нейтринных осцилляций — угол смешивания θ₁₂ и разность квадратов масс нейтрино. Результаты верифицировали несколькими методами.
Сам факт того, что после распада Западной Римской империи возникали новые государства, историкам известен давно. Нет сомнений в существовании королевств готов, франков, лангобардов и других постримских политических образований. Авторы нового исследования сосредоточились на более сложном вопросе. Они попытались выяснить, как именно происходило формирование таких обществ на уровне отдельных людей, семей и общин. Впервые благодаря сочетанию генетических и археологических данных исследователи смогли реконструировать развитие одного постримского политического общества, которое располагалось на территории Паннонии.
Физикам долго не удавалось применить фазовый контраст в электронной микроскопии. Оказалось, что нужно было прекратить искать подходящее вещество для фазовой пластины и обратить внимание на лазеры.
Ученые с высокой точностью измерили ключевые параметры нейтринных осцилляций — угол смешивания θ₁₂ и разность квадратов масс нейтрино. Результаты верифицировали несколькими методами.
Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.
В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.
В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии