Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей
5 минут
Редакция

Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей

Известно, что некоторые системы распознавания лиц испытывают трудности с идентификацией людей с темной кожей. Теперь многие системы искусственного интеллекта, разработанные для того, чтобы беспилотные автомобили лучше ориентировались на дорогах, столкнулись с той же проблемой.

fordvttiresearch04hr-copy
©Wikipedia

Этот факт может поставить под угрозу жизнь и безопасность пешеходов с более темной кожей, став тревожным признаком того, как ИИ способен непреднамеренно воспроизводить предрассудки из мира людей.

 

В новой статье, которая доступна на сайте arXiv.org, сотрудники Технологического института Джорджии (США) исследуют восемь моделей искусственного интеллекта, используемых в современных системах обнаружения объектов, каждая из которых обучалась по стандартному набору данных. Эти системы позволяют автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты. Специалисты протестировали модели с использованием изображений пешеходов, разделенных на две категории на основе их оценок по шкале Фитцпатрика — числовая шкала, обычно использующаяся для классификации цвета кожи человека, согласно которой существует шесть фототипов кожи (где I — самый светлый, VI — самый темный).

 

Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами с тремя самыми темными оттенками кожи. В среднем точность моделей снизилась на пять процентов при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи, даже когда исследователи учитывали такие переменные, как, например, время суток, когда была сделана фотография, или объекты, которые заслоняли пешехода.

 

Cистема, позволяющая автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты / © Benjamin Wilson

 

Исследования, проведенные командой Georgia Tech, показывают, что при отсутствии адекватных мер, мы можем быть на пути к будущему, в котором мир с автономными автомобилями не так безопасен для людей с темным цветом кожи. Кроме того, алгоритм основывается только на тех данных, что присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет. К сожалению, отмечают ученые, зачастую в подобных базах встречается больше светлокожих людей, чем темнокожих. На основе своей работы специалисты смогли определить шаги, необходимые для предотвращения подобных сценариев. По словам ученых, нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и повышать точность показателей определения этих изображений системами ИИ.

 

В прошлом году сотрудники MIT и Стэнфордского университета обнаружили некоторые неточности в работе нейросетей. Тогда они выяснили, что системы, обрабатывающие данные с помощью ИИ, часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее: при идентификации женщин тестируемая специалистами программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом, 34,7% — с VI типом. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 14:53
5 минут
Мария Азарова

Ученые, работающие с крупнейшим в мире радиотелескопом, сообщили об обнаружении эмиссии нейтрального водорода, исходящей от объектов за пределами нашей Галактики.

4 июля
2 минуты
Илья Ведмеденко

По словам источника в ОПК, основной боевой танк на базе гусеничной платформы «Армата» прошел беспилотные испытания.

Вчера, 09:34
4 минуты
Сергей Васильев

Кажется, сходство безногих земноводных со змеями идет куда дальше внешнего вида, и эти животные способны поражать жертву ядовитым укусом.

Позавчера, 19:59
26 минут
Илья Ведмеденко

Новый БПЛА С-70 «Охотник» может стать главным российским проектом в сфере боевой авиации. Но сначала ему нужно подтвердить свою пользу.

Вчера, 14:53
5 минут
Мария Азарова

Ученые, работающие с крупнейшим в мире радиотелескопом, сообщили об обнаружении эмиссии нейтрального водорода, исходящей от объектов за пределами нашей Галактики.

3 июля
4 минуты
Сергей Васильев

Одна из самых больших черных дыр обладает соответствующим аппетитом: имея массу около 34 миллиардов масс Солнца, она добавляет еще по одной каждый день.

27 июня
8 минут
Sergei Sobol

Уроки астрономии вернулись в российские школы в 2018 году. За то время, пока эта наука была необязательным предметом, в ней произошло много событий, не все из которых нашли отражение в учебниках. Кроме того, в них и раньше не были упомянуты многие интересные факты.

1 июля
5 минут
Мария Кривоченко

Один из детекторов Большого адронного коллайдера обнаружил новую частицу, состоящую из четырех очарованных кварков. Физики полагают, что это первый представитель неописанного класса частиц.

1 июля
5 минут
Сергей Васильев

Точные данные о локализации центра масс Солнечной системы важны для поиска гравитационных волн, поэтому астрономы выяснили его с ошибкой не более 100 метров.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: