Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей — Naked Science
Редакция

Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей

Известно, что некоторые системы распознавания лиц испытывают трудности с идентификацией людей с темной кожей. Теперь многие системы искусственного интеллекта, разработанные для того, чтобы беспилотные автомобили лучше ориентировались на дорогах, столкнулись с той же проблемой.

fordvttiresearch04hr-copy
©Wikipedia

Этот факт может поставить под угрозу жизнь и безопасность пешеходов с более темной кожей, став тревожным признаком того, как ИИ способен непреднамеренно воспроизводить предрассудки из мира людей.

 

В новой статье, которая доступна на сайте arXiv.org, сотрудники Технологического института Джорджии (США) исследуют восемь моделей искусственного интеллекта, используемых в современных системах обнаружения объектов, каждая из которых обучалась по стандартному набору данных. Эти системы позволяют автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты. Специалисты протестировали модели с использованием изображений пешеходов, разделенных на две категории на основе их оценок по шкале Фитцпатрика — числовая шкала, обычно использующаяся для классификации цвета кожи человека, согласно которой существует шесть фототипов кожи (где I — самый светлый, VI — самый темный).

 

Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами с тремя самыми темными оттенками кожи. В среднем точность моделей снизилась на пять процентов при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи, даже когда исследователи учитывали такие переменные, как, например, время суток, когда была сделана фотография, или объекты, которые заслоняли пешехода.

 

Cистема, позволяющая автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты / © Benjamin Wilson

 

Исследования, проведенные командой Georgia Tech, показывают, что при отсутствии адекватных мер, мы можем быть на пути к будущему, в котором мир с автономными автомобилями не так безопасен для людей с темным цветом кожи. Кроме того, алгоритм основывается только на тех данных, что присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет. К сожалению, отмечают ученые, зачастую в подобных базах встречается больше светлокожих людей, чем темнокожих. На основе своей работы специалисты смогли определить шаги, необходимые для предотвращения подобных сценариев. По словам ученых, нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и повышать точность показателей определения этих изображений системами ИИ.

 

В прошлом году сотрудники MIT и Стэнфордского университета обнаружили некоторые неточности в работе нейросетей. Тогда они выяснили, что системы, обрабатывающие данные с помощью ИИ, часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее: при идентификации женщин тестируемая специалистами программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом, 34,7% — с VI типом. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 11:36
68 минут
Ольга Иванова

Своими корнями история Армении уходит в глубокую древность и неразрывно связана с историей всего Древнего мира. Но зачастую, зная в деталях историю Рима и Древней Греции, мы в гораздо меньшей степени осведомлены о событиях, происходивших в Античное время в Армении, оказавшейся на перекрестке цивилизаций Запада и Востока. В силу многих причин она не попала в должном объеме в учебники и незнакома тем, кто интересуется историей. Попытаемся хоть немного исправить эту несправедливость.

Вчера, 15:39
5 минут
Илья Ведмеденко

Специалистам «Роскосмоса» удалось запустить основные двигатели нового модуля «Наука». Ранее сообщалось о технических неполадках, возникших после старта.

Позавчера, 10:07
6 минут
Сергей Васильев

Первые сейсмические данные о внутренней структуре Красной планеты показали ее удивительно толстую кору и большое расплавленное ядро.

Вчера, 11:36
68 минут
Ольга Иванова

Своими корнями история Армении уходит в глубокую древность и неразрывно связана с историей всего Древнего мира. Но зачастую, зная в деталях историю Рима и Древней Греции, мы в гораздо меньшей степени осведомлены о событиях, происходивших в Античное время в Армении, оказавшейся на перекрестке цивилизаций Запада и Востока. В силу многих причин она не попала в должном объеме в учебники и незнакома тем, кто интересуется историей. Попытаемся хоть немного исправить эту несправедливость.

20 июля
4 минуты
Ольга Иванова

Двумерный магнит, сконструированный учеными, может найти применение в вычислительной технике и электронике, а также новых инструментах для изучения квантовой механики.

19 июля
2 минуты
Илья Ведмеденко

Состоялись новые тесты перспективного гиперзвукового комплекса «Циркон». В качестве носителя выступил фрегат проекта 22350.

13 июля
5 минут
Ольга Иванова

Международная команда ученых идентифицировала ДНК из почвы в грузинской пещере. Благодаря этому исследователям удалось восстановить геном человека возрастом 25 тысяч лет, не имея никаких скелетных останков.

8 июля
7 минут
Василий Парфенов

Подросток из бельгийского города Остенде стал вторым самым юным обладателем высшего образования в обозримой истории. Он с отличием окончил курс физики в Антверпенском университете и теперь собирается защитить магистерскую степень, а затем и докторскую диссертацию в этой области. Цель у него простая и понятная: увеличение продолжительности жизни человека вплоть до полного бессмертия за счет замены частей тела и органов механическими или искусственными.

11 июля
28 минут
Александр Березин

Еще год назад почти все были уверены, что эпидемия быстро закончится. Ведь научные исследования говорили: иммунитет переболевших очень сильный, а повторные заболевания крайне редки. Российские власти все еще верят в это: глава Роспотребнадзора Анна Попова утверждает, будто повторно болеет только 1%. От этого в России до сих пор ждут достижения «группового иммунитета» осенью — и, разумеется, снятия ковидных ограничений. К сожалению, это пустые надежды. Данные из других стран вообще не показывают реальной возможности достичь группового иммунитета за счет переболевших. Разбираемся в деталях.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: