Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей — Naked Science
5 минут
Редакция

Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей

Известно, что некоторые системы распознавания лиц испытывают трудности с идентификацией людей с темной кожей. Теперь многие системы искусственного интеллекта, разработанные для того, чтобы беспилотные автомобили лучше ориентировались на дорогах, столкнулись с той же проблемой.

fordvttiresearch04hr-copy
©Wikipedia

Этот факт может поставить под угрозу жизнь и безопасность пешеходов с более темной кожей, став тревожным признаком того, как ИИ способен непреднамеренно воспроизводить предрассудки из мира людей.

 

В новой статье, которая доступна на сайте arXiv.org, сотрудники Технологического института Джорджии (США) исследуют восемь моделей искусственного интеллекта, используемых в современных системах обнаружения объектов, каждая из которых обучалась по стандартному набору данных. Эти системы позволяют автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты. Специалисты протестировали модели с использованием изображений пешеходов, разделенных на две категории на основе их оценок по шкале Фитцпатрика — числовая шкала, обычно использующаяся для классификации цвета кожи человека, согласно которой существует шесть фототипов кожи (где I — самый светлый, VI — самый темный).

 

Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами с тремя самыми темными оттенками кожи. В среднем точность моделей снизилась на пять процентов при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи, даже когда исследователи учитывали такие переменные, как, например, время суток, когда была сделана фотография, или объекты, которые заслоняли пешехода.

 

Cистема, позволяющая автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты / © Benjamin Wilson

 

Исследования, проведенные командой Georgia Tech, показывают, что при отсутствии адекватных мер, мы можем быть на пути к будущему, в котором мир с автономными автомобилями не так безопасен для людей с темным цветом кожи. Кроме того, алгоритм основывается только на тех данных, что присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет. К сожалению, отмечают ученые, зачастую в подобных базах встречается больше светлокожих людей, чем темнокожих. На основе своей работы специалисты смогли определить шаги, необходимые для предотвращения подобных сценариев. По словам ученых, нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и повышать точность показателей определения этих изображений системами ИИ.

 

В прошлом году сотрудники MIT и Стэнфордского университета обнаружили некоторые неточности в работе нейросетей. Тогда они выяснили, что системы, обрабатывающие данные с помощью ИИ, часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее: при идентификации женщин тестируемая специалистами программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом, 34,7% — с VI типом. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 15:12
2 минуты
Илья Ведмеденко

В Калифорнии нашелся новый объект, похожий на монолит из «Космической одиссеи». Ранее нечто похожее обнаружили в штате Юта и на территории Румынии.

Позавчера, 18:44
9 минут
Мария Азарова

Российские граждане сами решат, хотят ли они ставить прививку: власти заверяют, что вакцинация будет добровольной и, кроме того, бесплатной.

Вчера, 20:27
4 минуты
Илья Ведмеденко

Китайская автоматическая станция успешно стартовала с лунной поверхности, выполнив свою главную задачу — сбор образцов грунта.

30 ноября
7 минут
Василий Парфенов

История с загадочным артефактом в американском штате Юта становится все запутаннее. Мало того, что, вопреки всем предосторожностям властей, «монолит» нашли любопытные граждане, так его еще украли. А недавно стало известно об аналогичной находке в Европе — на территории археологического памятника в Пятра-Нямце, Румыния.

Вчера, 15:12
2 минуты
Илья Ведмеденко

В Калифорнии нашелся новый объект, похожий на монолит из «Космической одиссеи». Ранее нечто похожее обнаружили в штате Юта и на территории Румынии.

30 ноября
5 минут
Василий Парфенов

Пилотируемый глубоководный аппарат «Фэньдоучжэ» опустился на глубину 10 909 метров в Марианскую впадину. Во время этого погружения впервые осуществлялась прямая трансляция фото и видео на поверхность.

14 ноября
35 минут
Василий Парфенов

На вопрос, кто проживает на дне океана, люди отвечают по-разному. Дети и некоторые взрослые скажут: Губка Боб Квадратные Штаны. Фанаты Лавкрафта благоговейно, но с огоньком в глазах пробормочут нечто вроде «Ктулху фхтагн». А подводники и океанологи задумчиво посмотрят на вопрошающего и, если повезет, расскажут много интересного. Про квакеров, «биоуток», «блуп» и еще Посейдон его знает какие аномальные явления подводного мира.

22 ноября
24 минуты
Александр Березин

Планеты вокруг нашего Солнца расположены совсем не так, как в других системах. И это имеет крайне необычные практические последствия: расчеты показывают, что вокруг нашей звезды должны вращаться две потенциально обитаемые планеты, а не одна, как сейчас. Одна из них куда-то бесследно исчезла – и это еще в лучшем случае. Рассказываем, почему так получилось и кто конкретно в этом виноват.

24 ноября
8 минут
Мария Азарова

Попадание патогена в эпителий слизистой дыхательных путей и захват вирусом бокаловидных клеток приводит к нарушению слизистого барьера. Из-за уменьшения количества муцина снижается не только обонятельная чувствительность, но и возникают неприятные ощущения в носу и рту, в том числе сухость.

[miniorange_social_login]

Комментарии

Написать комментарий
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: