Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей — Naked Science
5 минут
Редакция

Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей

Известно, что некоторые системы распознавания лиц испытывают трудности с идентификацией людей с темной кожей. Теперь многие системы искусственного интеллекта, разработанные для того, чтобы беспилотные автомобили лучше ориентировались на дорогах, столкнулись с той же проблемой.

fordvttiresearch04hr-copy
©Wikipedia

Этот факт может поставить под угрозу жизнь и безопасность пешеходов с более темной кожей, став тревожным признаком того, как ИИ способен непреднамеренно воспроизводить предрассудки из мира людей.

 

В новой статье, которая доступна на сайте arXiv.org, сотрудники Технологического института Джорджии (США) исследуют восемь моделей искусственного интеллекта, используемых в современных системах обнаружения объектов, каждая из которых обучалась по стандартному набору данных. Эти системы позволяют автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты. Специалисты протестировали модели с использованием изображений пешеходов, разделенных на две категории на основе их оценок по шкале Фитцпатрика — числовая шкала, обычно использующаяся для классификации цвета кожи человека, согласно которой существует шесть фототипов кожи (где I — самый светлый, VI — самый темный).

 

Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами с тремя самыми темными оттенками кожи. В среднем точность моделей снизилась на пять процентов при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи, даже когда исследователи учитывали такие переменные, как, например, время суток, когда была сделана фотография, или объекты, которые заслоняли пешехода.

 

Cистема, позволяющая автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты / © Benjamin Wilson

 

Исследования, проведенные командой Georgia Tech, показывают, что при отсутствии адекватных мер, мы можем быть на пути к будущему, в котором мир с автономными автомобилями не так безопасен для людей с темным цветом кожи. Кроме того, алгоритм основывается только на тех данных, что присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет. К сожалению, отмечают ученые, зачастую в подобных базах встречается больше светлокожих людей, чем темнокожих. На основе своей работы специалисты смогли определить шаги, необходимые для предотвращения подобных сценариев. По словам ученых, нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и повышать точность показателей определения этих изображений системами ИИ.

 

В прошлом году сотрудники MIT и Стэнфордского университета обнаружили некоторые неточности в работе нейросетей. Тогда они выяснили, что системы, обрабатывающие данные с помощью ИИ, часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее: при идентификации женщин тестируемая специалистами программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом, 34,7% — с VI типом. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 17:59
6 минут
Мария Азарова

Благодаря детским костям, покоившимся на протяжении более чем 78 тысяч лет в одной из пещер Кении, ученым удалось наконец узнать, как обращались с телами умерших в Африке.

Сегодня, 05:00
9 минут
ТГУ

Ученые Биологического института Томского государственного университета совместно с коллегами из СибГМУ исследуют зараженность животных и людей в Сибири описторхозом. Основная задача – выяснить, какие звенья играют главную роль в распространении заболевания, чтобы на основе этих данных разработать способы мониторинга и профилактики. Некоторые аспекты проблемы уже удалось понять.

Вчера, 21:01
5 минут
Илья Ведмеденко

Американцы потерпели неудачу во время испытательного запуска межконтинентальной баллистической ракеты Minuteman III. Причину только предстоит выяснить.

1 мая
37 минут
Александр Березин

Бразильское агентство по наблюдению за здоровьем граждан (ANVISA) заявило, что нашло в вакцине «Спутник-V» некий живой вирус. Что оно имеет в виду и почему более авторитетные западные игроки не выявили подобных причин для беспокойства? Есть и другие поводы для обеспокоенных вопросов. Обе массовые западные аденовирусные вакцины от Covid-19 вызывают необычные тромбы, которые уже имели смертельные исходы. Правы ли те, кто ожидает таких же побочных эффектов от «Спутника», и почему их в этом случае еще ни разу не смогли найти?

2 мая
62 минуты
Николай Цыгикало

Знаменитый ракетный комплекс «Искандер» стал одним из символов российской военной мощи. Он не покидает центра внимания экспертов и средств массовой информации, а его тактико-технические характеристики приводятся в каждом информационном ресурсе военной тематики. Но цифры цифрами, а что за ними? Посмотрим на работу «Искандера» с разных сторон, чтобы разобраться в принципах действия и логике конструктивных решений. Тогда глубина понимания позволит пройти дальше одних лишь цифр ТТХ, и при всей важности они окажутся не на первом месте. Наш материал — самый полный рассказ о работе «Искандера» в открытом доступе.

Позавчера, 15:24
4 минуты
Ольга Иванова

Ученые из Финляндии определили причины того, почему «собака бывает кусачей» по отношению к человеку и другим животным.

23 апреля
11 минут
Василий Парфенов

Действующий глава NASA в рамках общения с прессой ответил на ряд вопросов, касающихся недавних заявлений российских политиков и главы «Роскосмоса» о скором отказе от собственного сегмента МКС. Администратор заверил всех, что агентство находится в хороших отношениях с Россией, а также поделился информацией о согласовании обмена местами для астронавтов и космонавтов в пилотируемых миссиях двух стран.

16 апреля
4 минуты
Илья Ведмеденко

Исследователи установили, что обнаруженный в Баренцевом море объект — погибшая советская субмарина типа «Крейсерская». Это одна из самых больших подлодок СССР периода Второй мировой.

8 апреля
13 минут
Мария Азарова

Когда знаменитый епископ Лунда Педер Винструп умер, его похоронили в семейном склепе в Лундском соборе вместе с женой. После реставрации собора в XIX веке гробы перенесли в общее хранилище, а в 2012 году ученые решили исследовать мумифицированные останки. Неожиданно в ногах Винструпа обнаружили небольшой кулек — завернутое в ткань тело недоношенного ребенка. Это открытие вызвало резонный вопрос: как эмбрион попал в гроб к епископу и имели ли они родственную связь?

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: