Эксперты о квантовых компьютерах
Подробнее
06.03.2019
Редакция Naked Science

Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей

Известно, что некоторые системы распознавания лиц испытывают трудности с идентификацией людей с темной кожей. Теперь многие системы искусственного интеллекта, разработанные для того, чтобы беспилотные автомобили лучше ориентировались на дорогах, столкнулись с той же проблемой.

fordvttiresearch04hr-copy
©Wikipedia

Этот факт может поставить под угрозу жизнь и безопасность пешеходов с более темной кожей, став тревожным признаком того, как ИИ способен непреднамеренно воспроизводить предрассудки из мира людей.

 

В новой статье, которая доступна на сайте arXiv.org, сотрудники Технологического института Джорджии (США) исследуют восемь моделей искусственного интеллекта, используемых в современных системах обнаружения объектов, каждая из которых обучалась по стандартному набору данных. Эти системы позволяют автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты. Специалисты протестировали модели с использованием изображений пешеходов, разделенных на две категории на основе их оценок по шкале Фитцпатрика — числовая шкала, обычно использующаяся для классификации цвета кожи человека, согласно которой существует шесть фототипов кожи (где I — самый светлый, VI — самый темный).

 

Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами с тремя самыми темными оттенками кожи. В среднем точность моделей снизилась на пять процентов при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи, даже когда исследователи учитывали такие переменные, как, например, время суток, когда была сделана фотография, или объекты, которые заслоняли пешехода.

 

Cистема, позволяющая автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты / © Benjamin Wilson

 

Исследования, проведенные командой Georgia Tech, показывают, что при отсутствии адекватных мер, мы можем быть на пути к будущему, в котором мир с автономными автомобилями не так безопасен для людей с темным цветом кожи. Кроме того, алгоритм основывается только на тех данных, что присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет. К сожалению, отмечают ученые, зачастую в подобных базах встречается больше светлокожих людей, чем темнокожих. На основе своей работы специалисты смогли определить шаги, необходимые для предотвращения подобных сценариев. По словам ученых, нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и повышать точность показателей определения этих изображений системами ИИ.

 

В прошлом году сотрудники MIT и Стэнфордского университета обнаружили некоторые неточности в работе нейросетей. Тогда они выяснили, что системы, обрабатывающие данные с помощью ИИ, часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее: при идентификации женщин тестируемая специалистами программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом, 34,7% — с VI типом. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
6 часов назад
Мария Азарова

Все образцы продукции популярных ресторанов быстрого питания, протестированные американскими учеными, содержали один или несколько видов фталатов либо других пластификаторов.

Вчера, 05:30
Мария Азарова

Ученые из Швейцарии и Германии сделали неожиданный вывод: катехины зеленого чая не подавляют окислительный стресс, а способствуют ему. Однако на этом их действие не заканчивается.

Вчера, 17:42
Мария Осетрова

Смоделировав динамику перемещения песчаных дюн в лаборатории, ученые из Кембриджа определили, какие препятствия пропускают дюны сквозь себя, а какие, напротив, их останавливают.

25 октября
Мария Азарова

Американские исследователи оценили вероятность повторного заражения коронавирусами SARS-CoV, HCoV-229E, HCoV-OC43, HCoV-NL63 и особенно SARS-CoV- 2.

Вчера, 05:30
Мария Азарова

Ученые из Швейцарии и Германии сделали неожиданный вывод: катехины зеленого чая не подавляют окислительный стресс, а способствуют ему. Однако на этом их действие не заканчивается.

22 октября
Александр Березин

Повелители тундростепей Евразийского континента, оказывается, вовсе не вымерли с концом ледникового периода. Вопреки тому, что считалось ранее, они выжили — как минимум на Таймыре и как минимум до 1900 года до нашей эры. А это на много веков позже постройки пирамиды Хеопса. Получается, человек не привел мамонта к вымиранию? Или, напротив, нашел затерянные на Таймыре остатки вида и уничтожил их совсем недавно? Это сложный вопрос, от которого зависит ответ на другой: могут ли слоны заселить Север России и в наши дни?

13 октября
Мария Азарова

Анализ образцов крови, взятых у российских космонавтов до и после их полета на МКС, показал, что длительное пребывание в космосе может провоцировать повреждение мозга.

12 октября
Алиса Гаджиева

Две тысячи лет назад многие сооружения строили лучше, чем сегодня.

18 октября
Елена Синицкая

На днях израильский ныряльщик обнаружил на дне Средиземного моря у Хоф-ха-Кармель древние предметы, среди которых оказался меч удивительной сохранности. По мнению специалистов Израильского управления древностей, железный меч с клинком около одного метра и 30-сантиметровой рукоятью принадлежал крестоносцу и датируется XII веком.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: