Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей
06.03.2019
5 минут
Редакция
424

Проблемы с распознаванием лиц темнокожих могут привести к ДТП с участием беспилотных автомобилей

Известно, что некоторые системы распознавания лиц испытывают трудности с идентификацией людей с темной кожей. Теперь многие системы искусственного интеллекта, разработанные для того, чтобы беспилотные автомобили лучше ориентировались на дорогах, столкнулись с той же проблемой.

fordvttiresearch04hr-copy

Этот факт может поставить под угрозу жизнь и безопасность пешеходов с более темной кожей, став тревожным признаком того, как ИИ способен непреднамеренно воспроизводить предрассудки из мира людей.

 

В новой статье, которая доступна на сайте arXiv.org, сотрудники Технологического института Джорджии (США) исследуют восемь моделей искусственного интеллекта, используемых в современных системах обнаружения объектов, каждая из которых обучалась по стандартному набору данных. Эти системы позволяют автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты. Специалисты протестировали модели с использованием изображений пешеходов, разделенных на две категории на основе их оценок по шкале Фитцпатрика — числовая шкала, обычно использующаяся для классификации цвета кожи человека, согласно которой существует шесть фототипов кожи (где I — самый светлый, VI — самый темный).

 

Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами с тремя самыми темными оттенками кожи. В среднем точность моделей снизилась на пять процентов при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи, даже когда исследователи учитывали такие переменные, как, например, время суток, когда была сделана фотография, или объекты, которые заслоняли пешехода.

 

Cистема, позволяющая автономным транспортным средствам распознавать дорожные знаки, пешеходов и другие объекты / © Benjamin Wilson

 

Исследования, проведенные командой Georgia Tech, показывают, что при отсутствии адекватных мер, мы можем быть на пути к будущему, в котором мир с автономными автомобилями не так безопасен для людей с темным цветом кожи. Кроме того, алгоритм основывается только на тех данных, что присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет. К сожалению, отмечают ученые, зачастую в подобных базах встречается больше светлокожих людей, чем темнокожих. На основе своей работы специалисты смогли определить шаги, необходимые для предотвращения подобных сценариев. По словам ученых, нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и повышать точность показателей определения этих изображений системами ИИ.

 

В прошлом году сотрудники MIT и Стэнфордского университета обнаружили некоторые неточности в работе нейросетей. Тогда они выяснили, что системы, обрабатывающие данные с помощью ИИ, часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее: при идентификации женщин тестируемая специалистами программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом, 34,7% — с VI типом. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
26 февраля
4 минуты
Полина Гершберг

Ученые из Великобритании смогли разобраться, что происходит в первые мгновения после контакта двух капель воды, и показали этот процесс на видео.

26 февраля
8 минут
Мария Азарова

На фоне распространения Covid-19 за пределами Китая глава Всемирной организации здравоохранения заявил, что называть вспышку коронавируса, число зараженных которым приближается к 82 тысячам, пандемией все еще не рекомендуется, однако мир должен быть готовым к такому варианту развития событий.

26 февраля
5 минут
Сергей Васильев

Вопреки установившейся гипотезе, извержение супервулкана Тоба около 74 тысяч лет назад вряд ли стало катастрофой для молодого человечества.

26 февраля
4 минуты
Полина Гершберг

Ученые из Великобритании смогли разобраться, что происходит в первые мгновения после контакта двух капель воды, и показали этот процесс на видео.

25 февраля
52 минуты
Александр Березин

На днях парламент Эстонии принял резолюцию, где указал на «роль Советского Союза в качестве одного из основных зачинщиков Второй мировой войны». Ранее президент Украины Владимир Зеленский заявил, что СССР виновен в развязывании Второй мировой. До того ведущий польский политик Ярослав Качиньский поставил СССР и Германию на одну доску в вопросе ответственности за начало мировой войны. Бывший президент Украины Кравчук даже заявил, что 17 октября 1939 года Сталин и Гитлер встречались во Львове, что зафиксировано документально. Разберемся, так ли это.

24 февраля
4 минуты
Мария Азарова

Власти КНР сообщили, что повторные анализы 195 выздоровевших пациентов вновь показали наличие инфекции.

11 февраля
4 минуты
Сергей Васильев

Экспериментальные данные указали на виды физических нагрузок, которые стимулируют нейропластичность мозга.

12 февраля
36 минут
Александр Березин

Сегодняшние удары турецкой армии в Сирии производят несколько шокирующее впечатление, но только до тех пор, пока мы не обратимся к истории. Напомним: главу Турции не так давно пытались ликвидировать в заговоре, поддерживаемом ЦРУ. И только информация из России позволила ему в последний момент спастись. У Анкары нет ни одного настоящего союзника на Западе. Фактически у нее вообще один заметный союзник: Москва. В этой ситуации Эрдоган внезапно бьет по сирийцам — другому партнеру России. Что это? Новый «удар в спину», как по Су-24 в 2015 году? Или как по Севастополю в 1914 году? Лавры Османской империи не дают покоя и тянут турок к внешнеполитическому самоубийству? Попробуем с точки зрения истории разобраться, зачем Турция сегодня, как и сто лет назад, принимает столь странные решения — и почему, на самом деле, они логичны.

13 февраля
5 минут
Полина Гершберг

Олигосахарид под названием 2’-фукозиллактоза оказался критически важным для когнитивных способностей детей.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: