19.12.2016
Редакция Naked Science

Американцы уличат нейросети в дискриминации

Американские ученые разработали тест, позволяющий выявить случаи дискриминации со стороны искусственных нейросетей. Об этом пишет The Guardian.

145306830634784
©Wikipedia

С развитием искусственных нейросетей растет интерес к их ограничениям. Опытные образцы таких алгоритмов часто обучаются распознаванию речи и лиц; подобные, но менее «интеллектуальные», системы уже применяются для автоматизации рутинных процессов, например в банковской сфере. При этом способов проверить адекватность решений, которые приняты машиной в этом случае, до сих пор не существовало — этому мешает высокая сложность процессов.

 

Чтобы восполнить пробел, специалисты из Google и Чикагского университета предложили использовать принцип равных возможностей в обучении с привлечением учителя (Equality of Opportunity in Supervised Learning). Он заключается в том, что ученые анализируют входящие и исходящие данные и сопоставляют их. С помощью статистики они оценивают вероятность того или иного решения и делают вывод о «мотивах» искусственной нейросети.

 

В качестве иллюстрации авторы привели пример с обработкой заявлений о выдаче кредитов. При условии, что алгоритм обучался на данных, согласно которым мужчины в среднем чаще имеют задолженность по выплатам, в дальнейшем он может отказывать некоторым клиентам (мужчинам) только на основании половой принадлежности. Такие проявления дискриминации могут быть предсказаны и скорректированы — за счет ввода дополнительных данных.

 

Технологией заинтересовалось Бюро по финансовой защите потребителей (CFPB) США: предполагается, что она может применяться для оценки деятельности банков. Тем не менее, новый подход вызвал и критику: так, вмешательство в работу алгоритмов повлечет за собой раскрытие информации, которая использовалась для их обучения. В результате обнародованию, например, будет подлежать статистика преступлений, связанная с расовой принадлежностью.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Позавчера, 11:56
Илья Ведмеденко

В КНР испытали монолитный твердотопливный ракетный двигатель, имеющий самую большую тягу в мире. Разработка изделия важна для создания ракет тяжелого класса.

Позавчера, 16:31
Мария Осетрова

Ученые из MIT выяснили, что наш мозг не оптимизирован для того, чтобы искать самый короткий маршрут. Вместо этого он выбирает путь, который точнее всего указывает на конечное направление.

Вчера, 11:03
Александр Березин

Новая работа в авторитетном научном журнале показала, что за восемь месяцев титр антител от мРНК-вакцин падает в десятки раз, а от векторной — на том же аденовирусе, что «Спутник-лайт» — почти не уменьшается вовсе. На сегодня ясно, что снижение уровня антител — главная причина падения защиты от Pfizer с 90% до 47% за полгода. Значит ли это, что страны, поставившие на аденовирусно-векторные вакцины, сделали лучший выбор? И за счет чего они могли опередить такую вроде бы революционную вакцинную платформу, как мРНК? Наконец: действительно ли «Спутник» может повысить риск заражения ВИЧ, как это утверждают медицинские власти ЮАР?

18 октября
Елена Синицкая

На днях израильский ныряльщик обнаружил на дне Средиземного моря у Хоф-ха-Кармель древние предметы, среди которых оказался меч удивительной сохранности. По мнению специалистов Израильского управления древностей, железный меч с клинком около одного метра и 30-сантиметровой рукоятью принадлежал крестоносцу и датируется XII веком.

Позавчера, 11:56
Илья Ведмеденко

В КНР испытали монолитный твердотопливный ракетный двигатель, имеющий самую большую тягу в мире. Разработка изделия важна для создания ракет тяжелого класса.

15 октября
Илья Ведмеденко

Компания General Dynamics Land Systems представила макет наземного робота TRX, который выступит носителем беспилотников-камикадзе. Помимо них, он получил квадрокоптер.

13 октября
Мария Азарова

Анализ образцов крови, взятых у российских космонавтов до и после их полета на МКС, показал, что длительное пребывание в космосе может провоцировать повреждение мозга.

12 октября
Алиса Гаджиева

Две тысячи лет назад многие сооружения строили лучше, чем сегодня.

27 сентября
Мария Азарова

Новое исследование генетиков из Германии и Италии, похоже, помогло найти ответ на вопрос, который занимал ученых свыше двух тысяч лет: откуда взялись этруски?

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: