• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
19.12.2016
Редакция Naked Science
263

Американцы уличат нейросети в дискриминации

Американские ученые разработали тест, позволяющий выявить случаи дискриминации со стороны искусственных нейросетей. Об этом пишет The Guardian.

145306830634784
©Wikipedia

С развитием искусственных нейросетей растет интерес к их ограничениям. Опытные образцы таких алгоритмов часто обучаются распознаванию речи и лиц; подобные, но менее «интеллектуальные», системы уже применяются для автоматизации рутинных процессов, например в банковской сфере. При этом способов проверить адекватность решений, которые приняты машиной в этом случае, до сих пор не существовало — этому мешает высокая сложность процессов.

 

Чтобы восполнить пробел, специалисты из Google и Чикагского университета предложили использовать принцип равных возможностей в обучении с привлечением учителя (Equality of Opportunity in Supervised Learning). Он заключается в том, что ученые анализируют входящие и исходящие данные и сопоставляют их. С помощью статистики они оценивают вероятность того или иного решения и делают вывод о «мотивах» искусственной нейросети.

 

В качестве иллюстрации авторы привели пример с обработкой заявлений о выдаче кредитов. При условии, что алгоритм обучался на данных, согласно которым мужчины в среднем чаще имеют задолженность по выплатам, в дальнейшем он может отказывать некоторым клиентам (мужчинам) только на основании половой принадлежности. Такие проявления дискриминации могут быть предсказаны и скорректированы — за счет ввода дополнительных данных.

 

Технологией заинтересовалось Бюро по финансовой защите потребителей (CFPB) США: предполагается, что она может применяться для оценки деятельности банков. Тем не менее, новый подход вызвал и критику: так, вмешательство в работу алгоритмов повлечет за собой раскрытие информации, которая использовалась для их обучения. В результате обнародованию, например, будет подлежать статистика преступлений, связанная с расовой принадлежностью.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
Позавчера, 12:36
НИУ ВШЭ

В рамках международного проекта при участии Роскосмоса и Европейского космического агентства ученые впервые проанализировали данные, полученные с помощью диффузионной магнитно-резонансной томографии с трактографией головного мозга космонавтов. Исследователи увидели существенные изменения в связях между различными отделами головного мозга, причем некоторые изменения сохранялись даже спустя семь месяцев после возвращения на Землю.

Позавчера, 21:09
Дарья Губина

Компьютерная модель древней вулканической активности спутника показала, как выброшенная вода тысячелетиями оседала инеем на поверхность, формируя многометровые слои льда под полюсами.

Вчера, 18:44
Мария Азарова

Женщины, обнимавшие возлюбленного до того, как испытали стресс, показали сниженную реакцию гормона кортизола — по сравнению с контрольной группой, которую заставили засовывать руку в ледяную воду без каких-либо прелюдий с партнерами.

14 мая
Василий Парфенов

Космическую компанию Илона Маска в шутку иногда называют пиротехнической — так часто ее изделия взрываются во время испытаний. Пара свежих инцидентов на тестовом полигоне в городе Макгрегор лишь подтверждают эту славу. Не успели фанаты космонавтики наладить онлайн-трансляцию из этой локации, как запечатлели сразу два взрыва подряд с промежутком всего в десятки часов.

Позавчера, 12:36
НИУ ВШЭ

В рамках международного проекта при участии Роскосмоса и Европейского космического агентства ученые впервые проанализировали данные, полученные с помощью диффузионной магнитно-резонансной томографии с трактографией головного мозга космонавтов. Исследователи увидели существенные изменения в связях между различными отделами головного мозга, причем некоторые изменения сохранялись даже спустя семь месяцев после возвращения на Землю.

17 мая
Ольга Иванова

Исследование ученых из Германии и США показало, что принятие определенных поз помогает справиться с чувством неуверенности.

21 апреля
Александр Березин

Местные чиновники пытаются переложить ответственность за случившееся на резкое уменьшение турпотока из-за коронавируса, но цифры показывают, что ключевая проблема совсем в другом. В 2019 году на выборах в этой стране победил президент — сторонник модных зеленых идей. Вскоре там запретили продажу минеральных удобрений и двинулись к «устойчивому сельскому хозяйству». Как именно популярные «органические» идеи повлияли на еще не так давно быстро растущую местную экономику? И почему уроки шри-ланкийской трагедии могут пригодиться даже Западу и России?

26 апреля
Василий Парфенов

Крупнейшие патентные ведомства мира десятилетиями или веками принципиально игнорируют любые конструкции, нарушающие начала термодинамики. С точки зрения здравого смысла это хорошо, но конспирологи и гении-самоучки считают иначе. По их мнению, такая политика стала результатом заговора (подставьте сюда любое вымышленное или не очень секретное общество либо лобби). Что ж, похоже, Роспатент встал на их сторону.

27 апреля
Александра Медведева

С помощью GPS-трекинга ученые проследили за перемещениями целой популяции домашних кошек в небольшом норвежском городке. Оказалось, питомцы редко уходят от дома далее 50 метров и почти не совершают длительных прогулок.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: