Американцы уличат нейросети в дискриминации — Naked Science
3 минуты
Редакция

Американцы уличат нейросети в дискриминации

Американские ученые разработали тест, позволяющий выявить случаи дискриминации со стороны искусственных нейросетей. Об этом пишет The Guardian.

145306830634784
©Wikipedia

С развитием искусственных нейросетей растет интерес к их ограничениям. Опытные образцы таких алгоритмов часто обучаются распознаванию речи и лиц; подобные, но менее «интеллектуальные», системы уже применяются для автоматизации рутинных процессов, например в банковской сфере. При этом способов проверить адекватность решений, которые приняты машиной в этом случае, до сих пор не существовало — этому мешает высокая сложность процессов.

 

Чтобы восполнить пробел, специалисты из Google и Чикагского университета предложили использовать принцип равных возможностей в обучении с привлечением учителя (Equality of Opportunity in Supervised Learning). Он заключается в том, что ученые анализируют входящие и исходящие данные и сопоставляют их. С помощью статистики они оценивают вероятность того или иного решения и делают вывод о «мотивах» искусственной нейросети.

 

В качестве иллюстрации авторы привели пример с обработкой заявлений о выдаче кредитов. При условии, что алгоритм обучался на данных, согласно которым мужчины в среднем чаще имеют задолженность по выплатам, в дальнейшем он может отказывать некоторым клиентам (мужчинам) только на основании половой принадлежности. Такие проявления дискриминации могут быть предсказаны и скорректированы — за счет ввода дополнительных данных.

 

Технологией заинтересовалось Бюро по финансовой защите потребителей (CFPB) США: предполагается, что она может применяться для оценки деятельности банков. Тем не менее, новый подход вызвал и критику: так, вмешательство в работу алгоритмов повлечет за собой раскрытие информации, которая использовалась для их обучения. В результате обнародованию, например, будет подлежать статистика преступлений, связанная с расовой принадлежностью.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
12 часов назад
5 минут
Илья Ведмеденко

Россия подняла в небо группу из шести военно-транспортных самолетов Ан-124-100. Такие тренировки позволяют отработать переброску на большие расстояния личного состава воинских подразделений.

Вчера, 17:27
9 минут
Василий Парфенов

Специалисты по информационной безопасности нашли пренеприятнейшую особенность ОС Windows 10. Ее штатный драйвер файловой системы NTFS при определенных условиях реагирует крайне деструктивным образом — критически повреждает главную файловую таблицу MFT. Вызвать такое его поведение можно огромным количеством способов: от создания подготовленной веб-страницы до отправки картинок, файлов и документов жертве.

Вчера, 08:30
5 минут
Василий Парфенов

Дело за малым: нужно подобраться к самому горизонту событий и сгенерировать магнитное поле, которое будет определенным образом пересекаться с магнитным полем черной дыры.

10 января
18 минут
Василий Парфенов

Похоже, что человечество совсем близко подошло к тому моменту, когда сможет выпрыгнуть из своей астрономической колыбели и начать экспансию в космосе. По крайней мере, это вполне возможно при современном уровне развития науки и техники. А первая полноценная внеземная колония может появиться в течение трех десятилетий, причем не на Луне или Марсе, а около карликовой планеты Цереры.

11 января
2 минуты
Илья Ведмеденко

Космическое ведомство США определилось с четырьмя научно-исследовательскими миссиями, которые планируют реализовать по программе Pioneers.

12 января
2 минуты
Илья Ведмеденко

Для российского ВМФ заказали две новые стратегические субмарины проекта «Борей-А». Эти лодки станут девятым и десятым кораблями проекта 955.

4 января
2 минуты
Илья Ведмеденко

В России приступили к летным испытаниям нового Ту-214. По имеющимся данным, речь идет о третьем и заключительном экземпляре Ту-214ПУ, изготовленном по контракту от 2017 года.

19.12.2020
38 минут
Александр Березин

За последние полвека люди в России (и не только) стали слабее на десятки процентов. Судя по всему, с такой же скоростью они теряют интерес к сексу и становятся уязвимее к ряду болезней. Речь идет не просто о снижении мужественности мужчин и все более слабых женщинах — перед нами прямая угроза здоровью обоих полов. Попробуем разобраться, что о ней известно.

23.12.2020
5 минут
Илья Ведмеденко

Российские инженеры создали опытный образец авиационного двигателя, предназначенного для стратегического бомбардировщика ПАК ДА.

[miniorange_social_login]

Комментарии

Написать комментарий
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: