Американцы уличат нейросети в дискриминации — Naked Science
3 минуты
Редакция

Американцы уличат нейросети в дискриминации

Американские ученые разработали тест, позволяющий выявить случаи дискриминации со стороны искусственных нейросетей. Об этом пишет The Guardian.

145306830634784
©Wikipedia

С развитием искусственных нейросетей растет интерес к их ограничениям. Опытные образцы таких алгоритмов часто обучаются распознаванию речи и лиц; подобные, но менее «интеллектуальные», системы уже применяются для автоматизации рутинных процессов, например в банковской сфере. При этом способов проверить адекватность решений, которые приняты машиной в этом случае, до сих пор не существовало — этому мешает высокая сложность процессов.

 

Чтобы восполнить пробел, специалисты из Google и Чикагского университета предложили использовать принцип равных возможностей в обучении с привлечением учителя (Equality of Opportunity in Supervised Learning). Он заключается в том, что ученые анализируют входящие и исходящие данные и сопоставляют их. С помощью статистики они оценивают вероятность того или иного решения и делают вывод о «мотивах» искусственной нейросети.

 

В качестве иллюстрации авторы привели пример с обработкой заявлений о выдаче кредитов. При условии, что алгоритм обучался на данных, согласно которым мужчины в среднем чаще имеют задолженность по выплатам, в дальнейшем он может отказывать некоторым клиентам (мужчинам) только на основании половой принадлежности. Такие проявления дискриминации могут быть предсказаны и скорректированы — за счет ввода дополнительных данных.

 

Технологией заинтересовалось Бюро по финансовой защите потребителей (CFPB) США: предполагается, что она может применяться для оценки деятельности банков. Тем не менее, новый подход вызвал и критику: так, вмешательство в работу алгоритмов повлечет за собой раскрытие информации, которая использовалась для их обучения. В результате обнародованию, например, будет подлежать статистика преступлений, связанная с расовой принадлежностью.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Позавчера, 09:47
4 минуты
Сергей Васильев

Потеряв в схватке с крупным хищником почти всю заднюю часть тела и глаз, трилобиту удалось выжить и даже частично восстановиться.

Позавчера, 14:11
5 минут
Илья Ведмеденко

По информации СМИ, модуль «Наука» столкнулся с техническими проблемами. Они могут существенно осложнить стыковку с Международной космической станцией.

Сегодня, 10:07
6 минут
Сергей Васильев

Первые сейсмические данные о внутренней структуре Красной планеты показали ее удивительно толстую кору и большое расплавленное ядро.

21 июля
22 минуты
Александр Березин

Существующие континенты движутся к слиянию в один — это лишь вопрос времени, считают большинство исследователей. Группа ученых решила выяснить, что будет с обитаемостью Земли после того, как это слияние завершится. Как оказалось, температура на планете существенно вырастет при любом исходе. Но в случае формирования одного из двух возможных суперконтинентов на суше станет намного холоднее. Если возникнет второй суперконтинент, доля обитаемой твердой поверхности, напротив, возрастет. Почему так получается и что из этого следует?

21 июля
4 минуты
Сергей Васильев

До сих пор было неизвестно, могут ли плоды передавать сигналы материнскому растению, но опыты, поставленные на томатах, показали, что это действительно происходит.

18 июля
5 минут
Илья Ведмеденко

Представлены первые фотографии перспективного российского боевого самолета, премьера которого состоится на грядущем авиасалоне МАКС. Ранее мы уже могли видеть новую машину, однако ее скрывал защитный чехол.

13 июля
5 минут
Ольга Иванова

Международная команда ученых идентифицировала ДНК из почвы в грузинской пещере. Благодаря этому исследователям удалось восстановить геном человека возрастом 25 тысяч лет, не имея никаких скелетных останков.

8 июля
7 минут
Василий Парфенов

Подросток из бельгийского города Остенде стал вторым самым юным обладателем высшего образования в обозримой истории. Он с отличием окончил курс физики в Антверпенском университете и теперь собирается защитить магистерскую степень, а затем и докторскую диссертацию в этой области. Цель у него простая и понятная: увеличение продолжительности жизни человека вплоть до полного бессмертия за счет замены частей тела и органов механическими или искусственными.

11 июля
28 минут
Александр Березин

Еще год назад почти все были уверены, что эпидемия быстро закончится. Ведь научные исследования говорили: иммунитет переболевших очень сильный, а повторные заболевания крайне редки. Российские власти все еще верят в это: глава Роспотребнадзора Анна Попова утверждает, будто повторно болеет только 1%. От этого в России до сих пор ждут достижения «группового иммунитета» осенью — и, разумеется, снятия ковидных ограничений. К сожалению, это пустые надежды. Данные из других стран вообще не показывают реальной возможности достичь группового иммунитета за счет переболевших. Разбираемся в деталях.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: