Американцы уличат нейросети в дискриминации
Американские ученые разработали тест, позволяющий выявить случаи дискриминации со стороны искусственных нейросетей. Об этом пишет The Guardian.
С развитием искусственных нейросетей растет интерес к их ограничениям. Опытные образцы таких алгоритмов часто обучаются распознаванию речи и лиц; подобные, но менее «интеллектуальные», системы уже применяются для автоматизации рутинных процессов, например в банковской сфере. При этом способов проверить адекватность решений, которые приняты машиной в этом случае, до сих пор не существовало — этому мешает высокая сложность процессов.
Чтобы восполнить пробел, специалисты из Google и Чикагского университета предложили использовать принцип равных возможностей в обучении с привлечением учителя (Equality of Opportunity in Supervised Learning). Он заключается в том, что ученые анализируют входящие и исходящие данные и сопоставляют их. С помощью статистики они оценивают вероятность того или иного решения и делают вывод о «мотивах» искусственной нейросети.
В качестве иллюстрации авторы привели пример с обработкой заявлений о выдаче кредитов. При условии, что алгоритм обучался на данных, согласно которым мужчины в среднем чаще имеют задолженность по выплатам, в дальнейшем он может отказывать некоторым клиентам (мужчинам) только на основании половой принадлежности. Такие проявления дискриминации могут быть предсказаны и скорректированы — за счет ввода дополнительных данных.
Технологией заинтересовалось Бюро по финансовой защите потребителей (CFPB) США: предполагается, что она может применяться для оценки деятельности банков. Тем не менее, новый подход вызвал и критику: так, вмешательство в работу алгоритмов повлечет за собой раскрытие информации, которая использовалась для их обучения. В результате обнародованию, например, будет подлежать статистика преступлений, связанная с расовой принадлежностью.
Telegram 
Дзен 
VK Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.
Во время раскопок в римском лагере в Йорке (Англия) нашли стеклянную колбу, поразительно напоминающую древнеегипетские флаконы для кохля — традиционную черную подводку для глаз. Не исключено, что это средство макияжа пользовалось популярностью и у римских солдат.
В популярной литературе сверхмассивные черные дыры чаще всего представляют как разрушители звезд и планет. Авторы новой работы попробовали рассчитать, что на самом деле происходит в окрестностях таких объектов и пришли к противоположному выводу.
Вначале Reuters опубликовал статью о взаимоотношениях SpaceX и Пентагона, которую миллиардер --- традиционно для его отношений с этим изданием — назвал фейком. Опровергая ее тезисы, он обнародовал информацию, не представленную ранее публично.
Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.
Провинция Цзянсу была процветающим центром медицинской практики в Китае во времена династии Мин (1368-1644 годы нашей эры). Микроскопический анализ крошечных частиц на поверхности хирургических ножниц и пинцета из гробницы китайского врача помог выявить следы вещества, получаемого из ядовитого растения, которое, по мнению исследователей, применялось как местная анестезия во время операций.
В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.
В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.
При совпадении нескольких условий наши глаза способны улавливать излучение в ближнем инфракрасном спектре. Тогда сетчатка начинает работать как нелинейный фотодетектор.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии