07.09.2018
Редакция Naked Science
1

ИИ может самостоятельно развить предрассудки

Новое исследование показало, что проявление предубеждений по отношению к другим не требует особых интеллектуальных способностей и может запросто развиться у машин с искусственным интеллектом.

c4ce4d6c0a11dfda6a862d9a5aea2e551
©Wikipedia

Специалисты по психологии и информационным технологиям из Кардиффского университета и Массачусетского технологического института показали, что группы автономных машин могут проявлять предубеждения посредством простого определения такого поведения, его копирования и взаимного обучения ему.

 

Может показаться, что предубеждение — исключительно человеческий феномен, требующий человеческого интеллекта для формирования мнения или стереотипов о какой-либо личности или группе. Несмотря на то что некоторые типы компьютерных алгоритмов уже проявляли такие предубеждения, как расизм и сексизм, основанные на изучении публичных записей и других данных, сгенерированных людьми, новая работа демонстрирует способности ИИ к самостоятельному развитию групп с предубеждениями.

 

Исследование опубликовано в журнале Scientific Reports. Оно основано на компьютерных симуляциях того, как предвзятые виртуальные агенты могут формировать группы и взаимодействовать друг с другом. В процессе симуляции каждый индивид принимает решение, помочь ли кому-то из своей группы или из другой, в зависимости от репутации того индивида, а также собственной стратегии, включающей в себя их уровни предубеждений по отношению к посторонним. После проведения тысяч симуляций каждый индивид обучается новым стратегиям, копируя других — будь то представители своей группы или всего «населения».

 

Относительная кумулятивная частота характеристик агентов по уровню предубеждений / © Roger M. Whitaker

 

«С проведением этих симуляций тысячи и тысячи раз подряд  мы начали понимать, как развивается предубеждение и какие нужны условия для его культивации или предотвращения, — говорит соавтор исследования профессор Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета. — Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных населениях, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять».

 

Данные исследования также включают в себя индивидов, повышающих уровни своего предубеждения предпочтительным копированием тех, кто получает лучшие краткосрочные результаты, что, в свою очередь, означает, что такие решения не требуют обязательного наличия особых способностей.

«Вполне правдоподобно, что автономные машины, способные идентифицировать себя с дискриминацией и копировать других, в будущем могут быть восприимчивыми к феноменам предубеждения, которые мы видим в обществе, — продолжает профессор Уитакер. — Многие ИИ-разработки, которые мы наблюдаем сегодня, включают в себя автономность и самоуправление, то есть на поведение приборов также влияют те, кто их окружает. Из недавних примеров можно вспомнить транспорт и интернет вещей. Наше исследование предоставляет теоретическое понимание того, где симулированные агенты периодически обращаются к другим для получения каких-то ресурсов».

 

Также исследователи обнаружили, что при определенных условиях, включающих в себя наличие более разделенных субпопуляций одного общества, предубеждению сложнее укрепиться.

 

«С большим числом субпопуляций союзы непредвзятых групп могут сотрудничать без того, чтобы быть эксплуатируемыми. Это также убавляет их статус меньшинства, в то же время уменьшая их восприимчивость к установлению предубеждений. Однако это требует и обстоятельств, в которых агенты обладают более высоким расположением по отношению к взаимодействиям вне своей группы», — заключил профессор Уитакер.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
25 ноября
ФизТех

Ученые Центра исследований молекулярных механизмов старения и возрастных заболеваний МФТИ в сотрудничестве с коллегами из Института биоорганической химии имени академиков М. М. Шемякина и Ю. А. Овчинникова РАН и Исследовательским центром города Юлиха провели экспериментальное исследование перспективного лекарственного средства от нейродегенерации.

25 ноября
Илья Ведмеденко

Российские инженеры спроектировали самолет для межконтинентальных полетов в стратосфере. Его можно назвать условным аналогом британского Skylon.

25 ноября
Сергей Васильев

Микрофлора питающихся мясом пчел оказалась ближе к микрофлоре животных-падальщиков, чем к симбиотическим бактериям других пчел.

22 ноября
Ольга Иванова

Ученые нашли доказательства эволюционных изменений европейцев за последние две-три тысячи лет. Они обнаружили три признака у жителей Европы, на которые действует постоянное давление естественного отбора.

22 ноября
Илья Ведмеденко

Грузовое безэкипажное судно Yara Birkeland выполнило свой первый рейс. Начать использовать контейнеровоз для коммерческих целей хотят в следующем году.

21 ноября
Оксана Шолохова

Ученые выделили молекулу запаха, который пробуждает агрессию у женщин и подавляет ее у мужчин.

3 ноября
Ольга Иванова

Исследований на эту тему, как ни странно, мало, хотя предположений — великое множество. По мнению ученых из Венгрии, одна из причин такого поведения — высокая концентрация внимания на речи хозяина, а еще это означает, что собака слышит знакомое слово.

28 октября
Мария Азарова

Все образцы продукции популярных ресторанов быстрого питания, протестированные американскими учеными, содержали один или несколько видов фталатов либо других пластификаторов.

12 ноября
Мария Азарова

Кошки оказывались сбиты с толку, когда их человек, как им казалось, «телепортировался» в новое, неожиданное место. Однако они не реагировали таким же образом на чужих людей или других животных.

[miniorange_social_login]

Комментарии

1 Комментарий

10.09.2018
-
0
+
Машины просто не подозревают о наличии всяческих измов которые в изобилии напридумывало человечество. Да и где им если и люди порой не знают как не вляпаться в очередное оскорбление чувств верующих разжигание или харрасмент. Тем более что любое слово или действие может быть истолковано. Людьми заинтересованными или просто больными на всю голову.
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: