ИИ может самостоятельно развить предрассудки — Naked Science
7 минут
Редакция
1

ИИ может самостоятельно развить предрассудки

Новое исследование показало, что проявление предубеждений по отношению к другим не требует особых интеллектуальных способностей и может запросто развиться у машин с искусственным интеллектом.

c4ce4d6c0a11dfda6a862d9a5aea2e551
©Wikipedia

Специалисты по психологии и информационным технологиям из Кардиффского университета и Массачусетского технологического института показали, что группы автономных машин могут проявлять предубеждения посредством простого определения такого поведения, его копирования и взаимного обучения ему.

 

Может показаться, что предубеждение — исключительно человеческий феномен, требующий человеческого интеллекта для формирования мнения или стереотипов о какой-либо личности или группе. Несмотря на то что некоторые типы компьютерных алгоритмов уже проявляли такие предубеждения, как расизм и сексизм, основанные на изучении публичных записей и других данных, сгенерированных людьми, новая работа демонстрирует способности ИИ к самостоятельному развитию групп с предубеждениями.

 

Исследование опубликовано в журнале Scientific Reports. Оно основано на компьютерных симуляциях того, как предвзятые виртуальные агенты могут формировать группы и взаимодействовать друг с другом. В процессе симуляции каждый индивид принимает решение, помочь ли кому-то из своей группы или из другой, в зависимости от репутации того индивида, а также собственной стратегии, включающей в себя их уровни предубеждений по отношению к посторонним. После проведения тысяч симуляций каждый индивид обучается новым стратегиям, копируя других — будь то представители своей группы или всего «населения».

 

Относительная кумулятивная частота характеристик агентов по уровню предубеждений / © Roger M. Whitaker

 

«С проведением этих симуляций тысячи и тысячи раз подряд  мы начали понимать, как развивается предубеждение и какие нужны условия для его культивации или предотвращения, — говорит соавтор исследования профессор Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета. — Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных населениях, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять».

 

Данные исследования также включают в себя индивидов, повышающих уровни своего предубеждения предпочтительным копированием тех, кто получает лучшие краткосрочные результаты, что, в свою очередь, означает, что такие решения не требуют обязательного наличия особых способностей.

«Вполне правдоподобно, что автономные машины, способные идентифицировать себя с дискриминацией и копировать других, в будущем могут быть восприимчивыми к феноменам предубеждения, которые мы видим в обществе, — продолжает профессор Уитакер. — Многие ИИ-разработки, которые мы наблюдаем сегодня, включают в себя автономность и самоуправление, то есть на поведение приборов также влияют те, кто их окружает. Из недавних примеров можно вспомнить транспорт и интернет вещей. Наше исследование предоставляет теоретическое понимание того, где симулированные агенты периодически обращаются к другим для получения каких-то ресурсов».

 

Также исследователи обнаружили, что при определенных условиях, включающих в себя наличие более разделенных субпопуляций одного общества, предубеждению сложнее укрепиться.

 

«С большим числом субпопуляций союзы непредвзятых групп могут сотрудничать без того, чтобы быть эксплуатируемыми. Это также убавляет их статус меньшинства, в то же время уменьшая их восприимчивость к установлению предубеждений. Однако это требует и обстоятельств, в которых агенты обладают более высоким расположением по отношению к взаимодействиям вне своей группы», — заключил профессор Уитакер.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 08:45
11 минут
Мария Азарова

Американские ученые показали, что РНК коронавируса SARS-CoV-2 проходит через обратную транскрипцию, встраивается в геном инфицированной клетки и экспрессируется в виде «химерных» транскриптов, сливающихся с вирусными с клеточными последовательностями.

8 часов назад
8 минут
Мария Азарова

Блокирование рецептора, который помогает сохранять энергию в условиях голода, назвали ключом к более безопасным профилактике и лечению ожирения, вызванного неправильным образом жизни.

Вчера, 16:37
4 минуты
Ольга Иванова

Ученые из США выявили ряд подводных камней, связанных с повторным использованием мобильных номеров. Такие вещи могут нести в себе угрозу безопасности, связанную с захватом аккаунтов, фишинговыми и спам-атаками и даже препятствиями для регистрации в онлайн-сервисах.

Вчера, 08:45
11 минут
Мария Азарова

Американские ученые показали, что РНК коронавируса SARS-CoV-2 проходит через обратную транскрипцию, встраивается в геном инфицированной клетки и экспрессируется в виде «химерных» транскриптов, сливающихся с вирусными с клеточными последовательностями.

8 мая
37 минут
Александр Березин

Филипп Мандей основал целое направление исследований: он первым установил, что закисление океанов — последствие глобального потепления — угрожает обонянию и умению ориентироваться у морских рыб. Само собой, это создает угрозу их вымирания. Долго оставалось загадкой только одно: как существующие виды рыб перенесли серьезное закисление океана при прошлых изменениях климата. Теперь все проясняется: похоже, Мандей обнаружил эффект, которого никогда не было. Интересно, что вместе с ним его наблюдали еще 179 ученых — и теперь все они оказались в центре чудовищного скандала. Попробуем разобраться в деталях.

8 мая
13 минут
Александр Речкин

В учебниках истории XX века, на сотнях плакатах и в десятках кинофильмах о Второй мировой войне мы видели знаменитые танки, «катюши» и бороздящие небеса Ил-2. Давайте проверим, сможете ли вы отличить советскую военную технику от машин союзников и стран «оси».

16 апреля
4 минуты
Илья Ведмеденко

Исследователи установили, что обнаруженный в Баренцевом море объект — погибшая советская субмарина типа «Крейсерская». Это одна из самых больших подлодок СССР периода Второй мировой.

23 апреля
11 минут
Василий Парфенов

Действующий глава NASA в рамках общения с прессой ответил на ряд вопросов, касающихся недавних заявлений российских политиков и главы «Роскосмоса» о скором отказе от собственного сегмента МКС. Администратор заверил всех, что агентство находится в хороших отношениях с Россией, а также поделился информацией о согласовании обмена местами для астронавтов и космонавтов в пилотируемых миссиях двух стран.

25 апреля
17 минут
Александр Березин

На этой неделе СМИ выдали новость, от которой можно впасть в шок: «Ранее из России уезжало около 14 тысяч исследователей [в год], теперь — 70 тысяч». Мы внимательно разобрались в ситуации и вынуждены отметить, что ничего подобного не было и нет. В реальности речь вовсе не об ученых и даже не о высококвалифицированных специалистах. Проблемы с учеными в России есть. Но в этом случае речь идет не о них, а о том, что отдельные бывшие комсомольские вожаки, удачно устроившиеся в РАН, перепутали утечку мозгов из России с отъездом из нее гастарбайтеров. Разбираемся, как это у них получилось.

[miniorange_social_login]

Комментарии

1 Комментарий

10.09.2018
-
0
+
Машины просто не подозревают о наличии всяческих измов которые в изобилии напридумывало человечество. Да и где им если и люди порой не знают как не вляпаться в очередное оскорбление чувств верующих разжигание или харрасмент. Тем более что любое слово или действие может быть истолковано. Людьми заинтересованными или просто больными на всю голову.
Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: