• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
07.09.2018
Редакция Naked Science
1
1 808

ИИ может самостоятельно развить предрассудки

Новое исследование показало, что проявление предубеждений по отношению к другим не требует особых интеллектуальных способностей и может запросто развиться у машин с искусственным интеллектом.

c4ce4d6c0a11dfda6a862d9a5aea2e551
©Wikipedia

Специалисты по психологии и информационным технологиям из Кардиффского университета и Массачусетского технологического института показали, что группы автономных машин могут проявлять предубеждения посредством простого определения такого поведения, его копирования и взаимного обучения ему.

 

Может показаться, что предубеждение — исключительно человеческий феномен, требующий человеческого интеллекта для формирования мнения или стереотипов о какой-либо личности или группе. Несмотря на то что некоторые типы компьютерных алгоритмов уже проявляли такие предубеждения, как расизм и сексизм, основанные на изучении публичных записей и других данных, сгенерированных людьми, новая работа демонстрирует способности ИИ к самостоятельному развитию групп с предубеждениями.

 

Исследование опубликовано в журнале Scientific Reports. Оно основано на компьютерных симуляциях того, как предвзятые виртуальные агенты могут формировать группы и взаимодействовать друг с другом. В процессе симуляции каждый индивид принимает решение, помочь ли кому-то из своей группы или из другой, в зависимости от репутации того индивида, а также собственной стратегии, включающей в себя их уровни предубеждений по отношению к посторонним. После проведения тысяч симуляций каждый индивид обучается новым стратегиям, копируя других — будь то представители своей группы или всего «населения».

 

Относительная кумулятивная частота характеристик агентов по уровню предубеждений / © Roger M. Whitaker

 

«С проведением этих симуляций тысячи и тысячи раз подряд  мы начали понимать, как развивается предубеждение и какие нужны условия для его культивации или предотвращения, — говорит соавтор исследования профессор Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета. — Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных населениях, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять».

 

Данные исследования также включают в себя индивидов, повышающих уровни своего предубеждения предпочтительным копированием тех, кто получает лучшие краткосрочные результаты, что, в свою очередь, означает, что такие решения не требуют обязательного наличия особых способностей.

«Вполне правдоподобно, что автономные машины, способные идентифицировать себя с дискриминацией и копировать других, в будущем могут быть восприимчивыми к феноменам предубеждения, которые мы видим в обществе, — продолжает профессор Уитакер. — Многие ИИ-разработки, которые мы наблюдаем сегодня, включают в себя автономность и самоуправление, то есть на поведение приборов также влияют те, кто их окружает. Из недавних примеров можно вспомнить транспорт и интернет вещей. Наше исследование предоставляет теоретическое понимание того, где симулированные агенты периодически обращаются к другим для получения каких-то ресурсов».

 

Также исследователи обнаружили, что при определенных условиях, включающих в себя наличие более разделенных субпопуляций одного общества, предубеждению сложнее укрепиться.

 

«С большим числом субпопуляций союзы непредвзятых групп могут сотрудничать без того, чтобы быть эксплуатируемыми. Это также убавляет их статус меньшинства, в то же время уменьшая их восприимчивость к установлению предубеждений. Однако это требует и обстоятельств, в которых агенты обладают более высоким расположением по отношению к взаимодействиям вне своей группы», — заключил профессор Уитакер.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
Вчера, 15:39
Александр Березин

Судно Yara Eyde станет первым, плавающим только на этом виде топлива, что потребует существенных модификаций судового двигателя. Его токсичность настолько высока, что предельно допустимая концентрация подобного горючего в 15 раз ниже, чем у солярки, применяемой в контейнеровозах сегодня. Производитель решился на столь непростой шаг ради экологии.

Позавчера, 17:00
Василий Парфенов

На спутниковых снимках видны след от испытаний ракетного двигателя и внушительное поле обломков. Компания, вероятнее всего, использующая этот тестовый стенд, и ее материнская государственная корпорация никакой информацией об инциденте не поделились.

Позавчера, 14:16
Василий Парфенов

Работающие в ЦЕРН исследователи создали новый метод поиска частиц темной материи с помощью Большого адронного коллайдера. Его впервые применили минувшим летом, и результаты этой работы получились двоякими. С одной стороны, долгожданных частиц пока найти не удалось, с другой — теперь ученые знают, в каких диапазонах энергий вимпов, скорее всего, точно нет.

Вчера, 15:39
Александр Березин

Судно Yara Eyde станет первым, плавающим только на этом виде топлива, что потребует существенных модификаций судового двигателя. Его токсичность настолько высока, что предельно допустимая концентрация подобного горючего в 15 раз ниже, чем у солярки, применяемой в контейнеровозах сегодня. Производитель решился на столь непростой шаг ради экологии.

29 ноября
Ольга Иванова

Финские ученые узнали, что характер кошек и собак и в первую очередь их привязанность к хозяину формируются под влиянием невротичных проявлений человека.

28 ноября
Мария Азарова

Исследовательница пришла к выводу, что слова и словосочетания из популярнейшей и крупнейшей медиафраншизы «достигли высочайшего уровня интеграции» в язык — главным образом благодаря тому, что со временем стали независимыми от вселенной «Звездных войн».

15 ноября
Александр Березин

Парниковый эффект от американского природного газа, поставляемого в Старый Свет, неожиданно оказался выше, чем от сжигания местного угля. И намного выше, чем от российского газа.

10 ноября
Михаил Орлов

Известно всего несколько примеров злокачественных опухолей, которые ведут себя подобно инфекции — передаются другим организмам. Среди них — трансмиссивный рак двустворчатых моллюсков BTN. Авторы новой статьи описали географические и экологические аспекты распространения BTN среди мидий в Баренцевом море, оценили число больных моллюсков и узнали, как расселение «заразного рака» связано с Северным морским путем.

22 ноября
Игорь Байдов

Стало известно, почему при взрыве гремучего золота — взрывчатого вещества — появляется эффектный пурпурный дым. Эта тайна волновала умы ученых с XVI века.

[miniorange_social_login]

Комментарии

1 Комментарий

Ванечка
10.09.2018
-
0
+
Машины просто не подозревают о наличии всяческих измов которые в изобилии напридумывало человечество. Да и где им если и люди порой не знают как не вляпаться в очередное оскорбление чувств верующих разжигание или харрасмент. Тем более что любое слово или действие может быть истолковано. Людьми заинтересованными или просто больными на всю голову.
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: