Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
ИИ может самостоятельно развить предрассудки
Новое исследование показало, что проявление предубеждений по отношению к другим не требует особых интеллектуальных способностей и может запросто развиться у машин с искусственным интеллектом.
Специалисты по психологии и информационным технологиям из Кардиффского университета и Массачусетского технологического института показали, что группы автономных машин могут проявлять предубеждения посредством простого определения такого поведения, его копирования и взаимного обучения ему.
Может показаться, что предубеждение — исключительно человеческий феномен, требующий человеческого интеллекта для формирования мнения или стереотипов о какой-либо личности или группе. Несмотря на то что некоторые типы компьютерных алгоритмов уже проявляли такие предубеждения, как расизм и сексизм, основанные на изучении публичных записей и других данных, сгенерированных людьми, новая работа демонстрирует способности ИИ к самостоятельному развитию групп с предубеждениями.
Исследование опубликовано в журнале Scientific Reports. Оно основано на компьютерных симуляциях того, как предвзятые виртуальные агенты могут формировать группы и взаимодействовать друг с другом. В процессе симуляции каждый индивид принимает решение, помочь ли кому-то из своей группы или из другой, в зависимости от репутации того индивида, а также собственной стратегии, включающей в себя их уровни предубеждений по отношению к посторонним. После проведения тысяч симуляций каждый индивид обучается новым стратегиям, копируя других — будь то представители своей группы или всего «населения».
«С проведением этих симуляций тысячи и тысячи раз подряд мы начали понимать, как развивается предубеждение и какие нужны условия для его культивации или предотвращения, — говорит соавтор исследования профессор Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета. — Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных населениях, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять».
Данные исследования также включают в себя индивидов, повышающих уровни своего предубеждения предпочтительным копированием тех, кто получает лучшие краткосрочные результаты, что, в свою очередь, означает, что такие решения не требуют обязательного наличия особых способностей.
«Вполне правдоподобно, что автономные машины, способные идентифицировать себя с дискриминацией и копировать других, в будущем могут быть восприимчивыми к феноменам предубеждения, которые мы видим в обществе, — продолжает профессор Уитакер. — Многие ИИ-разработки, которые мы наблюдаем сегодня, включают в себя автономность и самоуправление, то есть на поведение приборов также влияют те, кто их окружает. Из недавних примеров можно вспомнить транспорт и интернет вещей. Наше исследование предоставляет теоретическое понимание того, где симулированные агенты периодически обращаются к другим для получения каких-то ресурсов».
Также исследователи обнаружили, что при определенных условиях, включающих в себя наличие более разделенных субпопуляций одного общества, предубеждению сложнее укрепиться.
«С большим числом субпопуляций союзы непредвзятых групп могут сотрудничать без того, чтобы быть эксплуатируемыми. Это также убавляет их статус меньшинства, в то же время уменьшая их восприимчивость к установлению предубеждений. Однако это требует и обстоятельств, в которых агенты обладают более высоким расположением по отношению к взаимодействиям вне своей группы», — заключил профессор Уитакер.
Интересным наблюдением поделились сотрудники Чернобыльского радиационно-экологического биосферного заповедника. Они уже более трех лет следят за жизнью стада одичавших коров, поведение которого сильно отличается от того, что можно наблюдать у домашних сельскохозяйственных животных.
Ученые обнаружили, что чередование периодов голодания с приемами пищи помогает предотвратить развитие рака груди, замедлить рост опухоли и избежать метастазирования в легкие. По их словам, такая простая стратегия также в перспективе может стать практическим способом достичь положительного эффекта при терапии рака молочной железы у людей.
Эксперты Всемирной организации здравоохранения напомнили о том, что прививать от коронавируса в первую очередь нужно тех, кто подвержен повышенному риску заболеть Covid-19, особенно в тяжелой форме.
Пациент — уроженец Исландии Феликс Гретарссон, лишившийся верхних конечностей более 23 лет назад из-за несчастного случая на работе — уже идет на поправку.
Существует распространенное мнение, что женщины, скрывая овуляцию, получили возможность удерживать мужчин рядом с собой. Однако авторы нового исследования заявляют о преимуществах, которые женщины, напротив, таким образом могли возыметь во взаимоотношениях с представительницами своего же пола.
Решение Совета по космосу РАН повременить с созданием сверхтяжелой ракеты для полетов на Луну звучит странно. Куда откладывать лунную ракету, когда в США средство полета туда отправится в космос уже в 2022 году? Если присмотреться к ситуации внимательно, все еще хуже. Starship — не просто ракета для полетов к Луне и Марсу, а технологическое решение, которое навсегда перевернет военно-политический баланс на Земле. Попробуем разобраться, откуда у «Роскосмоса» такое нежелание посылать людей в дальний космос и как прорывной проект Илона Маска может оказаться дорогой к настоящей Звезде Смерти.
В России приступили к летным испытаниям нового Ту-214. По имеющимся данным, речь идет о третьем и заключительном экземпляре Ту-214ПУ, изготовленном по контракту от 2017 года.
Попытки нашей страны создать замену сверхмассовому биплану советской эпохи терпят неудачи вот уже тридцать лет. Причина проста: кризис легкомоторной авиации в целом. Когда-то самая передовая часть авиастроения сегодня застряла на решениях большой древности — и без резкого изменения всей концепции "летающего такси" так и не увидит заметных результатов.
Наступление Мирового океана на сушу, как правило, связывают с глобальным потеплением. Однако испанские геологи описали еще одну проблему, которая только усугубляет ситуацию. Они подсчитали, что из-за проседания почв территория, на которой проживает 19% населения Земли, окажется ниже уровня моря уже к 2040 году.
Комментарии