• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
29 января, 10:59
НИУ ВШЭ
2,0 тыс

Люди поверили дипфейкам авторитетных спикеров даже в случае противоречий

❋ 4.7

Исследователи Института когнитивных нейронаук НИУ ВШЭ выяснили, как мозг реагирует на аудиодипфейки — реалистичные поддельные записи речи, созданные с помощью ИИ. Выяснилось, что люди склонны доверять мнению авторитетного спикера даже в тех случаях, когда новые утверждения противоречат его прежней позиции. Это работает и в ситуациях, когда утверждение не согласуется с собственным мнением слушающего.

Кадр из фильма «Превосходство» / © Summit Entertainment

Современные дипфейки все сложнее отличить от реальных записей, и они все чаще используются для распространения ложной информации. В сфере здравоохранения последствия дезинформации особенно опасны, поскольку угрожают здоровью населения.

Исследователи Института когнитивных нейронаук (ИКН) НИУ ВШЭ провели эксперимент, чтобы выяснить, как люди воспринимают аудиодипфейки от лица знаменитостей, высказывающихся за или против вакцинации от COVID-19. Исследование опубликовано в журнале NeuroImage.

В исследовании принял участие 61 человек. Половина участников поддерживала вакцинацию, а половина выступала против. Испытуемые слушали ИИ-сгенерированные аудиозаписи известных лидеров мнений — врача, сторонника вакцинации, и популярной актрисы, известной своей антипрививочной позицией. Во время прослушивания активность мозга участников регистрировалась с помощью электроэнцефалографии (ЭЭГ). В какой-то момент спикеры произносили фразы, противоречащие их реальной публичной позиции: врач неожиданно говорил, что прививки от коронавируса не нужны, а актриса, наоборот, подчеркивала необходимость вакцинации. В этом случае ЭЭГ регистрировала потенциал N400 — реакцию мозга на смысловое несоответствие, которая возникает примерно через 400 мс после того, как мы видим или слышим неожиданный стимул. Чем больше несоответствие, тем сильнее сигнал. 

Пример дипфейка / © Э.Монахова

Анализ данных показал, что участники вне зависимости от собственных установок оценивали высказывание врача выше по всем факторам: считали его более убедительным, авторитетным, заслуживающим доверия, хотели поделиться этой информацией с друзьями и знакомыми. ЭЭГ регистрировала потенциал N400, когда врач высказывался против вакцинации от коронавируса, при этом он был значительно слабее или вовсе отсутствовал, когда противоречивые утверждения исходили от менее авторитетной в медицинских вопросах актрисы.

«Изначально мы предполагали, что на восприятие аудиозаписи будут влиять личные убеждения участников. Именно поэтому мы заранее выяснили, поддерживают ли они вакцинацию или выступают против, и разделили их на две группы. Кроме того, мы провели специальные тесты, чтобы определить их уровень аналитического мышления, стремления к познанию и склонности к конформизму. Однако при прослушивании дипфейков оказалось, что все эти параметры почти не имеют значения. Решающим фактором выступает именно авторитет в медицинской области», — объясняет Элиана Монахова, первый автор статьи, младший научный сотрудник Центра нейроэкономики и когнитивных исследований ИКН НИУ ВШЭ.

Полученные результаты имеют важное значение для понимания механизмов распространения недостоверной информации. Они показывают, что сообщения, приписываемые авторитетным источникам, могут оказывать сильное воздействие на аудиторию, даже если содержат внутренние противоречия и расходятся с публичной позицией.

«Насколько нам известно, это первое исследование, в котором нейрокогнитивные механизмы обработки семантических противоречий в дипфейках рассматриваются с точки зрения нашего доверия к сообщению. Понимание этих механизмов позволяет разрабатывать более эффективные стратегии противодействия цифровому мошенничеству и информационным манипуляциям», — считает Элиана Монахова.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
НИУ ВШЭ
Национальный исследовательский университет «Высшая школа экономики» — один из крупнейших и самых востребованных вузов России. В университете учится 54 тысячи студентов и работает почти 4,5 тысячи учёных и преподавателей. НИУ ВШЭ ведёт фундаментальные и прикладные исследования в области социально-экономических, гуманитарных, юридических, инженерных, компьютерных, физико-математических наук, а также креативных индустрий. В университете действуют 47 центров превосходства, или международных лабораторий. Вышка объединяет ведущих мировых исследователей в области изучения мозга, нейротехнологий, биоинформатики и искусственного интеллекта. Университет входит в первую группу программы «Приоритет-2030» в направлении «Исследовательское лидерство». Кампусы НИУ ВШЭ расположены в четырех городах — Москве, Санкт-Петербурге, Нижнем Новгороде и Перми, а также в цифровом пространстве — «Вышка Онлайн».
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Предстоящие мероприятия
28 июля, 13:27
Александр Березин

Бывшие сотрудники NASA констатировали, что последнее видео испытаний крупнейшего космического корабля в истории снова показало проблемы и ограничения его теплового щита. С их точки зрения, любая из существующих технологий такого типа слишком сложна для реализации замысла Илона Маска о быстрой и безремонтной многоразовости Starship.

27 июля, 13:20
Александр Березин

Четыре точки Европы показали одну и ту же картину: как минимум несколько десятков тысяч лет регулярных сильных пожаров. До сих пор ученые не сталкивались с ископаемыми следами настолько длительных регулярных событий такого типа. Авторы новой работы предложили феномену объяснение, но оно имеет существенные недостатки.

27 июля, 16:09
Андрей Серегин

Долгое время считалось, что у бабочек за обоняние отвечают исключительно усики, однако в последние годы ученые начали находить обонятельные рецепторы в самых неожиданных частях тела насекомых. Группа немецких биологов впервые получила прямые доказательства того, что крылья табачного бражника — полноценный орган обоняния, настроенный на распознавание летучих веществ тех растений, на которые бабочка откладывает яйца.

28 июля, 13:27
Александр Березин

Бывшие сотрудники NASA констатировали, что последнее видео испытаний крупнейшего космического корабля в истории снова показало проблемы и ограничения его теплового щита. С их точки зрения, любая из существующих технологий такого типа слишком сложна для реализации замысла Илона Маска о быстрой и безремонтной многоразовости Starship.

24 июля, 11:13
Игорь Байдов

Правильно подобранные звуковые последовательности способны не только стимулировать рост растений, но и влиять на их урожайность. К такому выводу пришли авторы нового исследования. Они разработали технологию, которая позволяет воздействовать на процессы развития растений через акустические сигналы без использования генной инженерии или химикатов. В экспериментах добились повышения урожайности мяты, сои, болгарского перца и конопли.

28 июля, 10:09
ПНИПУ

Рост средней продолжительности жизни и старение населения формируют новые требования к системе государственного планирования. Для обоснованного распределения ресурсов в сфере здравоохранения, пенсионного обеспечения и социальной поддержки необходимы достоверные данные о возрастной структуре общества. Сегодня для этого применяют специальные математические модели, позволяющие прогнозировать изменения. Проблема в том, что их создавали еще в прошлом веке. Они не учитывают существующие демографические закономерности и улучшение качества современной жизни. Их использование часто ведет к значительным погрешностям в расчетах, что, в свою очередь, делает невозможным своевременное перераспределение бюджетных средств между ключевыми государственными структурами. Ученые Пермского Политеха предложили новую модель для прогнозирования продолжительности жизни, которая работает с точностью 99,7%. Ее можно применять для планирования в сфере здравоохранения, пенсионного обеспечения и социальной поддержки.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

1 июля, 11:54
Марк Чернов

Древнеримские инженеры проложили колоссальную сеть дорог через Европу, Северную Африку и Ближний Восток, многие участки которой до сих пор поражают безупречной прямолинейностью. Секрет строительства заключался в использовании трех особых геодезических инструментов, с помощью которых разбивали местность на ровные отрезки и размечали трассы.

[miniorange_social_login]

Комментарии

Написать комментарий