Люди поверили дипфейкам авторитетных спикеров даже в случае противоречий

❋ 4.7

Исследователи Института когнитивных нейронаук НИУ ВШЭ выяснили, как мозг реагирует на аудиодипфейки — реалистичные поддельные записи речи, созданные с помощью ИИ. Выяснилось, что люди склонны доверять мнению авторитетного спикера даже в тех случаях, когда новые утверждения противоречат его прежней позиции. Это работает и в ситуациях, когда утверждение не согласуется с собственным мнением слушающего.

НИУ ВШЭ

# авторитет

# вакцинация

# дипфейк

# доверие

# фейк

Кадр из фильма «Превосходство» / © Summit Entertainment

Современные дипфейки все сложнее отличить от реальных записей, и они все чаще используются для распространения ложной информации. В сфере здравоохранения последствия дезинформации особенно опасны, поскольку угрожают здоровью населения.

Исследователи Института когнитивных нейронаук (ИКН) НИУ ВШЭ провели эксперимент, чтобы выяснить, как люди воспринимают аудиодипфейки от лица знаменитостей, высказывающихся за или против вакцинации от COVID-19. Исследование опубликовано в журнале NeuroImage.

В исследовании принял участие 61 человек. Половина участников поддерживала вакцинацию, а половина выступала против. Испытуемые слушали ИИ-сгенерированные аудиозаписи известных лидеров мнений — врача, сторонника вакцинации, и популярной актрисы, известной своей антипрививочной позицией. Во время прослушивания активность мозга участников регистрировалась с помощью электроэнцефалографии (ЭЭГ). В какой-то момент спикеры произносили фразы, противоречащие их реальной публичной позиции: врач неожиданно говорил, что прививки от коронавируса не нужны, а актриса, наоборот, подчеркивала необходимость вакцинации. В этом случае ЭЭГ регистрировала потенциал N400 — реакцию мозга на смысловое несоответствие, которая возникает примерно через 400 мс после того, как мы видим или слышим неожиданный стимул. Чем больше несоответствие, тем сильнее сигнал.

Анализ данных показал, что участники вне зависимости от собственных установок оценивали высказывание врача выше по всем факторам: считали его более убедительным, авторитетным, заслуживающим доверия, хотели поделиться этой информацией с друзьями и знакомыми. ЭЭГ регистрировала потенциал N400, когда врач высказывался против вакцинации от коронавируса, при этом он был значительно слабее или вовсе отсутствовал, когда противоречивые утверждения исходили от менее авторитетной в медицинских вопросах актрисы.

«Изначально мы предполагали, что на восприятие аудиозаписи будут влиять личные убеждения участников. Именно поэтому мы заранее выяснили, поддерживают ли они вакцинацию или выступают против, и разделили их на две группы. Кроме того, мы провели специальные тесты, чтобы определить их уровень аналитического мышления, стремления к познанию и склонности к конформизму. Однако при прослушивании дипфейков оказалось, что все эти параметры почти не имеют значения. Решающим фактором выступает именно авторитет в медицинской области», — объясняет Элиана Монахова, первый автор статьи, младший научный сотрудник Центра нейроэкономики и когнитивных исследований ИКН НИУ ВШЭ.

Полученные результаты имеют важное значение для понимания механизмов распространения недостоверной информации. Они показывают, что сообщения, приписываемые авторитетным источникам, могут оказывать сильное воздействие на аудиторию, даже если содержат внутренние противоречия и расходятся с публичной позицией.

«Насколько нам известно, это первое исследование, в котором нейрокогнитивные механизмы обработки семантических противоречий в дипфейках рассматриваются с точки зрения нашего доверия к сообщению. Понимание этих механизмов позволяет разрабатывать более эффективные стратегии противодействия цифровому мошенничеству и информационным манипуляциям», — считает Элиана Монахова.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.

Национальный исследовательский университет «Высшая школа экономики» — один из крупнейших и самых востребованных вузов России. В университете учится 54 тысячи студентов и работает почти 4,5 тысячи учёных и преподавателей. НИУ ВШЭ ведёт фундаментальные и прикладные исследования в области социально-экономических, гуманитарных, юридических, инженерных, компьютерных, физико-математических наук, а также креативных индустрий. В университете действуют 47 центров превосходства, или международных лабораторий. Вышка объединяет ведущих мировых исследователей в области изучения мозга, нейротехнологий, биоинформатики и искусственного интеллекта. Университет входит в первую группу программы «Приоритет-2030» в направлении «Исследовательское лидерство». Кампусы НИУ ВШЭ расположены в четырех городах — Москве, Санкт-Петербурге, Нижнем Новгороде и Перми, а также в цифровом пространстве — «Вышка Онлайн».