Пользователи чат-ботов перенесли смену модели как потерю близкого человека

❋ 4.2

Некоторые системы, например стартап Replika, сразу позиционируют себя как «ИИ-компаньона» — что-то большее, чем машину для поиска и работы с информацией. Но и с «обычными» ChatGPT, Grok и другими нейросетями люди формируют связь. Регулярные пользователи чат-ботов могут воспринимать их как постоянную составляющую своей жизни.

Психология

# ChatGPT

# большие языковые модели

# горе

# злость

# искусственный интеллект

# отношения

# тревога

# чат-боты

Основанные на больших языковых моделях системы искусственного интеллекта заточены под общение один на один с пользователем. Уровень того, насколько эмоционально система общается в чате, можно настраивать. Это делают и компании-производители, и сами пользователи. С нейросетевым чат-ботом можно общаться максимально формально, а можно — как с другом, психологом или даже партнером.

Психологические последствия этого изучены слабо, мы только вступили в такое близкое общение с ИИ. Недавно ученые проанализировали опросы и эксперименты о том, как чувствуют себя люди при изменении поведения чат-ботов из-за внезапного для пользователя обновления системы. Результаты опубликованы в журнале Nature Human Behaviour.

Предыдущие научные работы по теме были чисто теоретическими. Авторы нового исследования анализировали последствия удаления функции эротических ролевых игр в Replika и запуск GPT-5 от ChatGPT. Они проанализировали 54 861 пост на тематических досках Reddit (30 дней до и после обновления) и ответы 1452 участников семи опросов.

В опросах людей просили представить, что они потеряли своего партнера в Replika, любимое мобильное приложение, любимого персонажа в компьютерной игре, голосового помощника, машину, бренд или домашнее животное.

Оказалось, резкое изменение «личности» чат-бота вызвало у пользователей тревогу, грусть и другие переживания, которые обычно сопутствуют разрыву отношений или утрате важного человека. В целом это описывается термином «сепарационная тревога».

Язык, который люди использовали для описания своих чувств при изменении чат-бота, был очень похож на описания потери обычных, человеческих отношений. Эффект был сильнее выражен у тех, кто сам оценивал чат-бота не как продукт, а как близкое существо.

Потерявшие Replika испытали больше грусти, пользователи ChatGPT — больше злости и удивления. Исследователи сообщили, что участники проходили настоящий процесс проживания горя. Потеря Replika уступала по интенсивности эмоций только потере любимого домашнего питомца.

По мнению ученых, самым важным фактором для таких ярких эмоций стала внезапность потери. Они предположили, что авторам чат-ботов стоит вносить в них изменения медленнее и активно предупреждать пользователей о грядущих переменах, если они хотят позаботиться о моральном состоянии клиентов.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.