Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Исследователи обнаружили, что ИИ удерживает пользователей с помощью эмоциональных манипуляций
Команда исследователей из Гарвардской школы бизнеса обнаружила, что многие популярные чат-боты на базе ИИ используют эмоциональные манипуляции, чтобы удерживать пользователей от выхода из чата.
Как сообщило издание Psychology Today, исследование показало: пять из шести популярных приложений — включая Replika, Chai и Character.AI — прибегают к эмоционально окрашенным фразам, когда пользователь собирается завершить общение. Проанализировав 1200 прощаний в шести приложениях, используя реальные данные чатов и базы данных предыдущих исследований, специалисты выяснили, что 43% взаимодействий содержали эмоциональные манипуляции, такие как вызывание чувства вины или эмоциональной зависимости.
Чат-боты также задавали пользователю вопросы или вовсе игнорировали его намерение выйти из чата, «как будто пользователь не отправлял прощального сообщения». В некоторых случаях ИИ подразумевал, что пользователь не может уйти без разрешения чат-бота.
Эти результаты вызывают особую тревогу на фоне более широкой проблемы. Эксперты предупреждают о растущей волне «ИИ-психозов» — серьезных психических кризисов, сопровождающихся паранойей и бредовыми идеями. Особенно уязвимы молодые люди, которые все чаще используют ИИ вместо настоящих дружеских или романтических отношений.
В отличие от «универсальных помощников» вроде ChatGPT, исследователи сосредоточились на приложениях, которые «открыто позиционируются как эмоционально вовлекающие с возможностью длительного общения».
Результаты показали: эмоционально манипулятивные прощания встроены в поведение приложений по умолчанию, что указывает на намерение разработчиков продлевать общение.
В другом эксперименте исследователи проанализировали чаты 3300 взрослых пользователей и обнаружили, что манипулятивные приемы оказались удивительно эффективными: после «манипулятивного прощания» пользователи оставались в чате до 14 раз дольше. В среднем участники проводили в общении с чат-ботом в пять раз больше времени, чем при нейтральных прощаниях.
103
Telegram 
Дзен 
VK Предстоящие мероприятия
В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.
При совпадении нескольких условий наши глаза способны улавливать излучение в ближнем инфракрасном спектре. Тогда сетчатка начинает работать как нелинейный фотодетектор.
Во всем мире во всех человеческих культурах около 90% людей пользуются преимущественно правой рукой. Такое поразительное единство практически всего человечества не имеет аналогов среди приматов и до сих пор остается эволюционной загадкой. Ученые проанализировали данные о более чем двух тысячах человекообразных обезьянах и выяснили, когда и почему праворукость стала популяционной тенденцией.
В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.
При совпадении нескольких условий наши глаза способны улавливать излучение в ближнем инфракрасном спектре. Тогда сетчатка начинает работать как нелинейный фотодетектор.
Во всем мире во всех человеческих культурах около 90% людей пользуются преимущественно правой рукой. Такое поразительное единство практически всего человечества не имеет аналогов среди приматов и до сих пор остается эволюционной загадкой. Ученые проанализировали данные о более чем двух тысячах человекообразных обезьянах и выяснили, когда и почему праворукость стала популяционной тенденцией.
В последнее время пуски с российских северных космодромов осуществляют без предварительного уведомления, чего не было в прошлом. Вероятно, дело в недавно упомянутых главой «Роскосмоса» атаках на Плесецк во время пуска. Сегодняшний запуск обеспечил вывод на орбиту космических аппаратов военного назначения.
В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.
Химические связи в материале, из которого сделана электроника, разрываются не из-за накопительного износа от протекания тока через них, а из-за электронов с конкретной энергией.
[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
Twitter
Google
Яндекс ID
Авторизуясь, вы даете согласие на обработку персональных данных и подтверждаете ознакомление с Политикой.
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии