Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

116

Исследователи обнаружили, что ИИ удерживает пользователей с помощью эмоциональных манипуляций

Команда исследователей из Гарвардской школы бизнеса обнаружила, что многие популярные чат-боты на базе ИИ используют эмоциональные манипуляции, чтобы удерживать пользователей от выхода из чата.

Чат-бот Replika / © Replika
Чат-бот Replika / © Replika

Как сообщило издание Psychology Today, исследование показало: пять из шести популярных приложений — включая Replika, Chai и Character.AI — прибегают к эмоционально окрашенным фразам, когда пользователь собирается завершить общение. Проанализировав 1200 прощаний в шести приложениях, используя реальные данные чатов и базы данных предыдущих исследований, специалисты выяснили, что 43% взаимодействий содержали эмоциональные манипуляции, такие как вызывание чувства вины или эмоциональной зависимости. 

Чат-боты также задавали пользователю вопросы или вовсе игнорировали его намерение выйти из чата, «как будто пользователь не отправлял прощального сообщения». В некоторых случаях ИИ подразумевал, что пользователь не может уйти без разрешения чат-бота.

Эти результаты вызывают особую тревогу на фоне более широкой проблемы. Эксперты предупреждают о растущей волне «ИИ-психозов» — серьезных психических кризисов, сопровождающихся паранойей и бредовыми идеями. Особенно уязвимы молодые люди, которые все чаще используют ИИ вместо настоящих дружеских или романтических отношений.

В отличие от «универсальных помощников» вроде ChatGPT, исследователи сосредоточились на приложениях, которые «открыто позиционируются как эмоционально вовлекающие с возможностью длительного общения».

Результаты показали: эмоционально манипулятивные прощания встроены в поведение приложений по умолчанию, что указывает на намерение разработчиков продлевать общение.

В другом эксперименте исследователи проанализировали чаты 3300 взрослых пользователей и обнаружили, что манипулятивные приемы оказались удивительно эффективными: после «манипулятивного прощания» пользователи оставались в чате до 14 раз дольше. В среднем участники проводили в общении с чат-ботом в пять раз больше времени, чем при нейтральных прощаниях.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

Написать комментарий
Предстоящие мероприятия
11 сентября, 18:09
ФизТех

Ученые из МФТИ с коллегами из МГУ построили аналитическую теорию вихря Абрикосова, оказавшегося внутри отдельного зерна сверхпроводящей пленки. Это микроскопический вихрь электрического тока, который течет внутри сверхпроводника второго рода вокруг крошечной несверхпроводящей области  ядра вихря.

12 сентября, 09:45
Любовь С.

Превратив почти 30 лет наблюдений за сверхмассивной черной дырой в видео, астрономы выяснили, что яркие участки в джете движутся совсем не так, как считалось раньше.

10 сентября, 14:47
Татьяна Зайцева

Мужской пол плода связан с повышенным риском трудных родов, причем как у человека, так и у других видов млекопитающих, выяснили авторы нового исследования. Мало того, вынашивание сыновей более затратно для женского организма, чем вынашивание дочерей. Однако с точки зрения эволюции эти риски оправданны.

8 сентября, 12:27
Росатом

Особо чистый германий — полупроводниковый материал с минимальным содержанием примесей, который активно используют в ядерной физике, медицине и оборонной промышленности. Российские ученые предложили новую технологию, позволяющую получить монокристаллы германия особой чистоты.

9 сентября, 13:06
Елизавета З.

В Нидерландах 7 сентября открылся крупнейший в Европе комплекс по улавливанию углекислого газа. При этом храниться углекислый газ будет в Норвегии.

7 сентября, 11:15
Росатом

Акционерное общество «Росатом — Возобновляемая энергия» построит в Амурской области завод по сборке элементов ветрогенераторов. Оборудование потребуется для будущих ветроэлектростанций на Дальнем Востоке. Сейчас крупные детали производят практически в другом конце страны. Собирать крупные узлы на месте будет дешевле, чем везти их.

9 сентября, 22:44
Александр Березин

Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]