• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Более миллиона человек в неделю общаются с ChatGPT о самоубийстве

Более миллиона пользователей ChatGPT в неделю затрагивают в разговорах с чат-ботом тему суицида. При этом сотни тысяч человек показывают «повышенный уровень эмоциональной привязанности» к сервису.

ChatGPT компании OpenAI / © Tada Images, Shutterstock
ChatGPT компании OpenAI / © Tada Images, Shutterstock

OpenAI раскрыла данные, сколько собеседников ChatGPT сталкиваются с проблемами психического здоровья и обсуждают их с чат-ботом. По информации компании, 0,15% активных пользователей сервиса каждую неделю ведут беседы, содержащие «явные признаки возможного суицидального планирования или намерений». Если каждую неделю ChatGPT используют более 800 миллионов пользователей, это означает, что подобные темы затрагивают свыше миллиона человек.

Как утверждают в OpenAI, схожее количество пользователей демонстрирует «повышенный уровень эмоциональной привязанности к ChatGPT», а у сотни тысяч людей наблюдаются признаки психоза или мании в еженедельных разговорах с чат-ботом. В компании отмечают, что такие разговоры происходят редко и их трудно измерить. Однако, по оценкам OpenAI, эти проблемы затрагивают сотни тысяч людей каждую неделю.

В компании также заявили, что улучшили реакцию модели на сообщения пользователей с проблемами психического здоровья. По утверждению OpenAI, при разработке последней версии ChatGPT они консультировались с более чем 170 специалистами в области психического здоровья. Разработчики отметили, что, по оценкам экспертов, новая версия ChatGPT «реагирует более уместно и последовательно, чем предыдущие».

Согласно заявлению OpenAI, обновленная версия GPT‑5 дает «желательные ответы» на вопросы о психическом здоровье примерно на 65% чаще, чем предыдущая версия. По оценке компании, новая модель GPT‑5 соответствует желаемым стандартам поведения в 91% случаев, тогда как предыдущая версия GPT‑5 — в 77% случаев.

OpenAI также добавит новые оценки, которые позволят фиксировать наиболее серьезные проблемы психического здоровья, с которыми сталкиваются пользователи. Базовое тестирование безопасности моделей будет включать показатели, связанные с эмоциональной зависимостью и несуицидальными психическими кризисами.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

1 Комментарий
Да ладно. Если сказать пользователю что он псих и ему надо к доктору он же подписку не оплатит.
Предстоящие мероприятия
11 мая, 13:00
Александр Березин

Хотя сам факт наличия непонятных объектов на снимках, которые американские астронавты сделали на Луне, известен давно, десятилетиями их списывали на химические дефекты светочувствительной эмульсии фотопленки или блики света в линзах камер. Новая публикация на сайте Пентагона признает их реально существующими объектами, хотя и не делает выводов о их природе.

11 мая, 06:54
Лена

Крупные травоядные утконосые майазавры известны своим развитым социальным поведением. Они жили семьями и строили гнезда для своих детенышей. Даже название вида переводится с греческого языка как «ящер — хорошая мать». Исследование окаменелых зубов майазавров показало, что они выращивали детенышей совсем не так, как это считалось типичным для животных глубокой древности.

10 мая, 10:49
Александр Березин

Десятого мая 1940 года вермахт пришел в движение. Через 42 суток англо-французские армии были разгромлены, а Франция капитулировала. Как это произошло, ведь союзники имели больше солдат, танков и пушек, чем немцы? В СССР причиной посчитали нежелание французов воевать, немцы же, говорили советские военные, не внесли в стратегию ничего нового. Реальность была строго обратной: разгром Франции был новым словом в войне, и такой же сценарий Гитлер применил против СССР через год. Что именно произошло и отчего советское руководство не смогло осознать случившееся?

8 мая, 17:12
СПбГУ

Нейробиологи СПбГУ продемонстрировали, что активация рецептора следовых аминов TAAR1 эффективно подавляет агрессивное поведение, вызванное полным отсутствием серотонина в мозге. В дальнейшем этот результат поможет в разработке лекарственных препаратов, направленных на коррекцию патологических форм агрессии, возникающих при посттравматическом стрессовом расстройстве (ПТСР) и шизофрении.

11 мая, 06:54
Лена

Крупные травоядные утконосые майазавры известны своим развитым социальным поведением. Они жили семьями и строили гнезда для своих детенышей. Даже название вида переводится с греческого языка как «ящер — хорошая мать». Исследование окаменелых зубов майазавров показало, что они выращивали детенышей совсем не так, как это считалось типичным для животных глубокой древности.

9 мая, 12:15
Любовь С.

Астрономы впервые использовали гравитационные волны, чтобы косвенно оценить параметры одного из ключевых процессов термоядерного горения в массивных светилах. Именно от него зависит, какие звезды взрываются, какие превращаются в черные дыры и как во Вселенной появляются углерод и кислород — элементы, без которых не было бы ни планет, ни жизни.

23 апреля, 18:34
Александр Березин

В последнее время пуски с российских северных космодромов осуществляют без предварительного уведомления, чего не было в прошлом. Вероятно, дело в недавно упомянутых главой «Роскосмоса» атаках на Плесецк во время пуска. Сегодняшний запуск обеспечил вывод на орбиту космических аппаратов военного назначения.

21 апреля, 20:03
Evgenia Vavilova

Химические связи в материале, из которого сделана электроника, разрываются не из-за накопительного износа от протекания тока через них, а из-за электронов с конкретной энергией.

20 апреля, 13:29
Илья Гриднев

Термоядерные электростанции не смогут конкурировать по цене с возобновляемыми источниками энергии из-за медленного удешевления технологии. По расчетам, расходы на каждую новую установку падали максимум на 8% — много раз ниже ранних ожиданий венчурных инвесторов. Это перечеркивает экономический смысл финансовых вливаний, и мир может никогда не увидеть дешевой термоядерной энергии.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Авторизуясь, вы даете согласие на обработку персональных данных и подтверждаете ознакомление с Политикой.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно