• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Более миллиона человек в неделю общаются с ChatGPT о самоубийстве

Более миллиона пользователей ChatGPT в неделю затрагивают в разговорах с чат-ботом тему суицида. При этом сотни тысяч человек показывают «повышенный уровень эмоциональной привязанности» к сервису.

ChatGPT компании OpenAI / © Tada Images, Shutterstock
ChatGPT компании OpenAI / © Tada Images, Shutterstock

OpenAI раскрыла данные, сколько собеседников ChatGPT сталкиваются с проблемами психического здоровья и обсуждают их с чат-ботом. По информации компании, 0,15% активных пользователей сервиса каждую неделю ведут беседы, содержащие «явные признаки возможного суицидального планирования или намерений». Если каждую неделю ChatGPT используют более 800 миллионов пользователей, это означает, что подобные темы затрагивают свыше миллиона человек.

Как утверждают в OpenAI, схожее количество пользователей демонстрирует «повышенный уровень эмоциональной привязанности к ChatGPT», а у сотни тысяч людей наблюдаются признаки психоза или мании в еженедельных разговорах с чат-ботом. В компании отмечают, что такие разговоры происходят редко и их трудно измерить. Однако, по оценкам OpenAI, эти проблемы затрагивают сотни тысяч людей каждую неделю.

В компании также заявили, что улучшили реакцию модели на сообщения пользователей с проблемами психического здоровья. По утверждению OpenAI, при разработке последней версии ChatGPT они консультировались с более чем 170 специалистами в области психического здоровья. Разработчики отметили, что, по оценкам экспертов, новая версия ChatGPT «реагирует более уместно и последовательно, чем предыдущие».

Согласно заявлению OpenAI, обновленная версия GPT‑5 дает «желательные ответы» на вопросы о психическом здоровье примерно на 65% чаще, чем предыдущая версия. По оценке компании, новая модель GPT‑5 соответствует желаемым стандартам поведения в 91% случаев, тогда как предыдущая версия GPT‑5 — в 77% случаев.

OpenAI также добавит новые оценки, которые позволят фиксировать наиболее серьезные проблемы психического здоровья, с которыми сталкиваются пользователи. Базовое тестирование безопасности моделей будет включать показатели, связанные с эмоциональной зависимостью и несуицидальными психическими кризисами.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

1 Комментарий
Да ладно. Если сказать пользователю что он псих и ему надо к доктору он же подписку не оплатит.
Предстоящие мероприятия
19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

20 августа, 11:56
Татьяна Зайцева

Множество переломов костей у средневекового скелета, захороненного в замке Стерлинг, позволили предположить, что мужчина погиб в результате прямого попадания снаряда, выпущенного из осадного орудия. Не исключено, что это был гигантский требушет «Боевой Волк», построенный по приказу короля Англии Эдуарда I.

19 августа, 12:49
Мария Азарова

Воспоминания не исчезают бесследно: иногда пережитый опыт перестает влиять на поведение, хотя его след продолжает сохраняться в мозге. Ученые решили проверить, можно ли вернуть такую «забытую» память и что произойдет, если напомнить о произошедшем не совсем точно.

16 августа, 11:45
Татьяна Зайцева

В черепах участников битв эпохи Средневековья часто находят отверстия квадратной формы, о происхождении которых спорят специалисты. Авторы нового исследования пришли к выводу, что такое повреждение — следствие смертельного удара по голове палицей.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

17 августа, 12:59
Марк Чернов

Анализ почти 69 тысяч видов насекомых помог опровергнуть главенствующую теорию эволюции, которая полвека объясняла устройство колоний пчел, муравьев и ос. Исследователи выяснили, что общепринятый генетический фактор сам по себе не приводит к разделению труда, а настоящий секрет их коллективного выживания кроется в совсем других биологических чертах.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

4 августа, 12:03
Александр Березин

Остров Пекан недалеко от Мексиканского залива в Луизиане вскоре перейдет в собственность компании Илона Маска. Здесь будет новый космодром для Starship, почти в 20 раз больше, чем в Бока-Чике, где уже стоят две стартовых площадки. Уникальное местоположение позволит компании попытаться реализовать амбициозную цель о запуске миллиона низкоорбитальных спутников на орбиты, где сегодня находится подавляющее меньшинство спутников Земли.

[miniorange_social_login]