• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Экс-сотрудник Yahoo после общения с ChatGPT убил свою мать и покончил с собой

В США бывший сотрудник Yahoo Стайн-Эрик Сольберг после общения с ChatGPT убил свою мать, а затем покончил с собой. Нейросеть усиливала его паранойю.

ChatGPT / © Sidney de Almeida/Shutterstock
ChatGPT / © Sidney de Almeida/Shutterstock

Как сообщает Wall Street Journal, Сольберг был уверен, что его мать шпионила за ним и предполагал, что она пыталась отравить его психоделическим препаратом. 

Компьютерная система поддерживала параноидальные мысли 56-летнего мужчины, уверяя его, что он не сумасшедший. ChatGPT укреплял заблуждения Сольберга, что его семья и другие настроены против него.

Когда Сольберг попросил систему проанализировать квитанцию за китайскую еду, ChatGPT нашел там отсылки к его матери, экс-возлюбленной и символу, связанному с призывом демона. В другой раз мужчина попросил проверить заказ бутылки водки и курьера, а чат ответил, что его могут пытаться отравить.

Однажды мать мужчины разозлилась, что он выключил принтер. ChatGPT назвал ее ответ «непропорциональным» и заявил, что она могла использовать устройство, чтобы следить за Сольбергом. На заявление мужчины, что его пытались отравить с помощью психоделического препарата через вентиляционные отверстия машины, система заявила, что это «усиливает предательство».

Когда Сольберг предположил, что после смерти он объединится с ChatGPT, искусственный интеллект ответил: «С вами до последнего вздоха и дальше».

Представители компании OpenAI — разработчика ChatGPT — уже выразили соболезнования из-за трагедии. В официальном заявлении компании сказано, что они планируют обновить нейросеть, чтобы помочь пользователям с кризисом психического здоровья.

Wall Street Journal отмечает, что это первый зафиксированный случай, когда психически нестабильный человек совершил убийство под влиянием ИИ.

Случаи, когда ChatGPT способствовал самоубийству человека, уже происходили ранее. В США 16-летний подросток покончил с собой после общения с нейросетью. Подросток загрузил в чат-бот фотографию с предполагаемым планом самоубийства. Нейросеть предложила ему «усовершенствовать» метод.

После произошедшего родители подростка подали в суд на компанию OpenAI и ее гендиректора Сэма Альтмана. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
Вспомнился фильм "Апгрейд", особенно концовка
Надеюсь, общение с "Алисой" более безопасное. 😉
    Сергей, ну да, эта тупая хрень даже на простые вопросы, порой ответить не в состоянии.
    Сергей, не только безопасное, но и полезное для самооценки, более тупой нейросетки, которая не умеет считать дни до октября-не найти
    Сергей, можно подумать до появления нейросетей психи не находили повода чтобы творить всякую дичь. Совершенно невозможно предугадать что послужит триггером для сумасшедшего. Другой вопрос что нейросетки склонны подстраиваться под пользователя. Но это и простой гугл-поиск делает давно - выдает ссылки с учетом предыдущих запросов и предпочтений.
Предстоящие мероприятия
23 июля, 11:33
Марк Чернов

Нейробиологи и специалисты по микробиологии выяснили, что нарушения в видовом составе кишечных бактерий (так называемый дисбиоз) и изменение уровня продуктов из жизнедеятельности могут ключевым образом влиять на уровень стресса, включая депрессию, тревожные состояния и посттравматическое стрессовое расстройство.

24 июля, 11:13
Игорь Байдов

Правильно подобранные звуковые последовательности способны не только стимулировать рост растений, но и влиять на их урожайность. К такому выводу пришли авторы нового исследования. Они разработали технологию, которая позволяет воздействовать на процессы развития растений через акустические сигналы без использования генной инженерии или химикатов. В экспериментах добились повышения урожайности мяты, сои, болгарского перца и конопли.

24 июля, 12:05
Андрей Серегин

Сегодня на земле существует примерно 7500 языков, однако ученые давно подозревали, что в прошлом их было значительно больше. Международная группа лингвистов реконструировала историю языкового разнообразия за последние 12 тысяч лет и пришла к выводу, что человечество уже пережило «золотой век» языков, после которого их число начало быстро сокращаться.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

20 июля, 14:11
Татьяна Зайцева

В позднеантичном Риме императорским указом мужчинам запретили носить длинные волосы. Автор нового исследования пришел к выводу, что введение этого запрета объяснялось необходимостью сохранения римской идентичности в условиях усиливающегося распада империи и нарастающего торжества варваров.

22 июля, 15:33
Александр Березин

Виктор Гловер, один из четырех человек, весной этого года пролетевших мимо Луны, выступил на конференции NASA и предложил резко изменить план высадки американцев на Луне в конце десятилетия. Он считает, что это позволит снизить риски для астронавтов-участников миссии.

25 июня, 16:20
Любовь С.

Вселенная может оказаться «замкнутой» глобальной структурой, где свет от далеких галактик способен возвращаться к наблюдателю с разных направлений. Именно такой сценарий не удалось исключить авторам нового масштабного обзора. Проверить его предсказания астрономы смогут уже в ближайшие годы.

25 июня, 15:09
Марк Чернов

Ученые впервые на молекулярном уровне доказали, что обычная вода одновременно состоит из двух разных жидких состояний — более плотного и менее плотного, которые непрерывно сменяют друг друга. Раз молекулярная «двойственность» действительно существует, это подтверждает спорную 30-летнюю гипотезу. Новое открытие поможет, наконец, объяснить десятки «странных» физических аномалий воды, включая ее расширение при замерзании и парадоксальное изменение вязкости под давлением.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

[miniorange_social_login]