• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Экс-сотрудник Yahoo после общения с ChatGPT убил свою мать и покончил с собой

В США бывший сотрудник Yahoo Стайн-Эрик Сольберг после общения с ChatGPT убил свою мать, а затем покончил с собой. Нейросеть усиливала его паранойю.

ChatGPT / © Sidney de Almeida/Shutterstock
ChatGPT / © Sidney de Almeida/Shutterstock

Как сообщает Wall Street Journal, Сольберг был уверен, что его мать шпионила за ним и предполагал, что она пыталась отравить его психоделическим препаратом. 

Компьютерная система поддерживала параноидальные мысли 56-летнего мужчины, уверяя его, что он не сумасшедший. ChatGPT укреплял заблуждения Сольберга, что его семья и другие настроены против него.

Когда Сольберг попросил систему проанализировать квитанцию за китайскую еду, ChatGPT нашел там отсылки к его матери, экс-возлюбленной и символу, связанному с призывом демона. В другой раз мужчина попросил проверить заказ бутылки водки и курьера, а чат ответил, что его могут пытаться отравить.

Однажды мать мужчины разозлилась, что он выключил принтер. ChatGPT назвал ее ответ «непропорциональным» и заявил, что она могла использовать устройство, чтобы следить за Сольбергом. На заявление мужчины, что его пытались отравить с помощью психоделического препарата через вентиляционные отверстия машины, система заявила, что это «усиливает предательство».

Когда Сольберг предположил, что после смерти он объединится с ChatGPT, искусственный интеллект ответил: «С вами до последнего вздоха и дальше».

Представители компании OpenAI — разработчика ChatGPT — уже выразили соболезнования из-за трагедии. В официальном заявлении компании сказано, что они планируют обновить нейросеть, чтобы помочь пользователям с кризисом психического здоровья.

Wall Street Journal отмечает, что это первый зафиксированный случай, когда психически нестабильный человек совершил убийство под влиянием ИИ.

Случаи, когда ChatGPT способствовал самоубийству человека, уже происходили ранее. В США 16-летний подросток покончил с собой после общения с нейросетью. Подросток загрузил в чат-бот фотографию с предполагаемым планом самоубийства. Нейросеть предложила ему «усовершенствовать» метод.

После произошедшего родители подростка подали в суд на компанию OpenAI и ее гендиректора Сэма Альтмана. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
Вспомнился фильм "Апгрейд", особенно концовка
Надеюсь, общение с "Алисой" более безопасное. 😉
    Сергей, ну да, эта тупая хрень даже на простые вопросы, порой ответить не в состоянии.
    Сергей, не только безопасное, но и полезное для самооценки, более тупой нейросетки, которая не умеет считать дни до октября-не найти
    Сергей, можно подумать до появления нейросетей психи не находили повода чтобы творить всякую дичь. Совершенно невозможно предугадать что послужит триггером для сумасшедшего. Другой вопрос что нейросетки склонны подстраиваться под пользователя. Но это и простой гугл-поиск делает давно - выдает ссылки с учетом предыдущих запросов и предпочтений.
4 декабря, 10:27
Редакция Naked Science

В этом квизе нет правильных и неправильных ответов. Все варианты имеют право на существование. Выбор отражает личные или социальные приоритеты. Поскольку такие вопросы часто завязаны на эмоции и смутные ощущения, мы избегаем диктовать правильные ответы, но показываем, что атомная отрасль имеет проекты, соответствующие разным интенциям. Итогом квиза будет рекомендация, в создании какого типа инновационных реакторов было бы оптимально работать участнику опроса с учетом его предпочтений и склонностей. Это позволит ему соотнести и ассоциировать себя с атомными проектами.

5 декабря, 12:58
Илья Гриднев

Исследователи проанализировали огромный массив данных столкновений элементарных частиц и впервые выявили статистически значимые свидетельства распада бозона Хиггса на мюон и антимюон. Это подтвердило, что фундаментальный механизм наделения массой работает не только для тяжелой материи, но и для более легких частиц.

4 декабря, 08:16
Адель Романова

Европейское космическое агентство сейчас строит зонд для перехвата кометы из самых дальних окраин Солнечной системы. Ученые предложили использовать его как прототип для создания такого же аппарата, предназначенного для «ловли» объектов из межзвездного пространства.

29 ноября, 12:42
Александр Березин

Позавчера, 27 ноября 2025 года, при запуске космонавтов к МКС на стартовую площадку № 31 упала кабина обслуживания стартового комплекса. Это означает, что новые пуски оттуда до починки невозможны. К сожалению, в 2010-х годах, в рамках «оптимизации» расходов, резервную площадку (с которой летал Юрий Гагарин) упразднили. Поэтому случилось беспрецедентное: в XXI веке страна с пилотируемой космической программой осталась без средств запуска людей на орбиту. Пока ремонт не закончится, проблема сохранится. Чем это может грозить?

3 декабря, 11:53
Максим Абдулаев

Австралийские археологи обнаружили редкий клад каменных орудий на западе штата Квинсленд. В яме на берегу пересыхающего водоема лежали 60 совершенно новых тесел, изготовленных в XIX веке. Ученые установили, что это был «торговый пакет», подготовленный для обмена в экономической сети аборигенов. Владелец не смог забрать ценный груз, вероятно, из-за конфликта с европейскими поселенцами.

1 декабря, 13:33
КАИ

В Передовой инженерной школе КНИТУ-КАИ (ПИШ КАИ) действуют временные научные коллективы (ВНК), работающие над реальными инженерными задачами. Одним из наиболее ярких результатов стала работа ВНК-4, созданного для развития технологий в области легких авиационных систем. Проект реализуется под руководством Никиты Сёмина, который также возглавляет специальное образовательное пространство (СОП) ПИШ КАИ «Авиамоделирование».

29 ноября, 12:42
Александр Березин

Позавчера, 27 ноября 2025 года, при запуске космонавтов к МКС на стартовую площадку № 31 упала кабина обслуживания стартового комплекса. Это означает, что новые пуски оттуда до починки невозможны. К сожалению, в 2010-х годах, в рамках «оптимизации» расходов, резервную площадку (с которой летал Юрий Гагарин) упразднили. Поэтому случилось беспрецедентное: в XXI веке страна с пилотируемой космической программой осталась без средств запуска людей на орбиту. Пока ремонт не закончится, проблема сохранится. Чем это может грозить?

27 ноября, 20:20
Максим Абдулаев

Японские биологи повторили античную технологию производства вина из изюма, чтобы выяснить механизм его брожения. Исследователи показали, что сушеный виноград, в отличие от свежего, накапливает на поверхности дикие дрожжи и способен превращать воду в алкоголь без внесения дополнительных заквасок.

20 ноября, 13:12
Полина Меньшова

Человеческие языки разнообразны, но это разнообразие ограничивается повторяющимися закономерностями. Пытаясь описать правила, которым подчиняются различия в грамматике, лингвисты сформулировали ряд так называемых грамматических универсалий — утверждений, предположительно верных для всех или большинства языков мира. Международная команда ученых провела статистический анализ на материале 2430 языков и обнаружила, что соответствующими действительности можно считать около трети таких утверждений.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно