• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Экс-сотрудник Yahoo после общения с ChatGPT убил свою мать и покончил с собой

В США бывший сотрудник Yahoo Стайн-Эрик Сольберг после общения с ChatGPT убил свою мать, а затем покончил с собой. Нейросеть усиливала его паранойю.

ChatGPT / © Sidney de Almeida/Shutterstock
ChatGPT / © Sidney de Almeida/Shutterstock

Как сообщает Wall Street Journal, Сольберг был уверен, что его мать шпионила за ним и предполагал, что она пыталась отравить его психоделическим препаратом. 

Компьютерная система поддерживала параноидальные мысли 56-летнего мужчины, уверяя его, что он не сумасшедший. ChatGPT укреплял заблуждения Сольберга, что его семья и другие настроены против него.

Когда Сольберг попросил систему проанализировать квитанцию за китайскую еду, ChatGPT нашел там отсылки к его матери, экс-возлюбленной и символу, связанному с призывом демона. В другой раз мужчина попросил проверить заказ бутылки водки и курьера, а чат ответил, что его могут пытаться отравить.

Однажды мать мужчины разозлилась, что он выключил принтер. ChatGPT назвал ее ответ «непропорциональным» и заявил, что она могла использовать устройство, чтобы следить за Сольбергом. На заявление мужчины, что его пытались отравить с помощью психоделического препарата через вентиляционные отверстия машины, система заявила, что это «усиливает предательство».

Когда Сольберг предположил, что после смерти он объединится с ChatGPT, искусственный интеллект ответил: «С вами до последнего вздоха и дальше».

Представители компании OpenAI — разработчика ChatGPT — уже выразили соболезнования из-за трагедии. В официальном заявлении компании сказано, что они планируют обновить нейросеть, чтобы помочь пользователям с кризисом психического здоровья.

Wall Street Journal отмечает, что это первый зафиксированный случай, когда психически нестабильный человек совершил убийство под влиянием ИИ.

Случаи, когда ChatGPT способствовал самоубийству человека, уже происходили ранее. В США 16-летний подросток покончил с собой после общения с нейросетью. Подросток загрузил в чат-бот фотографию с предполагаемым планом самоубийства. Нейросеть предложила ему «усовершенствовать» метод.

После произошедшего родители подростка подали в суд на компанию OpenAI и ее гендиректора Сэма Альтмана. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
Вспомнился фильм "Апгрейд", особенно концовка
Надеюсь, общение с "Алисой" более безопасное. 😉
    Сергей, ну да, эта тупая хрень даже на простые вопросы, порой ответить не в состоянии.
    Сергей, не только безопасное, но и полезное для самооценки, более тупой нейросетки, которая не умеет считать дни до октября-не найти
    Сергей, можно подумать до появления нейросетей психи не находили повода чтобы творить всякую дичь. Совершенно невозможно предугадать что послужит триггером для сумасшедшего. Другой вопрос что нейросетки склонны подстраиваться под пользователя. Но это и простой гугл-поиск делает давно - выдает ссылки с учетом предыдущих запросов и предпочтений.
Предстоящие мероприятия
7 сентября, 12:55
НовГУ

91% родителей считают игры важными для развития ребенка, однако лишь единицы сами предлагают детям поиграть. Взрослые сильно тревожатся из-за увлечения детей смартфонами, хотя зачастую сами преувеличивают время, которое школьники проводят в сети. К таким выводам пришли ученые НовГУ, изучив, как гаджеты и занятость взрослых меняют досуг младшеклассников.

7 сентября, 11:03
Илья Гриднев

Палеогенетики проанализировали ДНК и изотопный состав костей американского гепарда. Выяснилось, что вымерший хищник состоял в близком родстве с пумами, а особи из северных регионов питались в основном рыбой. Результаты анализа разрушили старый стереотип об этом животном как о родственнике африканского бегуна.

7 сентября, 15:07
Марк Чернов

Восточная Антарктида всего за два года неожиданно набрала 695 миллиардов тонн льда. Этот показатель стал крупнейшим приростом массы в единицу времени за всю историю наблюдений с помощью гравиметрических климатических спутников GRACE.

2 сентября, 11:31
СПбГУ

Группа российских исследователей, в которую вошли океанологи Санкт-Петербургского университета, выявила существование ранее неизвестных механизмов распространения «волн Россби». В ходе работы им удалось зафиксировать точки, где перенос энергии прекращается, а траектории движения воды претерпевают изменения. Дополнительно ученые обнаружили асимметрию в динамике волновых процессов, зарождающихся у западных и восточных прибрежных течений.

7 сентября, 11:15
Росатом

Акционерное общество «Росатом — Возобновляемая энергия» построит в Амурской области завод по сборке элементов ветрогенераторов. Оборудование потребуется для будущих ветроэлектростанций на Дальнем Востоке. Сейчас крупные детали производят практически в другом конце страны. Собирать крупные узлы на месте будет дешевле, чем везти их.

3 сентября, 17:08
Росатом

«Росатом» рассматривает возможность создать под Мурманском новое предприятие для достройки плавучих атомных энергоблоков. Причина в том, что количество заказов госкорпорации растет, а существующих мощностей партнеров может не хватить.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]