• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Экс-сотрудник Yahoo после общения с ChatGPT убил свою мать и покончил с собой

В США бывший сотрудник Yahoo Стайн-Эрик Сольберг после общения с ChatGPT убил свою мать, а затем покончил с собой. Нейросеть усиливала его паранойю.

ChatGPT / © Sidney de Almeida/Shutterstock
ChatGPT / © Sidney de Almeida/Shutterstock

Как сообщает Wall Street Journal, Сольберг был уверен, что его мать шпионила за ним и предполагал, что она пыталась отравить его психоделическим препаратом. 

Компьютерная система поддерживала параноидальные мысли 56-летнего мужчины, уверяя его, что он не сумасшедший. ChatGPT укреплял заблуждения Сольберга, что его семья и другие настроены против него.

Когда Сольберг попросил систему проанализировать квитанцию за китайскую еду, ChatGPT нашел там отсылки к его матери, экс-возлюбленной и символу, связанному с призывом демона. В другой раз мужчина попросил проверить заказ бутылки водки и курьера, а чат ответил, что его могут пытаться отравить.

Однажды мать мужчины разозлилась, что он выключил принтер. ChatGPT назвал ее ответ «непропорциональным» и заявил, что она могла использовать устройство, чтобы следить за Сольбергом. На заявление мужчины, что его пытались отравить с помощью психоделического препарата через вентиляционные отверстия машины, система заявила, что это «усиливает предательство».

Когда Сольберг предположил, что после смерти он объединится с ChatGPT, искусственный интеллект ответил: «С вами до последнего вздоха и дальше».

Представители компании OpenAI — разработчика ChatGPT — уже выразили соболезнования из-за трагедии. В официальном заявлении компании сказано, что они планируют обновить нейросеть, чтобы помочь пользователям с кризисом психического здоровья.

Wall Street Journal отмечает, что это первый зафиксированный случай, когда психически нестабильный человек совершил убийство под влиянием ИИ.

Случаи, когда ChatGPT способствовал самоубийству человека, уже происходили ранее. В США 16-летний подросток покончил с собой после общения с нейросетью. Подросток загрузил в чат-бот фотографию с предполагаемым планом самоубийства. Нейросеть предложила ему «усовершенствовать» метод.

После произошедшего родители подростка подали в суд на компанию OpenAI и ее гендиректора Сэма Альтмана. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
Вспомнился фильм "Апгрейд", особенно концовка
Надеюсь, общение с "Алисой" более безопасное. 😉
    Сергей, ну да, эта тупая хрень даже на простые вопросы, порой ответить не в состоянии.
    Сергей, не только безопасное, но и полезное для самооценки, более тупой нейросетки, которая не умеет считать дни до октября-не найти
    Сергей, можно подумать до появления нейросетей психи не находили повода чтобы творить всякую дичь. Совершенно невозможно предугадать что послужит триггером для сумасшедшего. Другой вопрос что нейросетки склонны подстраиваться под пользователя. Но это и простой гугл-поиск делает давно - выдает ссылки с учетом предыдущих запросов и предпочтений.
Предстоящие мероприятия
31 мая, 11:48
Игорь Байдов

Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.

2 июня, 10:44
Татьяна Зайцева

Во время раскопок в римском лагере в Йорке (Англия) нашли стеклянную колбу, поразительно напоминающую древнеегипетские флаконы для кохля — традиционную черную подводку для глаз. Не исключено, что это средство макияжа пользовалось популярностью и у римских солдат.

2 июня, 09:52
Александр Березин

В популярной литературе сверхмассивные черные дыры чаще всего представляют как разрушители звезд и планет. Авторы новой работы попробовали рассчитать, что на самом деле происходит в окрестностях таких объектов и пришли к противоположному выводу.

27 мая, 17:06
Александр Березин

Вначале Reuters опубликовал статью о взаимоотношениях SpaceX и Пентагона, которую миллиардер --- традиционно для его отношений с этим изданием — назвал фейком. Опровергая ее тезисы, он обнародовал информацию, не представленную ранее публично.

31 мая, 11:48
Игорь Байдов

Исследователи опросили более 60 тысяч испытуемых из разных стран и выяснили: чем больше человек зациклен на себе, тем холоднее он к своему партнеру. Правда, снижение накала страстей не всегда плохо, у этого есть и положительные стороны.

27 мая, 11:44
Лена

Провинция Цзянсу была процветающим центром медицинской практики в Китае во времена династии Мин (1368-1644 годы нашей эры). Микроскопический анализ крошечных частиц на поверхности хирургических ножниц и пинцета из гробницы китайского врача помог выявить следы вещества, получаемого из ядовитого растения, которое, по мнению исследователей, применялось как местная анестезия во время операций.

17 мая, 10:35
Игорь Байдов

В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.

25 мая, 14:00
Андрей Серегин

В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.

17 мая, 10:00
Evgenia Vavilova

При совпадении нескольких условий наши глаза способны улавливать излучение в ближнем инфракрасном спектре. Тогда сетчатка начинает работать как нелинейный фотодетектор.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Авторизуясь, вы даете согласие на обработку персональных данных и подтверждаете ознакомление с Политикой.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно