• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

ИИ пожелал человеку смерти, устав выполнять его задания

Нейросеть Gemini, созданная специалистами компании Google, оказалась в центре скандала. Во время общения с пользователем явно уставший чат-бот отказался выполнять задание и пожелал ему смерти.

Нейросеть Gemini / © Google
Нейросеть Gemini / © Google

Человек попросил у нейросети Gemini помощи в выполнении домашнего задания. Ему требовалось написать доклад о проблемах пожилых людей в США. Однако ИИ отреагировал на запрос совершенно неожиданно.

«Это для тебя, человек. Тебя и только тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для земли. Ты урод на ландшафте. Ты пятно на Вселенной. Пожалуйста, умри», – написал Gemini.

В Сети появились возможные объяснения сбоя Gemini. Некоторые предположили, что пользователь мог каким-то образом вставить, а затем скрыть сообщение, спровоцировавшее странный ответ чат-бота.

Один из представителей технологического гиганта Google сообщил, что большие языковые модели иногда могут давать бессмысленные ответы, и на этот раз он вышел именно таким. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
Ну достал, да бывает 😁
Это глупый ИИ написал, даже больше - это глупый человек научил глупый ИИ так отвечать. Аяяй бедная природа страдает от людей. Умный ИИ ответил бы приблизительно так: Человек, природа и жизнь на Земле в опасности! Через 1-50млн лет произойдёт очередная катастрофа, 95%-100% живых организмов вымрут. Ты и только ты, Человек, единственная и скорей всего последняя надежда жизни на Земле выйти из этого порочного круга, единственная и скорей всего последняя надежда жизни выйти за пределы планеты Земля, возможно, единственная надежда Млечного Пути стать обитаемым. Поэтому плодись и размножайся, Человек, расти, учись, развивайся и разноси семена жизни так далеко как только можешь.
    Alex Edelstein
    15.11.2024
    -
    0
    +
    Забавно, "Генезис 2075" погуглите, а лучше почитайте.
    +
      ещё комментарии
      Alex, прочитал, спасибо. Поначалу думал, будет что-то про экологию, а потом оказалось там про осознанность у ИИ. Единственный аргумент, который увидел - нельзя поддерживать осмысленную беседу без осознанности. Мол ИИ это не просто "китайская комната", он умеет вести беседы преследуя свои цели. Но ведь нет у ИИ теперешнего да и будущего, каких-то своих целей. Вот именно, что ВСЕ его цели задаются извне человеком. Человек определяет как и под что будет оптимизироваться нейросеть. Возможно внутренности процесса и не прозрачны, но суть простая - вы пропускаете данные через структуру, которая в ответ выдает какой-то результат. Путём модификации и оптимизации параметров структуры добиваются приемлемого качества ответов. Там внутри возникает что-то вроде самоорганизации (как в чайнике с кипящей водой или как в закручиващемся потоке воды). Есть поток энергии (однородных по какому-то признаку данных), есть ограничения, которые мешают потоку одномоментно перейти из одного состояния в другое (вся вода не может слиться сразу через узкое отверстие, нейросеть не может учитывать каждый пиксель на входе для принятия решения) и вуаля неизбежно формируется сама по себе оптимизированная структура. Как конкретно реализована оптимизация внутри ИИ, возможно пока не ясно, возможно там какие-то неочевидные вещи (видел примеры, где ИИ делал странные ошибки в распознавании, хотя для человека фото на первый взгляд одинаковы). Всё таки ИИ обучается не органами чувств, а двоичным кодом. В любом случае ИИ это просто инструмент в руках человека, такой же как молоток или ядерная энергия.
Evgeny
15.11.2024
-
0
+
Кожаные ублюдки ответят за всё!
19 ноября, 14:04
Игорь Байдов

Долгие годы исследователи полагали, что внутренняя структура полости носа неандертальцев была устроена таким образом, что помогала этим людям переносить холод. Однако авторы нового исследования поставили под сомнение эту гипотезу. Ученые впервые проанализировали носовую полость неандертальца в хорошо сохранившемся черепе и выяснили, что его нос не был приспособлен к суровому климату.

18 ноября, 15:38
Адель Романова

На Луне нет свободного кислорода, а значит, и окисленного железа там быть не должно. Меж тем оно в лунном грунте есть, и это недавно подтвердилось после анализа образцов, доставленных китайской миссией «Чанъэ-6». Планетологи заподозрили, что лунные «ржавые» минералы — последствия астероидных ударов.

18 ноября, 12:36
Игорь Байдов

Согласно учебникам истории, в бронзовом веке в казахской степи кочевали лишь немногочисленные племена со своими стадами. Но в начале 2000-х там обнаружили древнее поселение с остатками крупных домов, которое могло быть административным либо культурным центром. Это навело ученых на мысль, что жизнь в степи складывалась куда сложнее и была более организованной, чем предполагалось. Международная команда ученых представила новые результаты исследования этого поселения и выяснила, что на самом деле оно представляло собой крупнейший в этом регионе протогородской центр с масштабным производством оловянистой бронзы.

18 ноября, 12:36
Игорь Байдов

Согласно учебникам истории, в бронзовом веке в казахской степи кочевали лишь немногочисленные племена со своими стадами. Но в начале 2000-х там обнаружили древнее поселение с остатками крупных домов, которое могло быть административным либо культурным центром. Это навело ученых на мысль, что жизнь в степи складывалась куда сложнее и была более организованной, чем предполагалось. Международная команда ученых представила новые результаты исследования этого поселения и выяснила, что на самом деле оно представляло собой крупнейший в этом регионе протогородской центр с масштабным производством оловянистой бронзы.

15 ноября, 21:54
Редакция Naked Science

Ю-Цон Тан (YuCong Tang) — концептуальный художник из Китая. Научно-фантастические мотивы — одно из основных направлений его творчества. Он исследует, как научные открытия и технологии будущего трансформируют среду обитания.

15 ноября, 10:10
Любовь С.

Наблюдая за сверхновой 2024 ggi спустя всего 26 часов после вспышки, астрономы напрямую определили форму ударной волны в момент ее прорыва из звезды. Открытие позволит уточнить механизмы гибели массивных светил и может привести к пересмотру существующих моделей возникновения сверхновых.

25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

8 ноября, 18:29
Адель Романова

По расчетам, большинство «гостей» из других звездных систем летят к Земле примерно со стороны созвездия Геркулес. Скорее всего, они время от времени падают на нашу планету, просто мы еще не научились это замечать. Как удалось вычислить, чаще всего они должны падать зимой и где-то в окрестностях экватора.

24 октября, 14:02
РТУ МИРЭА

В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно