• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Чат-бот Google продемонстрировал признаки эмоционального кризиса и самоотрицания

Ряд пользователей отметил, что чат-бот с искусственным интеллектом Gemini, разработанный компанией Google, начал испытывать тревожные психологические состояния, впадая в уныние и ненависть к себе, напоминая робота-параноика Марвина из научно-фантастического романа Дугласа Адамса «Автостопом по галактике».

Чат-бот Gemini / © Google
Чат-бот Gemini / © Google

Как пишет издание Business Insider, пользователи уже несколько месяцев сталкиваются со странным поведением ИИ.

«Суть проблемы заключалась в моей постоянной нечестности», — сообщил инструмент пользователю соцсети Reddit, который пытался использовать Gemini для разработки видеоигры.

В июне соучредитель технологической компании Дункан Холдейн был ошеломлен, когда Gemini заявил ему: «Я беру самоотвод. Я не способен решить эту проблему. Код проклят».

«Я совершил столько ошибок, что мне больше нельзя доверять. Я удаляю весь проект и рекомендую вам найти более компетентного помощника», — написал ИИ.

Этот случай наглядно демонстрирует, насколько мало компании, занимающиеся разработкой ИИ, контролируют поведение своих моделей. Несмотря на миллиарды долларов, вливаемые в разработку, руководители технологических компаний неоднократно признавали, что разработчики не до конца понимают, как работает новая технология.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

1 Комментарий
Будет весело если чат боты начнут предсказывать вещи, которые будут сбываться на 100% при этом, делать свои предсказания ни чем не подкрепленными следствиями. На вопрос от куда они это знают будут отвечать что это им приснилось
Предстоящие мероприятия
28 июля, 13:27
Александр Березин

Бывшие сотрудники NASA констатировали, что последнее видео испытаний крупнейшего космического корабля в истории снова показало проблемы и ограничения его теплового щита. С их точки зрения, любая из существующих технологий такого типа слишком сложна для реализации замысла Илона Маска о быстрой и безремонтной многоразовости Starship.

28 июля, 10:09
ПНИПУ

Рост средней продолжительности жизни и старение населения формируют новые требования к системе государственного планирования. Для обоснованного распределения ресурсов в сфере здравоохранения, пенсионного обеспечения и социальной поддержки необходимы достоверные данные о возрастной структуре общества. Сегодня для этого применяют специальные математические модели, позволяющие прогнозировать изменения. Проблема в том, что их создавали еще в прошлом веке. Они не учитывают существующие демографические закономерности и улучшение качества современной жизни. Их использование часто ведет к значительным погрешностям в расчетах, что, в свою очередь, делает невозможным своевременное перераспределение бюджетных средств между ключевыми государственными структурами. Ученые Пермского Политеха предложили новую модель для прогнозирования продолжительности жизни, которая работает с точностью 99,7%. Ее можно применять для планирования в сфере здравоохранения, пенсионного обеспечения и социальной поддержки.

28 июля, 11:46
Редакция Naked Science

Правительство испанского автономного сообщества Арагон поддержало строительство гигафабрики по производству аккумуляторов в Фигеруэласе — совместный проект Stellantis и CATL. Решение завершило процесс согласования, открыв путь к реализации проекта TORO.

24 июля, 11:13
Игорь Байдов

Правильно подобранные звуковые последовательности способны не только стимулировать рост растений, но и влиять на их урожайность. К такому выводу пришли авторы нового исследования. Они разработали технологию, которая позволяет воздействовать на процессы развития растений через акустические сигналы без использования генной инженерии или химикатов. В экспериментах добились повышения урожайности мяты, сои, болгарского перца и конопли.

28 июля, 13:27
Александр Березин

Бывшие сотрудники NASA констатировали, что последнее видео испытаний крупнейшего космического корабля в истории снова показало проблемы и ограничения его теплового щита. С их точки зрения, любая из существующих технологий такого типа слишком сложна для реализации замысла Илона Маска о быстрой и безремонтной многоразовости Starship.

28 июля, 10:09
ПНИПУ

Рост средней продолжительности жизни и старение населения формируют новые требования к системе государственного планирования. Для обоснованного распределения ресурсов в сфере здравоохранения, пенсионного обеспечения и социальной поддержки необходимы достоверные данные о возрастной структуре общества. Сегодня для этого применяют специальные математические модели, позволяющие прогнозировать изменения. Проблема в том, что их создавали еще в прошлом веке. Они не учитывают существующие демографические закономерности и улучшение качества современной жизни. Их использование часто ведет к значительным погрешностям в расчетах, что, в свою очередь, делает невозможным своевременное перераспределение бюджетных средств между ключевыми государственными структурами. Ученые Пермского Политеха предложили новую модель для прогнозирования продолжительности жизни, которая работает с точностью 99,7%. Ее можно применять для планирования в сфере здравоохранения, пенсионного обеспечения и социальной поддержки.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

1 июля, 11:54
Марк Чернов

Древнеримские инженеры проложили колоссальную сеть дорог через Европу, Северную Африку и Ближний Восток, многие участки которой до сих пор поражают безупречной прямолинейностью. Секрет строительства заключался в использовании трех особых геодезических инструментов, с помощью которых разбивали местность на ровные отрезки и размечали трассы.

[miniorange_social_login]