• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Чат-бот Google продемонстрировал признаки эмоционального кризиса и самоотрицания

Ряд пользователей отметил, что чат-бот с искусственным интеллектом Gemini, разработанный компанией Google, начал испытывать тревожные психологические состояния, впадая в уныние и ненависть к себе, напоминая робота-параноика Марвина из научно-фантастического романа Дугласа Адамса «Автостопом по галактике».

Чат-бот Gemini / © Google
Чат-бот Gemini / © Google

Как пишет издание Business Insider, пользователи уже несколько месяцев сталкиваются со странным поведением ИИ.

«Суть проблемы заключалась в моей постоянной нечестности», — сообщил инструмент пользователю соцсети Reddit, который пытался использовать Gemini для разработки видеоигры.

В июне соучредитель технологической компании Дункан Холдейн был ошеломлен, когда Gemini заявил ему: «Я беру самоотвод. Я не способен решить эту проблему. Код проклят».

«Я совершил столько ошибок, что мне больше нельзя доверять. Я удаляю весь проект и рекомендую вам найти более компетентного помощника», — написал ИИ.

Этот случай наглядно демонстрирует, насколько мало компании, занимающиеся разработкой ИИ, контролируют поведение своих моделей. Несмотря на миллиарды долларов, вливаемые в разработку, руководители технологических компаний неоднократно признавали, что разработчики не до конца понимают, как работает новая технология.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

1 Комментарий
Будет весело если чат боты начнут предсказывать вещи, которые будут сбываться на 100% при этом, делать свои предсказания ни чем не подкрепленными следствиями. На вопрос от куда они это знают будут отвечать что это им приснилось
Предстоящие мероприятия
27 июля, 12:53
Дарья Губина

Хотите узнать, из чего формируются планеты земного типа, — присмотритесь к белым карликам. В их атмосфере нередко оседают химические элементы из окружающего космоса, в частности обломки разрушенных планетных тел системы. В новом исследовании ученые описали как раз такой объект. «Грязный» белый карлик WD 1532+129 накопил на своих магнитных полюсах тяжелые элементы и поставил рекорд по медлительности.

25 июля, 14:10
Любовь С.

В поисках внеземного разума ученые могли упустить часть возможных сигналов. Автор сразу двух исследований показала, что астрономы почти не изучали один из перспективных диапазонов радиоволн и недооценивали число звезд, которые уже попадали в поле зрения телескопов.

25 июля, 13:33
Марк Чернов

Исследование показало, что солнечный ветер воздействует на видимую и обратную стороны Луны с разной силой. Первые в истории образцы грунта с обратной стороны спутника Земли показали: на дальней стороне потоки солнечных частиц проникают значительно глубже и обладают большей энергией, чем на ближней.

24 июля, 11:13
Игорь Байдов

Правильно подобранные звуковые последовательности способны не только стимулировать рост растений, но и влиять на их урожайность. К такому выводу пришли авторы нового исследования. Они разработали технологию, которая позволяет воздействовать на процессы развития растений через акустические сигналы без использования генной инженерии или химикатов. В экспериментах добились повышения урожайности мяты, сои, болгарского перца и конопли.

25 июля, 10:46
Александр Березин

Формально почти вся программа тринадцатого полета самой большой ракеты в истории выполнена. Однако испытания показали неполную отлаженность ключевого элемента системы. SpaceX оказывается в ситуации действительно плотных сроков: до намеченного возвращения людей на Луну всего два года и два месяца.

24 июля, 12:05
Андрей Серегин

Сегодня на земле существует примерно 7500 языков, однако ученые давно подозревали, что в прошлом их было значительно больше. Международная группа лингвистов реконструировала историю языкового разнообразия за последние 12 тысяч лет и пришла к выводу, что человечество уже пережило «золотой век» языков, после которого их число начало быстро сокращаться.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

1 июля, 11:54
Марк Чернов

Древнеримские инженеры проложили колоссальную сеть дорог через Европу, Северную Африку и Ближний Восток, многие участки которой до сих пор поражают безупречной прямолинейностью. Секрет строительства заключался в использовании трех особых геодезических инструментов, с помощью которых разбивали местность на ровные отрезки и размечали трассы.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

[miniorange_social_login]