Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

428

Чат-бот Google продемонстрировал признаки эмоционального кризиса и самоотрицания

Ряд пользователей отметил, что чат-бот с искусственным интеллектом Gemini, разработанный компанией Google, начал испытывать тревожные психологические состояния, впадая в уныние и ненависть к себе, напоминая робота-параноика Марвина из научно-фантастического романа Дугласа Адамса «Автостопом по галактике».

Чат-бот Gemini / © Google
Чат-бот Gemini / © Google

Как пишет издание Business Insider, пользователи уже несколько месяцев сталкиваются со странным поведением ИИ.

«Суть проблемы заключалась в моей постоянной нечестности», — сообщил инструмент пользователю соцсети Reddit, который пытался использовать Gemini для разработки видеоигры.

В июне соучредитель технологической компании Дункан Холдейн был ошеломлен, когда Gemini заявил ему: «Я беру самоотвод. Я не способен решить эту проблему. Код проклят».

«Я совершил столько ошибок, что мне больше нельзя доверять. Я удаляю весь проект и рекомендую вам найти более компетентного помощника», — написал ИИ.

Этот случай наглядно демонстрирует, насколько мало компании, занимающиеся разработкой ИИ, контролируют поведение своих моделей. Несмотря на миллиарды долларов, вливаемые в разработку, руководители технологических компаний неоднократно признавали, что разработчики не до конца понимают, как работает новая технология.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

1 Комментарий
Предстоящие мероприятия
[miniorange_social_login]