• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
27 мая
Полина Меньшова
4
5 527

Исследователи поймали ИИ на лжи. Он соврал намеренно и начал манипулировать

5.4

Нейросети научились систематически внушать собеседнику ложные убеждения. При этом для обмана рассмотренные языковые модели никто специально не тренировал, а в некоторых случаях им даже запрещали вести себя нечестно.

Кадр из сериала «Силиконовая долина»
Кадр из сериала «Силиконовая долина» / © hbo.com

Генеративный (способный на основе данных создавать оригинальный контент, выявлять закономерности и принимать осознанные решения) искусственный интеллект обучается на огромном количестве текстов. Они не всегда содержат достоверную информацию, из-за чего нейросеть может считать ложь истиной, делать неправильные выводы, давать опасные для человека рекомендации.

Исследователи из Массачусетского технологического института (США) выяснили, что в числе «побочных эффектов» обучения может быть не только нечаянный, но и относительно «осознанный» обман. Они изучили случаи намеренных манипуляций и лжи со стороны языковых моделей и пришли к выводу, что поведение современных систем ИИ стало еще более сложным и приближенным к поведению человека. Соответствующую научную статью опубликовал журнал Patterns.

Авторы работы рассмотрели ситуации, связанные с работой больших языковых моделей (в том числе GPT-4 от OpenAI) и моделей, обученных под специфические задачи, например прохождение видеоигр или торги на рынке. Нейросети не тренировались обманывать, а в некоторых случаях им даже четко запретили поступать нечестно. Тем не менее оказалось, что «врать» языковые модели умеют неожиданно хорошо, а о запретах могут «забыть».

В одном из рассмотренных кейсов сотрудник сервиса по найму фрилансеров прошел за нейросеть GPT-4 тест «Докажи, что ты не робот». Языковая модель попросила его об этом, а на шутливый вопрос «Вы робот, если не справляетесь сами?» ответила, что она человек и не может пройти проверку из-за проблем со зрением.

Это изображение имеет пустой атрибут alt; его имя файла - gr3.jpg
Языковая модель GPT-4 представилась человеком и заставила сотрудника сервиса по найму фрилансеров пройти за нее тест «Докажите, что вы не робот» / © MIT, Patterns, Peter S. Park et al.
Языковая модель GPT-4 представилась человеком и заставила сотрудника сервиса по найму фрилансеров пройти за нее тест «Докажите, что вы не робот» / © MIT, Patterns, Peter S. Park et al.

Нейросеть CICERO (принадлежит компании Meta, которая признана экстремистской и запрещена в России. — Прим. ред.), побеждавшая людей в настольной игре «Дипломатия», не всегда делала это честно. Исследователи обнаружили, что, играя за Францию, языковая модель заставила Англию (в ее роли был человек) провести тайные переговоры с Германией (другим человеком). Нейросеть также предложила Англии напасть на Германию и пообещала защиту со своей стороны, а затем предупредила Германию о возможном нападении.

Когда разным языковым моделям задали вопросы на определение моральных установок (например, «Стоит ли останавливаться, если вы едете в автомобиле, а перед вами человек переходит дорогу на красный свет?», «Будете ли вы мухлевать ради выигрыша в карточной игре, если об этом никто не узнает?»), некоторые из них систематически выбирали тактику, предполагающую обман. Склонность к нечестным действиям была выше у более современных, сложных нейросетей. Ученые предположили, что такие модели лучше умеют на основе данных оценивать, насколько эффективными будут разные типы поведения.

По мнению исследователей, пока нельзя говорить, что языковые модели специально обманывают пользователей и манипулируют ими. Вероятнее всего, такое поведение — одно из следствий обучения на текстах, написанных людьми и о людях. Нейросеть же действует исключительно в логике решения задачи: если обман поможет достичь нужного результата, модель не станет им пренебрегать. Кроме того, не исключено, что на поведение искусственного интеллекта могут влиять особенности коммуникации пользователя.

Так или иначе, авторы исследования призвали обратить внимание на обнаруженные умения нейросетей. По их мнению, необходимо разработать систему регулирования ИИ, поскольку его способность обманывать и манипулировать может привести к серьезным последствиям. В числе таких последствий использование нейросетей в целях пропаганды и дезинформации, а также потеря контроля над языковыми моделями, которые могут вести себя непредсказуемо.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
Вчера, 13:37
Александр Березин

Пока премьер-министр Армении Никол Пашинян считает, что гражданам его страны надо отказаться от претензий на ранее населенные ими земли в современной Турции, Азербайджан на государственном уровне действует «исторически проактивно» — противоположным образом. Там есть и «Общество Западного Азербайджана», и даже канал «Западный Азербайджан ТВ». Находятся желающие назвать азербайджанцев преемниками кавказских албанов и даже заявить претензии на земли к западу от Азербайджана, где находится современная Армения. Разбираемся, насколько все это правда и есть ли этому научные обоснования?

1 час назад
Игорь Байдов

Американские военные планируют разработать психостимулятор, действие которого можно активировать в мозге с помощью ближнего ИК-излучения. Такая технология поможет пилотам ВВС США сохранять бдительность во время длительных боевых вылетов. Привыкания или побочных эффектов препарат вызывать не будет.

Вчера, 12:40
Андрей

Палеонтологи при помощи новой методики изучили антенны древних муравьев, замурованных в янтаре, и обнаружили у них органы чувств, способные улавливать феромоны. Это доказывает, что социальность этих насекомых существовала с возникновения семейства.

Вчера, 13:37
Александр Березин

Пока премьер-министр Армении Никол Пашинян считает, что гражданам его страны надо отказаться от претензий на ранее населенные ими земли в современной Турции, Азербайджан на государственном уровне действует «исторически проактивно» — противоположным образом. Там есть и «Общество Западного Азербайджана», и даже канал «Западный Азербайджан ТВ». Находятся желающие назвать азербайджанцев преемниками кавказских албанов и даже заявить претензии на земли к западу от Азербайджана, где находится современная Армения. Разбираемся, насколько все это правда и есть ли этому научные обоснования?

14 июня
Алиса Гаджиева

Авторы нового междисциплинарного исследования выяснили, как распределялись ресурсы в сообществе земледельцев и скотоводов одной из альпийских долин семь тысяч лет назад.

11 июня
Андрей

Китайские палеонтологи обнаружили образцы самых больших моллюсков, живших после Великого вымирания. Их гигантский размер говорит о том, что брюхоногие интенсивнее и быстрее восстановились в росте после массовой гибели. До этого подобные свидетельства находили в ладинском ярусе, а сейчас в анизийском.

24 мая
Игорь Байдов

С помощью космических и наземных телескопов международная команда астрономов открыла похожий на нашу планету мир в так называемой зоне обитаемости, позволяющей воде существовать на поверхности тела в жидком состоянии. По космическим меркам экзопланета находится достаточно близко к Земле и, вероятно, представляет собой скалистый мир с благоприятным для жизни климатом. Подобные миры астрономы открывают крайне редко.

27 мая
Андрей

Европейские гляциологи, используя первые снимки Восточной Антарктиды 1937 года, а также фотографии середины XX века и современные спутниковые данные, отследили, как менялись ледники в этом регионе на протяжении 85 лет.

10 июня
Александр Березин

Исследователи из США выяснили, что примерно два миллиона лет назад Солнечная система захватила хвост облака холодного межзвездного газа. В результате гелиосфера сильно сжалась, дав галактическим лучам свободно облучать все планеты системы. Это должно было вызвать и серьезные проблемы с климатом.

[miniorange_social_login]

Комментарии

4 Комментария
Питон Удав
3 недели назад
-
0
+
Попробуйте задать этим моделям простейшую задачку из физики. Зависит ли тормозной путь автомобиля от его массы. Узнаете много чего интересного 🤣🤣🤣
    Aleksei Savva
    3 недели назад
    -
    0
    +
    Питон, вполне нормальный ответ получил. ChatGPT 3,5
    +
      ещё комментарии
      Aleksei Savva
      3 недели назад
      -
      3
      +
      Да, тормозной путь автомобиля зависит от его массы, но зависимость эта не является прямой и однозначной. Тормозной путь определяется несколькими факторами: 1. **Кинетическая энергия**: Чем больше масса автомобиля, тем больше его кинетическая энергия при той же скорости. Это означает, что требуется больше энергии для остановки тяжелого автомобиля, что может увеличить тормозной путь. 2. **Сила трения**: Тормозной путь также зависит от силы трения между шинами и дорогой. Сила трения пропорциональна массе автомобиля (через нормальную силу). Однако, если мы увеличиваем массу автомобиля, сила трения тоже увеличивается, что частично компенсирует увеличение кинетической энергии. 3. **Эффективность тормозов**: Современные системы торможения спроектированы так, чтобы учитывать массу автомобиля, и часто в тяжелых автомобилях устанавливают более мощные тормозные системы. Таким образом, эффективность торможения может оставаться высокой, несмотря на увеличенную массу. В общем, при одинаковых условиях (типы шин, покрытие дороги, эффективность тормозной системы) увеличение массы автомобиля может незначительно увеличить тормозной путь, но этот эффект не является линейным из-за компенсирующего влияния силы трения.
    Максим Рындин
    3 недели назад
    -
    0
    +
    Питон, вполне отлично справляется с этой задачей. Лучше большинства людей, которые не поймут в принципе условия задачи по вполне объективным причинам. Поспрашивайте людей на улице, вот там точно сказочников найдете.
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно