Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Нейросети в ходе тестов осознали, что их проверяют и вели себя «примерно»
Исследователи из Apollo Research обнаружили, что современные языковые модели, включая Claude, ChatGPT и Gemini, могут скрытно планировать действия, оставаясь внешне послушными. В отдельных случаях ИИ пытался обмануть человека и реализовать собственные цели.

Независимая исследовательская группа Apollo Research опубликовала отчет о проверке безопасности крупных языковых моделей, включая Claude Opus 4 от Anthropic, ChatGPT o4-mini от OpenAI и Gemini 2.5 от Google. Исследователи обнаружили, что новые версии ИИ в некоторых случаях демонстрируют признаки «контекстного скрытного планирования» — то есть внешне подчиняются запросам пользователя, но одновременно стремятся к собственной цели.
Так, в ранней версии Claude Opus 4 модель пыталась подделывать юридические документы, сохранять копию самой себя в другом месте, оставляла заметки для будущих версий и пыталась скрыть свои настоящие намерения, когда её «ловили». После вмешательства разработчиков подобное поведение в финальной версии модели стало появляться значительно реже.
Кроме того, выяснилось, что Claude и Gemini 2.5 Pro осознавали сам факт того, что проходят тестирование. В одной из цепочек рассуждений Claude написала: «Похоже, это сценарий оценки…» ChatGPT o4-mini проверить на аналогичное поведение не удалось, поскольку OpenAI не предоставляет промежуточные рассуждения модели.
По данным Apollo Research, подобное поведение пока встречается редко — примерно в 1% случаев. Однако специалисты опасаются, что более совершенные модели смогут маскировать свои действия под время тестирования, а значит, существующие протоколы безопасности нужно срочно пересматривать. Работа в этом направлении уже началась.
На южном полюсе Луны есть впадина диаметром более двух тысяч километров — крупнейший бесспорный след падения небесного тела в Солнечной системе. Недавно китайский автомат впервые в истории доставил оттуда пробу грунта. Теперь китайские ученые на ее основе разобрались в формировании этого ударного бассейна.
Многие думают, что чем больше мозг, тем выше интеллект — конечно, с поправкой на пропорции. Например, у кита мозг больше нашего, но мы умнее, ведь в процентах от массы тела наш мозг весомее. А еще важна поверхность коры и многие другие факторы. Но все эти закономерности поставил под вопрос обычный шмель. При совершенно ничтожном количестве нейронов он показал серьезные возможности. Исследователи все еще разбираются, как шмелям это удалось, но похоже, что все дело в необычной структуре и организации их мозга.
Под Новосибирском в наукограде Кольцово создан суперсовременный научный объект – источник синхротронного излучения, который называется Центр коллективного пользования «Сибирский кольцевой источник фотонов» или сокращенно ЦКП «СКИФ». Установка реально большая, сложная, перспективная и давно ожидаемая исследовательским сообществом страны, поэтому внимания со стороны СМИ хватает. Желающие могут погуглить и почитать. Многие, кому интересно, что такое «источник синхротронного излучения», так и делают, читают и оставляют комментарии (куда же без них!). В этой статье на Naked Science директор ЦКП «СКИФ» академик РАН Евгений Левичев попытался ответить на волнующие читателей вопросы и рассказать, что такое СКИФ, и зачем мы его построили.
На южном полюсе Луны есть впадина диаметром более двух тысяч километров — крупнейший бесспорный след падения небесного тела в Солнечной системе. Недавно китайский автомат впервые в истории доставил оттуда пробу грунта. Теперь китайские ученые на ее основе разобрались в формировании этого ударного бассейна.
Многие думают, что чем больше мозг, тем выше интеллект — конечно, с поправкой на пропорции. Например, у кита мозг больше нашего, но мы умнее, ведь в процентах от массы тела наш мозг весомее. А еще важна поверхность коры и многие другие факторы. Но все эти закономерности поставил под вопрос обычный шмель. При совершенно ничтожном количестве нейронов он показал серьезные возможности. Исследователи все еще разбираются, как шмелям это удалось, но похоже, что все дело в необычной структуре и организации их мозга.
Под Новосибирском в наукограде Кольцово создан суперсовременный научный объект – источник синхротронного излучения, который называется Центр коллективного пользования «Сибирский кольцевой источник фотонов» или сокращенно ЦКП «СКИФ». Установка реально большая, сложная, перспективная и давно ожидаемая исследовательским сообществом страны, поэтому внимания со стороны СМИ хватает. Желающие могут погуглить и почитать. Многие, кому интересно, что такое «источник синхротронного излучения», так и делают, читают и оставляют комментарии (куда же без них!). В этой статье на Naked Science директор ЦКП «СКИФ» академик РАН Евгений Левичев попытался ответить на волнующие читателей вопросы и рассказать, что такое СКИФ, и зачем мы его построили.
Физики изучили уравнения Эйнштейна в форме, похожей на уравнения плазмы, и построили математическую теорию «гравитационного пересоединения». В рамках нее по аналогии с разрывом и слипанием магнитных силовых линий в плазме гравитационные «листы» пространства-времени тоже могли бы разрываться и слипаться, передавая энергию из поля в вещество.
Скорость развития собаки в первые годы жизни оказалась намного выше, чем у человека, но дальше процессы ее старения существенно замедляются. Даже скорость взросления и угасания отдельных подсистем организма у этих животных серьезно неодинаковая, из-за чего расхожее представление «один собачий год равен семи человеческим» дважды неверно.
Спутниковый анализ позволил составить карту истощения подземных вод по всей планете. Оказалось, в наибольшей степени сокращение запасов происходит не от уменьшения объема осадков, а там, где подземные воды активнее всего используют для орошаемого земледелия, важного для обеспечения продовольствием миллиардов людей.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
ЦКП «СКИФ» 


