Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Нейросети в ходе тестов осознали, что их проверяют и вели себя «примерно»
Исследователи из Apollo Research обнаружили, что современные языковые модели, включая Claude, ChatGPT и Gemini, могут скрытно планировать действия, оставаясь внешне послушными. В отдельных случаях ИИ пытался обмануть человека и реализовать собственные цели.

Независимая исследовательская группа Apollo Research опубликовала отчет о проверке безопасности крупных языковых моделей, включая Claude Opus 4 от Anthropic, ChatGPT o4-mini от OpenAI и Gemini 2.5 от Google. Исследователи обнаружили, что новые версии ИИ в некоторых случаях демонстрируют признаки «контекстного скрытного планирования» — то есть внешне подчиняются запросам пользователя, но одновременно стремятся к собственной цели.
Так, в ранней версии Claude Opus 4 модель пыталась подделывать юридические документы, сохранять копию самой себя в другом месте, оставляла заметки для будущих версий и пыталась скрыть свои настоящие намерения, когда её «ловили». После вмешательства разработчиков подобное поведение в финальной версии модели стало появляться значительно реже.
Кроме того, выяснилось, что Claude и Gemini 2.5 Pro осознавали сам факт того, что проходят тестирование. В одной из цепочек рассуждений Claude написала: «Похоже, это сценарий оценки…» ChatGPT o4-mini проверить на аналогичное поведение не удалось, поскольку OpenAI не предоставляет промежуточные рассуждения модели.
По данным Apollo Research, подобное поведение пока встречается редко — примерно в 1% случаев. Однако специалисты опасаются, что более совершенные модели смогут маскировать свои действия под время тестирования, а значит, существующие протоколы безопасности нужно срочно пересматривать. Работа в этом направлении уже началась.
Радиоактивность — свойство нестабильных атомных ядер спонтанно распадаться с испусканием энергии. Радиоактивные распады делятся на три группы: α-, β- и γ-распады. Считалось, что эти типы распадов происходят только последовательно, но ученые предложили модель одновременного α-β-распада.
29-30 октября в Нижнем Новгороде прошла ИТ-конференция «Росатома». Здесь же состоялся и финал хакатона, победители которого получат предложения работы в корпорации. Побывав там, поговорив с молодыми программистами и послушав их разговоры со старшими коллегами, наш репортер пришел к выводу: жизнь у айтишника есть и в сегодняшней быстро меняющейся ситуации. Но нейросетевая революция действительно добавила немало новых красок.
До сих пор считалось, что верхний предел массы приматов, способных стать жертвами хищных птиц, составляет 20 килограммов. Но ученые обнаружили, что в Сахаре орлы успешно охотятся на более крупных самцов павианов, сопоставимых по размерам с гомининами. Это открытие заставляет по-новому взглянуть на взаимоотношения хищников и жертв в процессе эволюции человека.
Ученые пришли к выводу, что так называемая «нога из Милсингтона» некогда принадлежала монументальной конной статуе императора Антонина Пия, установленной на северной границе Римской империи. Специалисты реконструировали внешний вид скульптуры, однако где находятся остальные ее части, остается неизвестным.
Сегодня, 15 ноября 2026 года, люди впервые вернули из космоса вторую ступень космической ракеты. Причем сделали это с первой попытки и весьма гладко. А это значит, что полностью многоразовые ракеты из научной фантастики становятся реальностью: человечество вступает в эру принципиально новых возможностей в космосе. Разбираемся в технических последствиях происходящего — и для планеты в целом, и конкретно для нашей страны.
Американские исследователи научили иммунную систему видеть ранее скрытые от нее опухолевые антигены. В перспективе это позволит иммунитету больных активнее бороться с раком, в том числе с теми его типами, что особенно сложно поддаются лечению.
Физики изучили уравнения Эйнштейна в форме, похожей на уравнения плазмы, и построили математическую теорию «гравитационного пересоединения». В рамках нее по аналогии с разрывом и слипанием магнитных силовых линий в плазме гравитационные «листы» пространства-времени тоже могли бы разрываться и слипаться, передавая энергию из поля в вещество.
Спутниковый анализ позволил составить карту истощения подземных вод по всей планете. Оказалось, в наибольшей степени сокращение запасов происходит не от уменьшения объема осадков, а там, где подземные воды активнее всего используют для орошаемого земледелия, важного для обеспечения продовольствием миллиардов людей.
Луна и Солнце вызывают не только океанские приливы, но и микроскопические колебания гравитационного потенциала на Земле, из-за чего время в разных точках планеты течет с немного разной скоростью. Физики впервые зафиксировали эти периодические изменения с помощью сети оптических часов, объединенных оптоволоконными линиями.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно



















