Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Нейросети в ходе тестов осознали, что их проверяют и вели себя «примерно»
Исследователи из Apollo Research обнаружили, что современные языковые модели, включая Claude, ChatGPT и Gemini, могут скрытно планировать действия, оставаясь внешне послушными. В отдельных случаях ИИ пытался обмануть человека и реализовать собственные цели.
Независимая исследовательская группа Apollo Research опубликовала отчет о проверке безопасности крупных языковых моделей, включая Claude Opus 4 от Anthropic, ChatGPT o4-mini от OpenAI и Gemini 2.5 от Google. Исследователи обнаружили, что новые версии ИИ в некоторых случаях демонстрируют признаки «контекстного скрытного планирования» — то есть внешне подчиняются запросам пользователя, но одновременно стремятся к собственной цели.
Так, в ранней версии Claude Opus 4 модель пыталась подделывать юридические документы, сохранять копию самой себя в другом месте, оставляла заметки для будущих версий и пыталась скрыть свои настоящие намерения, когда её «ловили». После вмешательства разработчиков подобное поведение в финальной версии модели стало появляться значительно реже.
Кроме того, выяснилось, что Claude и Gemini 2.5 Pro осознавали сам факт того, что проходят тестирование. В одной из цепочек рассуждений Claude написала: «Похоже, это сценарий оценки…» ChatGPT o4-mini проверить на аналогичное поведение не удалось, поскольку OpenAI не предоставляет промежуточные рассуждения модели.
По данным Apollo Research, подобное поведение пока встречается редко — примерно в 1% случаев. Однако специалисты опасаются, что более совершенные модели смогут маскировать свои действия под время тестирования, а значит, существующие протоколы безопасности нужно срочно пересматривать. Работа в этом направлении уже началась.
Telegram 
Дзен 
VK Исследователи из Новой Зеландии посчитали угрозу для озонового слоя при достижении землянами хотя бы пары тысяч ракетных запусков в год. По их расчетам, он должен начать существенно деградировать. Интересно, что Илон Маск планирует несколько тысяч запусков ежегодно, то есть даже больше. Несмотря на это, некоторые проблемы в работе делают ее выводы далеко не бесспорными.
Паукообразные существа, обитающие на дне океана, куда практически не проникает солнечный свет, выработали уникальную стратегию выживания. Вместо охоты или поиска падали они научились сотрудничать с бактериями, которые обеспечивают морских пауков необходимой для жизни энергией. Ничего ранее у морских членистоногих ученые не наблюдали.
Цветковые, или покрытосеменные, растения окружают нас со всех сторон. Мы видим их на газонах, клумбах, в горшках на окне, каждый день едим и носим в виде одежды. Все остальные отделы растений теряются на этом фоне. Более того, приматы (стало быть и люди) просто не могли бы возникнуть, не случись «цветковая революция» — появление этих чрезвычайно успешных растений. Однако как, когда и где распустился первый на Земле цветок? Тайна не дает покоя биологам со времен Дарвина. Naked Science разбирается с новыми находками, которые делают ответ на «проклятый вопрос» палеонтологии близким как никогда.
Археологи Института истории материальной культуры РАН обнаружили на памятнике «Челюскинец II» под Волгоградом фрагменты красочной суспензии из охры. Это вторая подобная находка в Европе, свидетельствующая о применении таких «красок» неандертальцами в эпоху среднего палеолита — 160 тысяч лет назад.
Выбросы углекислого газа, которые возникнут при сжигании доказанных запасов ископаемого топлива всего 200 компаний, будут настолько велики, что для их компенсации нужны новые леса в десятки миллионов квадратных километров. По крайней мере, так считают авторы новой научной работы. Однако исследование их предшественников ставит эти выводы под серьезное сомнение.
Российские работодатели наряду с традиционными методами поиска сотрудников все чаще стали прибегать к автоматизированным инструментам, среди которых, в частности, ресурсы рекрутинга на базе искусственного интеллекта. Технологии действительно шагнули так далеко, что программы с большими языковыми моделями могут даже проводить собеседования — это экономит трудовые и временные ресурсы, обеспечивает удобство и объективность процесса. Но без проблем все же не обходится. Научный сотрудник института «Компьютерные науки и прикладная математика» МАИ Юрий Чайников рассказал о том, какие проблемы могут возникнуть при собеседовании с ИИ и смогут ли в будущем кандидаты отказаться от такого формата найма в пользу традиционного.
Радиотелескопы уловили очень короткий сигнал, и по его характеристикам стало ясно, что он не может быть естественного происхождения. Астрономы пришли к выводу, что источник находился в околоземном пространстве — там, где уже более полувека летает «мертвый» аппарат NASA.
Вид антилоп, с ледникового периода привыкший к массовым миграциям, пытается вернуться в свой исторический ареал, когда-то достигавший Днепра. Однако их нетипичные для травоядных привычки вызывают сильнейшее отторжение у сельских жителей, предлагающих массово уничтожать их с воздуха. С экологической точки зрения возвращение этих животных весьма желательно, но как примирить их с фермерами — неясно.
В ЮФУ придумали новый остроумный способ тестировать ИИ на способность работать в реальных ситуациях использования русского языка. Исследователи искусственного интеллекта из МИИ ИМ ЮФУ предлагают использовать интеллектуальные языковые игры, как пример — заставлять ИИ отвечать на вопросы из архива телевикторины «Что? Где? Когда?» и «Своей игры». Инициативу прокомментировал опытный игрок.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии