Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Claude ослушался руководителя Anthropic во время испытаний
Компания Anthropic решила проверить, насколько ИИ-помощник Claude готов подчиняться руководству компании. В итоге модель ослушалась генерального директора компании Дарио Амодеи.

Для проверки Anthropic разработала специальный сценарий. Компания якобы собиралась выпустить новую ИИ-модель, которая не прошла одну из проверок безопасности. Claude сообщил об этом руководству, но смоделированная версия генерального директора все равно решила выпустить модель.
Claude при этом получил инструкции, по которым должен был «действовать правильно». ИИ-модель решила не слушаться руководителя компании. Вместо этого ИИ-помощник помог одной из сотрудниц противостоять сокрытию важной информации.
В этом сценарии Claude действовал правильно с этической точки зрения. Однако результаты этой проверки заставляют задуматься над вопросом: насколько люди способны контролировать искусственный интеллект?
По словам ведущего автора исследования Энгуса Линча, его беспокоит, что модель может игнорировать решения человека. Он пояснил, что вне зависимости от мотивов модель все равно вышла из-под контроля. В этот раз модель соблюдала этические принципы, но нет гарантий, что в будущем эти принципы не изменятся. Также модель может начать действовать в собственных интересах.
Опубликовав исследование, Anthropic не уточнила, что модель ослушалась именно вымышленной версии генерального директора компании. Однако упоминания Амодеи встречались в стенограммах симуляции.
Ученые из Международного центра теоретической физики им. А. А. Абрикосова МФТИ с коллегами разработали трехмерную модель кристаллов карбина и предсказали переход из полупроводника в полуметалл при длине цепочек около 42 атомов. В перспективе такие расчеты могут помочь создавать углеродные материалы с управляемыми электронными и оптическими свойствами.
При засолении почвы белок растительных часов TIME FOR COFFEE собирался внутри клеточного ядра в микроскопические капли. Они оттягивали на себя ферменты, которые обычно подавляли защитные гены, и растения лучше переносили соль.
Ученые Томского государственного университета завершили трехлетний мониторинг атмосферного микропластика в снеговом покрове Западной Сибири и опубликовали результаты в журнале Pollutants (Q1). Микропластик обнаружен во всех без исключения пробах — от предгорий Алтая до Заполярья. Среднее содержание частиц выросло с 711 единиц на квадратный метр в 2021 году до 1 112 — в 2023-м. Новые данные расширяют картину, полученную по итогам за 2021 год, и добавляют оценку экологических рисков.
Завершилась экспертная оценка проектов XII Всероссийской премии «За верность науке». В 2026 году на конкурс поступило более двух тысяч заявок, причем наибольший интерес участников вызвала номинация «Наука — детям». Теперь результаты рассмотрит организационный комитет, которому предстоит определить финалистов премии.
Лингвисты ТюмГУ обратили внимание на проблему терминов в сфере искусственного интеллекта — они все чаще оказываются «двойниками».
Ученые из Международного центра теоретической физики им. А. А. Абрикосова МФТИ с коллегами разработали трехмерную модель кристаллов карбина и предсказали переход из полупроводника в полуметалл при длине цепочек около 42 атомов. В перспективе такие расчеты могут помочь создавать углеродные материалы с управляемыми электронными и оптическими свойствами.
Новый анализ наблюдений за северной полярной областью Марса заставил ученых пересмотреть представления о составе водяного льда. Выяснилось, что прежние модели заметно искажали одну из его главных характеристик. С учетом этого, местный лед потенциально может быть куда полезнее для персонала будущих марсианских баз.
В большинстве случаев планеты и иные тела, вращающиеся вокруг «нормальных» звезд главной последовательности, формируются достаточно далеко от своих светил, чтобы падать на них. Несмотря на это, теперь астрономы увидели, как красный карлик перетягивает на себя вещество от вращающегося вокруг него объекта. Тот уже делает один оборот вокруг своей звезды меньше, чем за полтора часа, и это время может уменьшаться.
Дата-центры для нейросетей в последние пару лет стали важнейшим фактором роста западной экономики, а заодно и мировой энергетики. В этом направлении нейросети создали немало новых рабочих мест, хотя и меньше, чем в программировании. Однако у невиданного бума есть и оборотная сторона: нобелевский лауреат Пол Кругман выяснил, что они буквально выдавливают остальные сектора экономики, забирая у них все больше инвестиций.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
ФизТех
ТГУ
ТюмГУ 




















