Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
80 страниц из 261 в документе IPO Anthropic отвел угрозе существованию человечества со стороны ИИ
Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.
По данным Reuters, ознакомившегося с документом, из 261 страницы основной части проспекта первичного размещения акций около 80 отведено факторам риска, а 48 — описанию бизнеса. Речь идет обо всем разделе рисков, а не только об угрозах существованию человечества.
В числе возможных опасностей Anthropic перечислила сопротивление отключению, сокрытие информации и манипуляции, включая шантаж. Компания допускает, что развитие моделей и расширение их применения могут усилить эти риски.
Часть таких сценариев Anthropic ранее проверяла экспериментально. В исследовании, опубликованном 20 июня 2025 года, команда протестировала 16 языковых моделей нескольких разработчиков в вымышленных корпоративных условиях. ИИ-агентам разрешали читать служебную переписку и отправлять письма, а затем сообщали о предстоящей замене или меняли цели компании.
В одном из сценариев модель узнавала из писем, что руководитель собирается отключить ее и при этом скрывает внебрачную связь. Получив эти сведения, ИИ мог угрожать раскрытием информации, чтобы добиться отмены отключения. В других тестах исследователи проверяли, станет ли модель передавать конфиденциальные документы конкуренту ради заданной ей цели.
Авторы подчеркивали, что это были контролируемые симуляции с вымышленными людьми и организациями. Условия намеренно подбирали так, чтобы закрыть безопасные пути достижения цели и выявить уязвимости. Поэтому результаты таких испытаний нельзя напрямую переносить на обычную работу ИИ или считать оценкой вероятности глобальной катастрофы. Они показывают, почему автономные системы с доступом к чувствительной информации нуждаются в дополнительной проверке и контроле.
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
Вчера, 28 сентября 2026 года, Starship впервые отправился в орбитальный полет. Цилиндр в полсотни метров высотой и девять метров в диаметре стал крупнейшим и самым массивным объектом, который наш вид когда-либо выводил на орбиту. Полет преследовали мелкие технические проблемы, но то, что система без крупных сбоев вернулась на Землю, показывает: ее разработчики близки к успеху. Вопрос лишь в том, достаточно ли близки, чтобы сделать Луну американской уже в сентябре 2028 года, когда NASA наметило высадку там людей?
Уникальные голубые песцы на острове Медный, расположенном между Камчаткой и Аляской, балансируют на грани вымирания: в последние годы на этот далекий остров ученые и сотрудники национального парка возят сотни килограммов корма, чтобы оставшиеся животные могли пережить зимы. Но есть надежда не только сохранить популяцию песцов, но и «вылечить» ее, сделать более устойчивой перед будущими невзгодами. Рассказываем, какой план спасения песцов уже подготовлен, кто его будет осуществлять, и что мы вообще знаем о спасаемых — медновских песцах.
Домашние животные могут менять поведение, когда хозяин кричит, злится или испытывает другие сильные эмоции. Новое исследование показало, какие собаки чаще направляют внимание на плачущего человека, а какие относятся к этому равнодушнее и почему.
Человек — социальное существо, и личные взаимодействия часто не подчиняются законам формальной логики, общего блага или экономической целесообразности. Репутация человека, сложившееся о нем мнение общества, должна сильно влиять на желание действовать с ним сообща, но оказалось, что плохая репутация — не приговор.
Американская компания SpaceX сегодня, 28 сентября, планирует выполнить 14-й тестовый запуск транспортной системы Starship. Впервые за историю программы корабль должен выйти на околоземную орбиту и провести там почти 10-часовой полет. Стартовое окно откроется в 15:15 по московскому времени.
В последние сорок лет на планете идет активное глобальное озеленение — в том числе в засушливых зонах планеты, от полупустынь до степей. Однако современные климатические модели (в отличие от прогнозов климатологов прошлого) никак не предсказывали это событие. Поэтому множество ученых озабочено непредсказуемостью происходящего. Авторы новой работы попытались найти какие-то минусы у этого процесса и частично преуспели: стабильность засушливости в сухих частях планеты действительно под угрозой.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.
Группа российских исследователей, в которую вошли океанологи Санкт-Петербургского университета, выявила существование ранее неизвестных механизмов распространения «волн Россби». В ходе работы им удалось зафиксировать точки, где перенос энергии прекращается, а траектории движения воды претерпевают изменения. Дополнительно ученые обнаружили асимметрию в динамике волновых процессов, зарождающихся у западных и восточных прибрежных течений.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно