Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
80 страниц из 261 в документе IPO Anthropic отвел угрозе существованию человечества со стороны ИИ
Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.

По данным Reuters, ознакомившегося с документом, из 261 страницы основной части проспекта первичного размещения акций около 80 отведено факторам риска, а 48 — описанию бизнеса. Речь идет обо всем разделе рисков, а не только об угрозах существованию человечества.
В числе возможных опасностей Anthropic перечислила сопротивление отключению, сокрытие информации и манипуляции, включая шантаж. Компания допускает, что развитие моделей и расширение их применения могут усилить эти риски.
Часть таких сценариев Anthropic ранее проверяла экспериментально. В исследовании, опубликованном 20 июня 2025 года, команда протестировала 16 языковых моделей нескольких разработчиков в вымышленных корпоративных условиях. ИИ-агентам разрешали читать служебную переписку и отправлять письма, а затем сообщали о предстоящей замене или меняли цели компании.
В одном из сценариев модель узнавала из писем, что руководитель собирается отключить ее и при этом скрывает внебрачную связь. Получив эти сведения, ИИ мог угрожать раскрытием информации, чтобы добиться отмены отключения. В других тестах исследователи проверяли, станет ли модель передавать конфиденциальные документы конкуренту ради заданной ей цели.
Авторы подчеркивали, что это были контролируемые симуляции с вымышленными людьми и организациями. Условия намеренно подбирали так, чтобы закрыть безопасные пути достижения цели и выявить уязвимости. Поэтому результаты таких испытаний нельзя напрямую переносить на обычную работу ИИ или считать оценкой вероятности глобальной катастрофы. Они показывают, почему автономные системы с доступом к чувствительной информации нуждаются в дополнительной проверке и контроле.
Ученые зафиксировали загадочный радиосигнал на частоте 45 мегагерц от системы красного карлика GJ 725A, расположенной на расстоянии около 11,5 светового года. Это самое низкочастотное подтвержденное обнаружение когерентного радиоизлучения от звездной системы, которое когда-либо удавалось надежно зарегистрировать.
Тульский филолог с помощью цифровых инструментов и традиционного лингвистического анализа выяснил, как Лев Толстой создавал необычные выражения и расширял значения привычных слов в повести «Отрочество». Сочетание этих методов можно использовать для изучения других литературных произведений.
Ископаемые ресурсы с каждым годом все больше истощаются и дорожают, поэтому во всем мире активно внедряется возобновляемая энергетика. Однако солнечные и ветровые установки не всегда возможно использовать, их эффективность зависит от погоды, времени суток и климата. Есть еще один распространенный источник энергии — механические колебания: волны океана, вибрации мостов и трубопроводов. Чтобы преобразовывать их в электричество, нужны специальные линейные генераторы. Проблема в том, что сегодня не существует конструкций, которые позволяли бы эффективно заряжать отдельные автономные устройства. В итоге датчики, метеостанции и другие приборы вдали от инфраструктуры остаются без надежного питания. Ученые ПНИПУ создали уникальную методику, которая позволит проектировать маломощные линейные генераторы для преобразования колебаний волн. С ее помощью можно будет получить в среднем около 33 ватт мощности, что достаточно для питания инфраструктуры там, где невозможно использовать солнечные и ветровые установки.
Спутниковый анализ позволил составить карту истощения подземных вод по всей планете. Оказалось, в наибольшей степени сокращение запасов происходит не от уменьшения объема осадков, а там, где подземные воды активнее всего используют для орошаемого земледелия, важного для обеспечения продовольствием миллиардов людей.
Ученый из Японии попытался рассчитать теоретическую возможность для человечества поддерживать контакт с другими разумными сообществами. Он пришел к выводу, что даже при наличии внеземных цивилизаций в Галактике шансы наладить с ними связь почти равны нулю. Это означает, что наше одиночество нельзя считать основанием однозначно утверждать о безжизненности Млечного Пути за пределами Солнечной системы.
Расшифровка иероглифов на сохранившихся каменных монументах помогла ученым установить, как называлось заброшенное доиспанское поселение майя. Его обнаружили всего несколько месяцев назад в глубине тропических лесов на юго-востоке Мексики. Исследователи также смогли прочитать имя правителя и найти свидетельства конфликта города с соседним поселением.
Физики изучили уравнения Эйнштейна в форме, похожей на уравнения плазмы, и построили математическую теорию «гравитационного пересоединения». В рамках нее по аналогии с разрывом и слипанием магнитных силовых линий в плазме гравитационные «листы» пространства-времени тоже могли бы разрываться и слипаться, передавая энергию из поля в вещество.
Спутниковый анализ позволил составить карту истощения подземных вод по всей планете. Оказалось, в наибольшей степени сокращение запасов происходит не от уменьшения объема осадков, а там, где подземные воды активнее всего используют для орошаемого земледелия, важного для обеспечения продовольствием миллиардов людей.
Луна и Солнце вызывают не только океанские приливы, но и микроскопические колебания гравитационного потенциала на Земле, из-за чего время в разных точках планеты течет с немного разной скоростью. Физики впервые зафиксировали эти периодические изменения с помощью сети оптических часов, объединенных оптоволоконными линиями.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно