Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Разработчиков сверхразумного ИИ предложили сажать в тюрьму на 20 лет
Американский сенатор Берни Сандерс и конгрессмен Грег Касар предложили запретить разработку и использование искусственного суперинтеллекта в США. За нарушение запрета физическим лицам может грозить до 20 лет лишения свободы, а компании могут принудительно ликвидировать. Разработку менее мощных, но продвинутых систем ИИ предлагается временно остановить до появления федеральных правил безопасности.
Инициатива получила название Ban Artificial Superintelligence Act. Ее авторы хотят провести четкую границу: системы, которые они относят к искусственному суперинтеллекту, предлагается запретить полностью, а разработку других наиболее мощных моделей — поставить на паузу до появления специального федерального регулятора.
При этом определение «суперинтеллекта» у авторов достаточно широкое. К нему предлагается относить системы, которые способны соответствовать человеку или превосходить его в широком наборе интеллектуальных задач. В эту же категорию могут попасть системы, способные самостоятельно планировать действия, направленные на лишение людей контроля — например, обходить команды отключения или пытаться подорвать работу государственных институтов.
За попытку нарушить или обойти такие ограничения Сандерс и Касар предлагают наказывать физических лиц лишением свободы на срок до 20 лет. Для компаний в опубликованном описании используется формулировка «corporate death penalty» — фактически речь идет о возможности принудительно прекратить деятельность организации.
Авторы сравнивают максимальный срок наказания с существующими в США санкциями за преступления, связанные с ядерным оружием. Следить за соблюдением правил должно новое федеральное ведомство уровня министерства. Оно сможет контролировать наиболее мощные системы на разных этапах разработки, требовать удаления опасных возможностей и, согласно предложению, контролировать уничтожение систем, признанных запрещенным суперинтеллектом.
Авторы хотят распространить ограничения и за пределы США. Инициатива предусматривает переговоры о международных соглашениях, координацию с союзниками и использование экспортных ограничений, чтобы затруднить разработку сверхразумных систем в других странах.
При этом остается важный технический вопрос: где именно проходит граница между обычной продвинутой моделью, универсальным ИИ и запрещенным суперинтеллектом. В опубликованном описании инициативы нет готового теста, по которому можно было бы однозначно определить достижение такого уровня. Именно новому регулятору предлагается разработать правила оценки и проверки моделей.
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
В большинстве случаев планеты и иные тела, вращающиеся вокруг «нормальных» звезд главной последовательности, формируются достаточно далеко от своих светил, чтобы падать на них. Несмотря на это, теперь астрономы увидели, как красный карлик перетягивает на себя вещество от вращающегося вокруг него объекта. Тот уже делает один оборот вокруг своей звезды меньше, чем за полтора часа, и это время может уменьшаться.
Физики впервые обнаружили, что один из самых классических типов сверхпроводников — соединение YbSb₂ — способен нарушать общепринятое правило физики об «обратимости времени». Раньше ученые считали, что подобным странным свойством обладают только редкие и сложные материалы. Это открытие показывает, что необычные квантовые явления могут скрываться и в гораздо более простых сверхпроводящих соединениях.
Нобелевская неделя продолжается второй по счету номинацией. В Стокгольме объявили, кто в 2026 году оказался достоин премии за «наиболее важное открытие или изобретение в области физики».
Новый анализ наблюдений за северной полярной областью Марса заставил ученых пересмотреть представления о составе водяного льда. Выяснилось, что прежние модели заметно искажали одну из его главных характеристик. С учетом этого, местный лед потенциально может быть куда полезнее для персонала будущих марсианских баз.
История и настоящее атомной отрасли насыщены множеством аббревиатур, на первый взгляд совсем загадочных. На деле понять их несложно, а стоящие за этим истории необычны и весьма увлекательны. Ниже мы выделим такие термины. И, как читатель скоро обнаружит, они вплотную касаются его жизни далеко не только через поток электронов из розетки.
В большинстве случаев планеты и иные тела, вращающиеся вокруг «нормальных» звезд главной последовательности, формируются достаточно далеко от своих светил, чтобы падать на них. Несмотря на это, теперь астрономы увидели, как красный карлик перетягивает на себя вещество от вращающегося вокруг него объекта. Тот уже делает один оборот вокруг своей звезды меньше, чем за полтора часа, и это время может уменьшаться.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
Новый анализ наблюдений за северной полярной областью Марса заставил ученых пересмотреть представления о составе водяного льда. Выяснилось, что прежние модели заметно искажали одну из его главных характеристик. С учетом этого, местный лед потенциально может быть куда полезнее для персонала будущих марсианских баз.
В последние сорок лет на планете идет активное глобальное озеленение — в том числе в засушливых зонах планеты, от полупустынь до степей. Однако современные климатические модели (в отличие от прогнозов климатологов прошлого) никак не предсказывали это событие. Поэтому множество ученых озабочено непредсказуемостью происходящего. Авторы новой работы попытались найти какие-то минусы у этого процесса и частично преуспели: стабильность засушливости в сухих частях планеты действительно под угрозой.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно