• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Разработчики нейросети Claude призвали к глобальной паузе в создании мощных систем искусственного интеллекта

Компания Anthropic — разработчик нейросети Claude — призвала другие компании замедлить или временно приостановить разработку передовых систем искусственного интеллекта. По мнению представителей Anthropic, ИИ-модели уже демонстрируют признаки того, что в будущем они смогут выйти из-под контроля людей.

Сооснователь Anthropic Джек Кларк / © Anthony Wallace / AFP via Getty Images
Сооснователь Anthropic Джек Кларк / © Anthony Wallace / AFP via Getty Images

В докладе Anthropic отмечается, что если компании замедлят разработку наиболее мощных ИИ-систем, это может принести миру пользу. Это позволит общественным институтам и исследователям в области безопасности успевать за развитием технологий. 

Однако важно, чтобы к инициативе присоединились все разработчики. Если остановится кто-то один, то конкуренты просто продолжат гонку технологий. В первую очередь Anthropic говорит об одновременном участии нескольких крупных компаний и государств, прежде всего США и Китая. Помимо договоренностей необходимо разработать механизмы контроля, позволяющие убедиться, что все стороны соблюдают соглашение.

Anthropic сравнила возможные соглашения по искусственному интеллекту с договорами о контроле над ядерными вооружениями. При этом в компании отметили, что контролировать разработку искусственного интеллекта будет значительно сложнее, так как обучение моделей проще скрыть.

«Сейчас у ИИ-индустрии есть педаль газа, но нет педали тормоза», — отметил сооснователь Anthropic Джек Кларк. 

Anthropic признала, что эта идея может встретить сопротивление со стороны других компаний и государств. По мнению представителей индустрии и властей США, если американские компании замедлят развитие, то они дадут стратегическое преимущество Китаю. Некоторые конкуренты и чиновники раскритиковали инициативу. Они считают, что Anthropic преувеличивает риски и хочет замедлить соперников, прикрываясь темой безопасности.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

4 Комментария
Ага, выпустили самую мощную модель, ограничили доступ к ее дистилляции другими и требуют остальных остановиться
Ну так создавайте ИИ в качестве инструмента для строго определённой задачи. Вольно мыслящие машины никому не нужны НАВЕРНОЕ, ну мне точно такие не нужны. )
    Артём, проблема как раз в том, что пытаются сделать универсальный интеллект для всего. И как их остановить не очень понятно
    +
      Еще 1 ответ
      Алексей, как правило, люди учатся на ошибках, например все знают о вреде курения, алкоголизма и т. д., и всё равно эту отраву употребляют ровно до тех пор, пока серьёзно не заболит, так и с ИИ, пока эта машина ущерб людям не нанесёт, никто не остановится её делать.
Предстоящие мероприятия
23 июля, 11:33
Марк Чернов

Нейробиологи и специалисты по микробиологии выяснили, что нарушения в видовом составе кишечных бактерий (так называемый дисбиоз) и изменение уровня продуктов из жизнедеятельности могут ключевым образом влиять на уровень стресса, включая депрессию, тревожные состояния и посттравматическое стрессовое расстройство.

23 июля, 16:12
Любовь С.

Ученые впервые заглянули под поверхность Ио — самого вулканически активного тела Солнечной системы — без посадки космического аппарата. Данные зонда «Юнона» показали, что уже на небольшой глубине температура значительно выше, чем на поверхности, а внутреннее тепло спутника поднимается наружу.

24 июля, 11:13
Игорь Байдов

Правильно подобранные звуковые последовательности способны не только стимулировать рост растений, но и влиять на их урожайность. К такому выводу пришли авторы нового исследования. Они разработали технологию, которая позволяет воздействовать на процессы развития растений через акустические сигналы без использования генной инженерии или химикатов. В экспериментах добились повышения урожайности мяты, сои, болгарского перца и конопли.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

20 июля, 14:11
Татьяна Зайцева

В позднеантичном Риме императорским указом мужчинам запретили носить длинные волосы. Автор нового исследования пришел к выводу, что введение этого запрета объяснялось необходимостью сохранения римской идентичности в условиях усиливающегося распада империи и нарастающего торжества варваров.

22 июля, 15:33
Александр Березин

Виктор Гловер, один из четырех человек, весной этого года пролетевших мимо Луны, выступил на конференции NASA и предложил резко изменить план высадки американцев на Луне в конце десятилетия. Он считает, что это позволит снизить риски для астронавтов-участников миссии.

25 июня, 16:20
Любовь С.

Вселенная может оказаться «замкнутой» глобальной структурой, где свет от далеких галактик способен возвращаться к наблюдателю с разных направлений. Именно такой сценарий не удалось исключить авторам нового масштабного обзора. Проверить его предсказания астрономы смогут уже в ближайшие годы.

25 июня, 15:09
Марк Чернов

Ученые впервые на молекулярном уровне доказали, что обычная вода одновременно состоит из двух разных жидких состояний — более плотного и менее плотного, которые непрерывно сменяют друг друга. Раз молекулярная «двойственность» действительно существует, это подтверждает спорную 30-летнюю гипотезу. Новое открытие поможет, наконец, объяснить десятки «странных» физических аномалий воды, включая ее расширение при замерзании и парадоксальное изменение вязкости под давлением.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

[miniorange_social_login]