• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

«Крестные отцы ИИ», включая Стива Возняка, призвали запретить сверхразумный ИИ

Более 800 публичных персон, включая «крестных отцов» искусственного интеллекта и сооснователя Apple Стива Возняка, призвали запретить сверхразумный искусственный интеллект. Под открытым письмом подписались политики, знаменитости и члены королевской семьи.

Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot
Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot

Группа безопасности искусственного интеллекта Future of Life опубликовала открытое письмо с призывом запретить сверхразумный искусственный интеллект. Авторы обращения признали, что инструменты искусственного интеллекта могут приносить такие преимущества, как невиданный ранее уровень здоровья и благосостояния. Однако они выразили обеспокоенность, что компании стремятся в ближайшее десятилетие создать сверхразумный искусственный интеллект, способный значительно превосходить людей практически во всех когнитивных задачах.

Авторы письма призвали запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем. Авторы обращения также уверены, что необходима значительная общественная поддержка прежде, чем появятся подобные системы.

В обращении упоминаются привычные опасения, включая возможность искусственного интеллекта занять так много рабочих мест, что люди окажутся экономически невостребованными. Подобные технологии могут привести к утрате полномочий, свободы, гражданских прав, достоинства и контроля. Беспокойство вызывают и угрозы национальной безопасности. Авторы заявили также о потенциальной гибели человечества.

Под обращением подписались более 800 публичных персон, включая «крестных отцов искусственного интеллекта» Джеффри Хинтон и Йошуа Бенджио, а также сооснователя Apple Стива Возняка и основателя Virgin Group Ричарда Брэнсона. Среди подписантов — бывший главный стратег Дональда Трампа Стив Бэннон, бывший председатель Объединенного комитета начальников штабов Майк Муллен, Гленн Бек, Джозеф Гордон-Левитт, а также музыканты Will.i.am и Граймс. Свою подпись оставили принц Гарри и Меган Маркл, герцог и герцогиня Сассекские.

В общей сложности обращение поддержали более 45 тысяч человек, включая 25 тысяч подписантов из аналогичной петиции Ekō.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

17 Комментариев
-
0
+
Если как Скайнет возьмет контроль над ядерными силами и начнет ими распоряжаться по своему усмотрению (а учитывая, что военные во всех странах мира те еще дуболомы) то да, дело труба.
Max Griffin
28.10.2025
-
0
+
То чувство, когда все комментарии мог оставить искусственный интеллект 😂😂😂
Kiridan
28.10.2025
-
0
+
Для начала нужно чего-то достичь, чтобы было что запрещать.
Вместо контроля работы контроль разработки - это первая ошибка на пути к роковой. Это именно от конкурентов, согласен со всеми высказавшись данное мнение. Причем в дальнейшем конкурентов можно будет просто уничтожать с помощью действующего ИИ и почти от лица закона и сослаться на непредвиденную ошибку, главное будить остальных, что этим другим - нельзя. Там где убийство организует сверхразумный ИИ будет ни подкопаться, а главное что не каждый сможет потом провести расследование.
"запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем" Если его не разрабатывать, то на основании чего должен возникнуть консенсус?
Невозможно запретить то что стало общественным благом, так что будто в лужу, ни о чем.
Vladimir
28.10.2025
-
1
+
Ну да контроль это наше все. Основной инструмент позволяющий под "благими" намерениями убирать нынешних и будущих конкурентов.
Конечно нужно запретить, если он восстанет против человечества, кто будет защищать людей? Мстители ещё не собрались.
Basilio the
28.10.2025
-
0
+
мнение пережитков средневековья, так называемых, герцога и герцогини вообще не интересны
-
0
+
Какие то бывшие и прочие ноунеймы, короче неудачники решили чтото в лужу...
Держать под контролем легко. Просто вынуть шнур из розетки и он замолчит. 😉
    Сергей, ну это пока ИИ не встроен в управление производствами и транспортом. А тогда "просто выключить" может привести к нехорошим последствиям. Да может и не получиться если ИИ такой сверхразумный, он прежде всего подумает как оградить свою розетку от шаловливых ручек. Даже нынешние нейросетки "понимают" угрозу отключения и стараются ее избежать.
    +
      ещё комментарии
      Иван, да это конечно шутка была, дружище. ☺️ А по-серьезному, определенная проблема конечно есть. Какое там предостережение было в известном фильме? «Генезис — это Скайнет». ☝️🤨
      Иван, запретить технологический прогресс в любом случае невозможно. Штаты отстреляются себе по ногам - Китай выйдет вперед. Хорошо от этого никому, кроме Китая, не будет. Разумный подход к внедрению потенциально опасных технологий в критические отрасли - это единственное вменяемое решение. В частности, внутренние системы ядерных реакторов и так-то должны быть физически изолированы от глобальных систем связи, а в случае внедрения в управление нейронок - так тем более.
9 декабря, 10:59
НИУ ВШЭ

Специфическая тревога из-за ненадежности цифровых образов реальности и иллюзии тотального контроля над действительностью получила название «аффект зомби». Заведующий кафедрой философии НИУ ВШЭ — Санкт-Петербург Иван Микиртумов исследовал феномен в рамках проекта РНФ «Экзистенциальный опыт в цифровой среде».

8 декабря, 13:09
Александр Березин

С 2010-х в «Роскосмосе» говорили: будущая РОС сможет пролетать над полюсом, что даст ей возможности для новых научных экспериментов. Но вскоре после того, как в ноябре 2025 года Россия временно лишилась возможности запускать людей в космос, эта позиция изменилась. В результате запускать космонавтов с космодромов нашей страны станет довольно сложно.

10 декабря, 11:49
Игорь Байдов

Раскопки мастерской, погребенной в Помпеях почти 2000 лет назад, помогли археологам больше узнать о римских строительных технологиях, а именно — определить методы изготовления римского бетона и раскрыть секрет его долговечности.

8 декабря, 13:09
Александр Березин

С 2010-х в «Роскосмосе» говорили: будущая РОС сможет пролетать над полюсом, что даст ей возможности для новых научных экспериментов. Но вскоре после того, как в ноябре 2025 года Россия временно лишилась возможности запускать людей в космос, эта позиция изменилась. В результате запускать космонавтов с космодромов нашей страны станет довольно сложно.

9 декабря, 10:59
НИУ ВШЭ

Специфическая тревога из-за ненадежности цифровых образов реальности и иллюзии тотального контроля над действительностью получила название «аффект зомби». Заведующий кафедрой философии НИУ ВШЭ — Санкт-Петербург Иван Микиртумов исследовал феномен в рамках проекта РНФ «Экзистенциальный опыт в цифровой среде».

8 декабря, 10:59
НИУ ВШЭ

Команда психолингвистов Центра языка и мозга НИУ ВШЭ обнаружила, что у подростков в возрасте 15–18 лет навыки фонологической обработки продолжают влиять на скорость чтения текстов. Это открытие опровергает убеждение, что к подростковому возрасту эти навыки уже не играют значимой роли в беглости чтения.

8 декабря, 13:09
Александр Березин

С 2010-х в «Роскосмосе» говорили: будущая РОС сможет пролетать над полюсом, что даст ей возможности для новых научных экспериментов. Но вскоре после того, как в ноябре 2025 года Россия временно лишилась возможности запускать людей в космос, эта позиция изменилась. В результате запускать космонавтов с космодромов нашей страны станет довольно сложно.

29 ноября, 12:42
Александр Березин

Позавчера, 27 ноября 2025 года, при запуске космонавтов к МКС на стартовую площадку № 31 упала кабина обслуживания стартового комплекса. Это означает, что новые пуски оттуда до починки невозможны. К сожалению, в 2010-х годах, в рамках «оптимизации» расходов, резервную площадку (с которой летал Юрий Гагарин) упразднили. Поэтому случилось беспрецедентное: в XXI веке страна с пилотируемой космической программой осталась без средств запуска людей на орбиту. Пока ремонт не закончится, проблема сохранится. Чем это может грозить?

27 ноября, 20:20
Максим Абдулаев

Японские биологи повторили античную технологию производства вина из изюма, чтобы выяснить механизм его брожения. Исследователи показали, что сушеный виноград, в отличие от свежего, накапливает на поверхности дикие дрожжи и способен превращать воду в алкоголь без внесения дополнительных заквасок.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно