• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

«Крестные отцы ИИ», включая Стива Возняка, призвали запретить сверхразумный ИИ

Более 800 публичных персон, включая «крестных отцов» искусственного интеллекта и сооснователя Apple Стива Возняка, призвали запретить сверхразумный искусственный интеллект. Под открытым письмом подписались политики, знаменитости и члены королевской семьи.

Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot
Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot

Группа безопасности искусственного интеллекта Future of Life опубликовала открытое письмо с призывом запретить сверхразумный искусственный интеллект. Авторы обращения признали, что инструменты искусственного интеллекта могут приносить такие преимущества, как невиданный ранее уровень здоровья и благосостояния. Однако они выразили обеспокоенность, что компании стремятся в ближайшее десятилетие создать сверхразумный искусственный интеллект, способный значительно превосходить людей практически во всех когнитивных задачах.

Авторы письма призвали запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем. Авторы обращения также уверены, что необходима значительная общественная поддержка прежде, чем появятся подобные системы.

В обращении упоминаются привычные опасения, включая возможность искусственного интеллекта занять так много рабочих мест, что люди окажутся экономически невостребованными. Подобные технологии могут привести к утрате полномочий, свободы, гражданских прав, достоинства и контроля. Беспокойство вызывают и угрозы национальной безопасности. Авторы заявили также о потенциальной гибели человечества.

Под обращением подписались более 800 публичных персон, включая «крестных отцов искусственного интеллекта» Джеффри Хинтон и Йошуа Бенджио, а также сооснователя Apple Стива Возняка и основателя Virgin Group Ричарда Брэнсона. Среди подписантов — бывший главный стратег Дональда Трампа Стив Бэннон, бывший председатель Объединенного комитета начальников штабов Майк Муллен, Гленн Бек, Джозеф Гордон-Левитт, а также музыканты Will.i.am и Граймс. Свою подпись оставили принц Гарри и Меган Маркл, герцог и герцогиня Сассекские.

В общей сложности обращение поддержали более 45 тысяч человек, включая 25 тысяч подписантов из аналогичной петиции Ekō.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

17 Комментариев
-
0
+
Если как Скайнет возьмет контроль над ядерными силами и начнет ими распоряжаться по своему усмотрению (а учитывая, что военные во всех странах мира те еще дуболомы) то да, дело труба.
Max Griffin
28.10.2025
-
0
+
То чувство, когда все комментарии мог оставить искусственный интеллект 😂😂😂
Kiridan
28.10.2025
-
0
+
Для начала нужно чего-то достичь, чтобы было что запрещать.
Вместо контроля работы контроль разработки - это первая ошибка на пути к роковой. Это именно от конкурентов, согласен со всеми высказавшись данное мнение. Причем в дальнейшем конкурентов можно будет просто уничтожать с помощью действующего ИИ и почти от лица закона и сослаться на непредвиденную ошибку, главное будить остальных, что этим другим - нельзя. Там где убийство организует сверхразумный ИИ будет ни подкопаться, а главное что не каждый сможет потом провести расследование.
"запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем" Если его не разрабатывать, то на основании чего должен возникнуть консенсус?
Невозможно запретить то что стало общественным благом, так что будто в лужу, ни о чем.
Vladimir
28.10.2025
-
1
+
Ну да контроль это наше все. Основной инструмент позволяющий под "благими" намерениями убирать нынешних и будущих конкурентов.
Конечно нужно запретить, если он восстанет против человечества, кто будет защищать людей? Мстители ещё не собрались.
Basilio the
28.10.2025
-
0
+
мнение пережитков средневековья, так называемых, герцога и герцогини вообще не интересны
-
0
+
Какие то бывшие и прочие ноунеймы, короче неудачники решили чтото в лужу...
Держать под контролем легко. Просто вынуть шнур из розетки и он замолчит. 😉
    Сергей, ну это пока ИИ не встроен в управление производствами и транспортом. А тогда "просто выключить" может привести к нехорошим последствиям. Да может и не получиться если ИИ такой сверхразумный, он прежде всего подумает как оградить свою розетку от шаловливых ручек. Даже нынешние нейросетки "понимают" угрозу отключения и стараются ее избежать.
    +
      ещё комментарии
      Иван, да это конечно шутка была, дружище. ☺️ А по-серьезному, определенная проблема конечно есть. Какое там предостережение было в известном фильме? «Генезис — это Скайнет». ☝️🤨
      Иван, запретить технологический прогресс в любом случае невозможно. Штаты отстреляются себе по ногам - Китай выйдет вперед. Хорошо от этого никому, кроме Китая, не будет. Разумный подход к внедрению потенциально опасных технологий в критические отрасли - это единственное вменяемое решение. В частности, внутренние системы ядерных реакторов и так-то должны быть физически изолированы от глобальных систем связи, а в случае внедрения в управление нейронок - так тем более.
14 марта, 09:30
Любовь С.

Хотя лед кажется простым веществом, причина, по которой он настолько скользкий, до сих пор оставалась предметом споров. Недавно физики показали, что при движении по льду трение слегка нагревает его поверхность. Это приводит к образованию тончайшей пленки воды, которая действует как смазка. Некоторые детали этого механизма ученым еще предстоит уточнить.

16 марта, 09:54
Любовь С.

Исследователи впервые испытали на человеке новую технологию медицинской визуализации — магнитно-частичную томографию (MPI). С ее помощью они смогли в реальном времени наблюдать движение крови по венам руки. Метод работает без рентгеновского излучения и может стать более безопасной альтернативой традиционной сосудистой ангиографии.

16 марта, 14:19
Андрей Серегин

В условиях повышения уровня Мирового океана под угрозой находятся прибрежные экосистемы и их обитатели. Ученые из Нидерландов выявили необычный механизм, позволяющий защищать песчаные берега от разрушения.

14 марта, 09:30
Любовь С.

Хотя лед кажется простым веществом, причина, по которой он настолько скользкий, до сих пор оставалась предметом споров. Недавно физики показали, что при движении по льду трение слегка нагревает его поверхность. Это приводит к образованию тончайшей пленки воды, которая действует как смазка. Некоторые детали этого механизма ученым еще предстоит уточнить.

12 марта, 15:55
Андрей Серегин

Отдельные аспекты полового поведения живых организмов порой могут оказывать огромное влияние на пищевые цепочки и целые экосистемы. Ученые на примере североамериканских рыб доказали, что агрессивное половое поведение их самцов может помочь в выживании зоопланктона.

12 марта, 07:59
Сеченовский Университет

Ученые Сеченовского Университета установили, что определение свободных легких цепей иммуноглобулинов (FLC) в крови может служить дополнительным инструментом для оценки тяжести миокардита и риска развития сердечной недостаточности.

3 марта, 14:06
Александр Березин

В ноябре 2025 года при взлете российской ракеты с Байконура к МКС с существенной высоты упала кабина обслуживания 8У216. Поскольку в 2010-х годах из экономии средств у нас отказались от дублирования стартовых площадок, это создало ситуацию временной невозможности пилотируемых полетов. Теперь, всего через три месяца после происшествия, «Роскосмос» смог решить проблему, поставив запасную кабину обслуживания, найденную на складах Минобороны. Весенние пуски к МКС, запланированные ранее, теперь имеют шансы пройти в срок.

5 марта, 08:10
Александр Березин

Одна сторона сыплет более дорогими и сложными баллистическими ракетами, другая — относительно дешевыми крылатыми. Но при этом первая на порядок беднее второй. А что у них с технологическим уровнем для наземной войны, и почему, кстати, глава второй избегает даже самого этого слова? Попробуем разобраться в реальных возможностях военных машин сторон потенциально самого опасного конфликта 2026 года.

28 февраля, 16:50
Игорь Байдов

В той части Пиренеев, которые находятся на территории Испании, исследователи обнаружили первые доказательства добычи золота в эпоху Римской империи. На месте древних рудников нашли сложные гидравлические сооружения и остатки водохранилища, возраст которых определили с помощью метода оптического датирования. Открытие прольет свет на инженерные приемы римлян и поставит точку в многолетнем споре: действительно ли римляне добывали золото в этом регионе.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно