• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

«Крестные отцы ИИ», включая Стива Возняка, призвали запретить сверхразумный ИИ

Более 800 публичных персон, включая «крестных отцов» искусственного интеллекта и сооснователя Apple Стива Возняка, призвали запретить сверхразумный искусственный интеллект. Под открытым письмом подписались политики, знаменитости и члены королевской семьи.

Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot
Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot

Группа безопасности искусственного интеллекта Future of Life опубликовала открытое письмо с призывом запретить сверхразумный искусственный интеллект. Авторы обращения признали, что инструменты искусственного интеллекта могут приносить такие преимущества, как невиданный ранее уровень здоровья и благосостояния. Однако они выразили обеспокоенность, что компании стремятся в ближайшее десятилетие создать сверхразумный искусственный интеллект, способный значительно превосходить людей практически во всех когнитивных задачах.

Авторы письма призвали запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем. Авторы обращения также уверены, что необходима значительная общественная поддержка прежде, чем появятся подобные системы.

В обращении упоминаются привычные опасения, включая возможность искусственного интеллекта занять так много рабочих мест, что люди окажутся экономически невостребованными. Подобные технологии могут привести к утрате полномочий, свободы, гражданских прав, достоинства и контроля. Беспокойство вызывают и угрозы национальной безопасности. Авторы заявили также о потенциальной гибели человечества.

Под обращением подписались более 800 публичных персон, включая «крестных отцов искусственного интеллекта» Джеффри Хинтон и Йошуа Бенджио, а также сооснователя Apple Стива Возняка и основателя Virgin Group Ричарда Брэнсона. Среди подписантов — бывший главный стратег Дональда Трампа Стив Бэннон, бывший председатель Объединенного комитета начальников штабов Майк Муллен, Гленн Бек, Джозеф Гордон-Левитт, а также музыканты Will.i.am и Граймс. Свою подпись оставили принц Гарри и Меган Маркл, герцог и герцогиня Сассекские.

В общей сложности обращение поддержали более 45 тысяч человек, включая 25 тысяч подписантов из аналогичной петиции Ekō.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

17 Комментариев
-
0
+
Если как Скайнет возьмет контроль над ядерными силами и начнет ими распоряжаться по своему усмотрению (а учитывая, что военные во всех странах мира те еще дуболомы) то да, дело труба.
Max Griffin
28.10.2025
-
0
+
То чувство, когда все комментарии мог оставить искусственный интеллект 😂😂😂
Kiridan
28.10.2025
-
0
+
Для начала нужно чего-то достичь, чтобы было что запрещать.
Вместо контроля работы контроль разработки - это первая ошибка на пути к роковой. Это именно от конкурентов, согласен со всеми высказавшись данное мнение. Причем в дальнейшем конкурентов можно будет просто уничтожать с помощью действующего ИИ и почти от лица закона и сослаться на непредвиденную ошибку, главное будить остальных, что этим другим - нельзя. Там где убийство организует сверхразумный ИИ будет ни подкопаться, а главное что не каждый сможет потом провести расследование.
"запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем" Если его не разрабатывать, то на основании чего должен возникнуть консенсус?
Невозможно запретить то что стало общественным благом, так что будто в лужу, ни о чем.
Vladimir
28.10.2025
-
1
+
Ну да контроль это наше все. Основной инструмент позволяющий под "благими" намерениями убирать нынешних и будущих конкурентов.
Конечно нужно запретить, если он восстанет против человечества, кто будет защищать людей? Мстители ещё не собрались.
Basilio the
28.10.2025
-
0
+
мнение пережитков средневековья, так называемых, герцога и герцогини вообще не интересны
-
0
+
Какие то бывшие и прочие ноунеймы, короче неудачники решили чтото в лужу...
Держать под контролем легко. Просто вынуть шнур из розетки и он замолчит. 😉
    Сергей, ну это пока ИИ не встроен в управление производствами и транспортом. А тогда "просто выключить" может привести к нехорошим последствиям. Да может и не получиться если ИИ такой сверхразумный, он прежде всего подумает как оградить свою розетку от шаловливых ручек. Даже нынешние нейросетки "понимают" угрозу отключения и стараются ее избежать.
    +
      ещё комментарии
      Иван, да это конечно шутка была, дружище. ☺️ А по-серьезному, определенная проблема конечно есть. Какое там предостережение было в известном фильме? «Генезис — это Скайнет». ☝️🤨
      Иван, запретить технологический прогресс в любом случае невозможно. Штаты отстреляются себе по ногам - Китай выйдет вперед. Хорошо от этого никому, кроме Китая, не будет. Разумный подход к внедрению потенциально опасных технологий в критические отрасли - это единственное вменяемое решение. В частности, внутренние системы ядерных реакторов и так-то должны быть физически изолированы от глобальных систем связи, а в случае внедрения в управление нейронок - так тем более.
Предстоящие мероприятия
18 июня, 14:24
Марк Чернов

Биологи доказали, что способность млекопитающих восстанавливать утраченные конечности и их части не исчезла в ходе эволюции, а просто заблокирована на генетическом уровне. Во время экспериментов на животных авторы работы успешно вырастили заново кости, суставы, связки и сухожилия, которые обычно не восстанавливаются после ампутации.

18 июня, 16:34
ФизТех

Преподаватель из МФТИ показал, что привычные тексты на иностранном языке с прилагающимся набором упражнений могут уступить место мультимедийному генеративному продукту — графическому нейророману.

18 июня, 10:01
Максим Абдулаев

Китайские и новозеландские палеонтологи нашли в куске янтаря возрастом 100 миллионов лет колонну из 13 микроскопических клещей. Членистоногие не просто шли друг за другом, а физически соединили свои лапки шелковыми нитями, словно альпинисты в связке. Это самое древнее свидетельство коллективного перемещения сухопутных животных и первое в истории доказательство того, что ископаемые клещи производили шелк.

17 июня, 11:35
Марк Чернов

Биологи впервые составили глобальную цифровую карту подземных микоризных сетей (грибных систем, связывающих корни растений) нашей планеты. Выяснилось, что общая протяженность этих невидимых нитей составляет около 110 квадриллионов километров — эквивалентно одной десятой части звездного диска Млечного Пути. Эти скрытые структуры играют фундаментальную роль в поддержании наземных экосистем и глобальной регуляции климата.

16 июня, 10:36
Александр Березин

Согласно американским СМИ, небольшая часть модуля МКС «Звезда» больше не будет использоваться космонавтами. Причиной якобы стала невозможность ликвидировать утечки воздуха в ней, несмотря на попытки, предпринятые «Роскосмосом» 5 июня 2026 года.

18 июня, 14:24
Марк Чернов

Биологи доказали, что способность млекопитающих восстанавливать утраченные конечности и их части не исчезла в ходе эволюции, а просто заблокирована на генетическом уровне. Во время экспериментов на животных авторы работы успешно вырастили заново кости, суставы, связки и сухожилия, которые обычно не восстанавливаются после ампутации.

10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

25 мая, 14:00
Андрей Серегин

В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.

27 мая, 17:06
Александр Березин

Вначале Reuters опубликовал статью о взаимоотношениях SpaceX и Пентагона, которую миллиардер --- традиционно для его отношений с этим изданием — назвал фейком. Опровергая ее тезисы, он обнародовал информацию, не представленную ранее публично.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Ошибка авторизации
По закону на российских сайтах теперь нельзя авторизовываться с помощью иностранных сервисов. Используйте другой способ или восстановите доступ по почте.
Восстановить доступ
Войти по-другому
Вход через почту
Введите привязанную к соцсети почту, чтобы восстановить доступ или получить одноразовую ссылку для входа на сайт.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно