• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

«Крестные отцы ИИ», включая Стива Возняка, призвали запретить сверхразумный ИИ

Более 800 публичных персон, включая «крестных отцов» искусственного интеллекта и сооснователя Apple Стива Возняка, призвали запретить сверхразумный искусственный интеллект. Под открытым письмом подписались политики, знаменитости и члены королевской семьи.

Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot
Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot

Группа безопасности искусственного интеллекта Future of Life опубликовала открытое письмо с призывом запретить сверхразумный искусственный интеллект. Авторы обращения признали, что инструменты искусственного интеллекта могут приносить такие преимущества, как невиданный ранее уровень здоровья и благосостояния. Однако они выразили обеспокоенность, что компании стремятся в ближайшее десятилетие создать сверхразумный искусственный интеллект, способный значительно превосходить людей практически во всех когнитивных задачах.

Авторы письма призвали запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем. Авторы обращения также уверены, что необходима значительная общественная поддержка прежде, чем появятся подобные системы.

В обращении упоминаются привычные опасения, включая возможность искусственного интеллекта занять так много рабочих мест, что люди окажутся экономически невостребованными. Подобные технологии могут привести к утрате полномочий, свободы, гражданских прав, достоинства и контроля. Беспокойство вызывают и угрозы национальной безопасности. Авторы заявили также о потенциальной гибели человечества.

Под обращением подписались более 800 публичных персон, включая «крестных отцов искусственного интеллекта» Джеффри Хинтон и Йошуа Бенджио, а также сооснователя Apple Стива Возняка и основателя Virgin Group Ричарда Брэнсона. Среди подписантов — бывший главный стратег Дональда Трампа Стив Бэннон, бывший председатель Объединенного комитета начальников штабов Майк Муллен, Гленн Бек, Джозеф Гордон-Левитт, а также музыканты Will.i.am и Граймс. Свою подпись оставили принц Гарри и Меган Маркл, герцог и герцогиня Сассекские.

В общей сложности обращение поддержали более 45 тысяч человек, включая 25 тысяч подписантов из аналогичной петиции Ekō.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

14 Комментариев
Kiridan
14 минут назад
-
0
+
Для начала нужно чего-то достичь, чтобы было что запрещать.
-
0
+
Вместо контроля работы контроль разработки - это первая ошибка на пути к роковой. Это именно от конкурентов, согласен со всеми высказавшись данное мнение. Причем в дальнейшем конкурентов можно будет просто уничтожать с помощью действующего ИИ и почти от лица закона и сослаться на непредвиденную ошибку, главное будить остальных, что этим другим - нельзя. Там где убийство организует сверхразумный ИИ будет ни подкопаться, а главное что не каждый сможет потом провести расследование.
-
0
+
"запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем" Если его не разрабатывать, то на основании чего должен возникнуть консенсус?
Рустам Ишанкулов
2 часа назад
-
1
+
Невозможно запретить то что стало общественным благом, так что будто в лужу, ни о чем.
Vladimir
2 часа назад
-
1
+
Ну да контроль это наше все. Основной инструмент позволяющий под "благими" намерениями убирать нынешних и будущих конкурентов.
Дмитрий Томин
3 часа назад
-
0
+
Конечно нужно запретить, если он восстанет против человечества, кто будет защищать людей? Мстители ещё не собрались.
Basilio the
6 часов назад
-
0
+
мнение пережитков средневековья, так называемых, герцога и герцогини вообще не интересны
Павел Бабьяк
9 часов назад
-
0
+
Какие то бывшие и прочие ноунеймы, короче неудачники решили чтото в лужу...
Сергей Механик
18 часов назад
-
0
+
Держать под контролем легко. Просто вынуть шнур из розетки и он замолчит. 😉
    Иван Колупаев
    17 часов назад
    -
    1
    +
    Сергей, ну это пока ИИ не встроен в управление производствами и транспортом. А тогда "просто выключить" может привести к нехорошим последствиям. Да может и не получиться если ИИ такой сверхразумный, он прежде всего подумает как оградить свою розетку от шаловливых ручек. Даже нынешние нейросетки "понимают" угрозу отключения и стараются ее избежать.
    +
      ещё комментарии
      Сергей Механик
      16 часов назад
      -
      0
      +
      Иван, да это конечно шутка была, дружище. ☺️ А по-серьезному, определенная проблема конечно есть. Какое там предостережение было в известном фильме? «Генезис — это Скайнет». ☝️🤨
      -
      0
      +
      Иван, запретить технологический прогресс в любом случае невозможно. Штаты отстреляются себе по ногам - Китай выйдет вперед. Хорошо от этого никому, кроме Китая, не будет. Разумный подход к внедрению потенциально опасных технологий в критические отрасли - это единственное вменяемое решение. В частности, внутренние системы ядерных реакторов и так-то должны быть физически изолированы от глобальных систем связи, а в случае внедрения в управление нейронок - так тем более.
Предстоящие мероприятия
25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

27 октября, 11:44
Илья Гриднев

Исследователи объяснили, как цивилизация майя добивалась высокой точности в предсказании солнечных затмений на протяжении столетий. Для коррекции накапливающихся астрономических неточностей они использовали сложную систему пересекающихся календарных таблиц.

27 октября, 10:38
Игорь Байдов

Ежедневно, еще до восхода солнца, миллионы птиц по всей планете наполняют воздух своими голосами. Этот рассветный концерт — одно из самых красивых и загадочных явлений природы. Почему пернатые певцы предпочитают встречать день именно так? Авторы нового исследования предложили простой ответ: птицы не могут иначе. Ночь заставляет их молчать, а утро дает долгожданную свободу, выплескивающуюся в бурном и страстном хоре.

25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

24 октября, 14:02
РТУ МИРЭА

В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.

27 октября, 11:44
Илья Гриднев

Исследователи объяснили, как цивилизация майя добивалась высокой точности в предсказании солнечных затмений на протяжении столетий. Для коррекции накапливающихся астрономических неточностей они использовали сложную систему пересекающихся календарных таблиц.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

24 октября, 14:02
РТУ МИРЭА

В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.

25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно