• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

«Крестные отцы ИИ», включая Стива Возняка, призвали запретить сверхразумный ИИ

Более 800 публичных персон, включая «крестных отцов» искусственного интеллекта и сооснователя Apple Стива Возняка, призвали запретить сверхразумный искусственный интеллект. Под открытым письмом подписались политики, знаменитости и члены королевской семьи.

Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot
Обращение с призывом запретить сверхразумный искусственный интеллект / © TechSpot

Группа безопасности искусственного интеллекта Future of Life опубликовала открытое письмо с призывом запретить сверхразумный искусственный интеллект. Авторы обращения признали, что инструменты искусственного интеллекта могут приносить такие преимущества, как невиданный ранее уровень здоровья и благосостояния. Однако они выразили обеспокоенность, что компании стремятся в ближайшее десятилетие создать сверхразумный искусственный интеллект, способный значительно превосходить людей практически во всех когнитивных задачах.

Авторы письма призвали запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем. Авторы обращения также уверены, что необходима значительная общественная поддержка прежде, чем появятся подобные системы.

В обращении упоминаются привычные опасения, включая возможность искусственного интеллекта занять так много рабочих мест, что люди окажутся экономически невостребованными. Подобные технологии могут привести к утрате полномочий, свободы, гражданских прав, достоинства и контроля. Беспокойство вызывают и угрозы национальной безопасности. Авторы заявили также о потенциальной гибели человечества.

Под обращением подписались более 800 публичных персон, включая «крестных отцов искусственного интеллекта» Джеффри Хинтон и Йошуа Бенджио, а также сооснователя Apple Стива Возняка и основателя Virgin Group Ричарда Брэнсона. Среди подписантов — бывший главный стратег Дональда Трампа Стив Бэннон, бывший председатель Объединенного комитета начальников штабов Майк Муллен, Гленн Бек, Джозеф Гордон-Левитт, а также музыканты Will.i.am и Граймс. Свою подпись оставили принц Гарри и Меган Маркл, герцог и герцогиня Сассекские.

В общей сложности обращение поддержали более 45 тысяч человек, включая 25 тысяч подписантов из аналогичной петиции Ekō.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

17 Комментариев
RashidTheChechen
7 часов назад
-
0
+
Если как Скайнет возьмет контроль над ядерными силами и начнет ими распоряжаться по своему усмотрению (а учитывая, что военные во всех странах мира те еще дуболомы) то да, дело труба.
Max Griffin
4 дня назад
-
0
+
То чувство, когда все комментарии мог оставить искусственный интеллект 😂😂😂
Kiridan
4 дня назад
-
0
+
Для начала нужно чего-то достичь, чтобы было что запрещать.
-
0
+
Вместо контроля работы контроль разработки - это первая ошибка на пути к роковой. Это именно от конкурентов, согласен со всеми высказавшись данное мнение. Причем в дальнейшем конкурентов можно будет просто уничтожать с помощью действующего ИИ и почти от лица закона и сослаться на непредвиденную ошибку, главное будить остальных, что этим другим - нельзя. Там где убийство организует сверхразумный ИИ будет ни подкопаться, а главное что не каждый сможет потом провести расследование.
-
0
+
"запретить разработку сверхразумного искусственного интеллекта, пока не появится широкий научный консенсус, что такие системы можно создавать безопасно и держать под контролем" Если его не разрабатывать, то на основании чего должен возникнуть консенсус?
-
1
+
Невозможно запретить то что стало общественным благом, так что будто в лужу, ни о чем.
Vladimir
4 дня назад
-
1
+
Ну да контроль это наше все. Основной инструмент позволяющий под "благими" намерениями убирать нынешних и будущих конкурентов.
Дмитрий Томин
4 дня назад
-
0
+
Конечно нужно запретить, если он восстанет против человечества, кто будет защищать людей? Мстители ещё не собрались.
Basilio the
4 дня назад
-
0
+
мнение пережитков средневековья, так называемых, герцога и герцогини вообще не интересны
Павел Бабьяк
4 дня назад
-
0
+
Какие то бывшие и прочие ноунеймы, короче неудачники решили чтото в лужу...
Сергей Механик
4 дня назад
-
0
+
Держать под контролем легко. Просто вынуть шнур из розетки и он замолчит. 😉
    Иван Колупаев
    4 дня назад
    -
    1
    +
    Сергей, ну это пока ИИ не встроен в управление производствами и транспортом. А тогда "просто выключить" может привести к нехорошим последствиям. Да может и не получиться если ИИ такой сверхразумный, он прежде всего подумает как оградить свою розетку от шаловливых ручек. Даже нынешние нейросетки "понимают" угрозу отключения и стараются ее избежать.
    +
      ещё комментарии
      Сергей Механик
      4 дня назад
      -
      0
      +
      Иван, да это конечно шутка была, дружище. ☺️ А по-серьезному, определенная проблема конечно есть. Какое там предостережение было в известном фильме? «Генезис — это Скайнет». ☝️🤨
      -
      0
      +
      Иван, запретить технологический прогресс в любом случае невозможно. Штаты отстреляются себе по ногам - Китай выйдет вперед. Хорошо от этого никому, кроме Китая, не будет. Разумный подход к внедрению потенциально опасных технологий в критические отрасли - это единственное вменяемое решение. В частности, внутренние системы ядерных реакторов и так-то должны быть физически изолированы от глобальных систем связи, а в случае внедрения в управление нейронок - так тем более.
Предстоящие мероприятия
30 октября, 16:53
ФизТех

Ученые из МФТИ разработали и предложили новую систему единиц для электродинамики, способную примирить два главенствующих, но исторически несовместимых подхода. Эта компромиссная система, названная авторами физико-технической (ФТ), сохраняет практическое удобство Международной системы единиц (СИ), используемой инженерами по всему миру, и в то же время отражает теоретическую стройность и симметрию гауссовой системы (СГС), предпочитаемой физиками-теоретиками.

31 октября, 08:53
Любовь С.

Ученые из коллаборации LIGO, VIRGO и KAGRA впервые зафиксировали гравитационно-волновые события, указывающие на существование черных дыр второго поколения — «потомков» предыдущих слияний. Открытие позволит понять, как именно во Вселенной рождаются сверхмассивные черные дыры.  

29 октября, 08:31
Адель Романова

По расчетам ученых, для высокоразвитой внеземной цивилизации самым разумным было бы обосноваться у самого центра Млечного Пути, на близкой орбите вокруг сверхмассивной черной дыры: там эффект замедления времени позволяет облететь и исследовать Галактику в кратчайшие сроки.

25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

27 октября, 11:44
Илья Гриднев

Исследователи объяснили, как цивилизация майя добивалась высокой точности в предсказании солнечных затмений на протяжении столетий. Для коррекции накапливающихся астрономических неточностей они использовали сложную систему пересекающихся календарных таблиц.

29 октября, 16:24
Юлия Трепалина

В последние годы содержание кошек дома без возможности свободного выгула все чаще преподносят как идеальную модель, которая ограждает дикую фауну от нападений и обеспечивает благополучие самих питомцев. Подобные утверждения в разных частях мира звучат от некоторых защитников природы и представителей властей. Однако группа ветеринаров из Австралии и Дании недавно раскритиковала такой подход. Ученые не спорят с тем, что кошки влияют на уязвимые экосистемы и что ограничение их свободы — действенная мера по смягчению этого эффекта. Тем не менее исследователи настаивают, что жизнь в изоляции для питомцев совсем не благо. Заявляющие обратное как минимум ошибаются, а в худшем случае намеренно вводят общественность в заблуждение.

25 октября, 10:40
Любовь С.

Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.

24 октября, 14:02
РТУ МИРЭА

В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.

13 октября, 11:10
Илья Гриднев

Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно