• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Эксперт по машинному обучению призывает остановить распространение ИИ

Один из самых активных в мире критиков искусственного интеллекта (ИИ) выступил с решительным призывом не только поставить разработку ИИ на паузу, но и вообще положить ему конец — пока он не прикончил человечество.

©TIME / Lon Tweeten

В статье журнала Time специалист по искусственному интеллекту Элиезер Юдковски, который более двух десятилетий предупреждал об антиутопическом будущем, которое наступит, когда развитие прогресса достигнет сильного искусственного  интеллекта (AGI) или технологической сингулярности, снова бьет тревогу.

Юдковски отметил, что, хотя он хвалит тех, кто подписал недавнее открытое письмо Института будущего жизни, в том числе генерального директора SpaceX Илона Маска и соучредителя Apple Стива Возняка, призывающих к шестимесячной паузе в разработке ИИ, он сам не подписал письмо, потому что считает, что этих мер не достаточно.

«Я воздержался от подписи, потому что считаю, что письмо преуменьшает серьезность ситуации и требует слишком мало для ее решения».

Юдковски говорит, что его меньше беспокоит «конкурентный с людьми» ИИ, чем «то, что будет после».

«Мы определенно не можем заранее рассчитать, что и когда произойдет, и в настоящее время кажется возможным, что исследователи перейдут критические границы, даже не заметив этого».

По мнению Юдковски, есть только одно решение для надвигающейся экзистенциальной угрозы со стороны «враждебного» сверхчеловеческого сильного ИИ: «просто отключить его» любыми необходимыми средствами.

Следует «выключить все большие кластеры графических процессоров (большие компьютерные фермы, где совершенствуются самые мощные ИИ)», — написал Юдковски. «Отключить все большие тренировочные циклы. Установить потолок того, сколько вычислительной мощности кому-либо разрешено использовать для обучения системы ИИ, и снизить его в ближайшие годы, чтобы компенсировать более эффективные алгоритмы обучения. Никаких исключений для правительств и вооруженных сил».

Если кто-то, кто посвятил свою жизнь изучению опасностей антиутопического будущего ИИ, говорит, что человечество движется к тому, о чем он предупреждал, его мнение, возможно, стоит выслушать.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

36 Комментариев

АнЯ
27.06.2023
-
0
+
все зависит от уровня возраста и того как игде пишит свои рефератты. сейчас новшество репетиторство и огэ экзамены и прочие перенаправление энергии и првильная передача отвественности.
-
1
+
Комментарий удален пользователем или модератором...
    -
    0
    +
    программа только компилирует прежние мысли и образы.
    То ли еще будет... Пока компилирует. Плохо будет, когда она начнет принимать решения, обязательные к исполнению людьми. Или хотя бы давать рекомендации, большая часть из которых будет утверждаться опять же к исполнению - просто потому, что трудно, нет времени проверить правильность, да и просто лень. Близкий пример - выборы. Как только полностью откажутся от бумажных бюллетеней. И, заметьте, подобная система не обязательно должна обладать "искусственным интеллектом" в полной мере. Теперь проэкстраполируем этот пример на правоохранительные органы в части вынесения решений о наказании и приведения их в исполнение. Камеры уже есть, и не только на дорогах, штрафы от ГИБДД в авторежиме уже выписывают. Осталось расширить спектр правонарушений (хулиганство там, кражи и т.д. - для начала то, что влечет штрафы) и прикрутить к системе банковские приложения, убрав из цепочки людей, как центр принятия решений о наказании. Еще эффективнее будет работать, если запретить наличный денежный оборот и натуральный обмен. Не согласны с наказанием, которое наложил ИИ? Жалуйтесь через госуслуги, другой ИИ (или как это все будет называться) рассмотрит. Не надо мыслей, не надо образов. Органам облегчение, можно и штаты сократить. Никакой коррупции! По телевизору Скабеевы захлебываются от восторга, тщательно отобранные представители народа славят министров и программистов. Занавес... Может, Маск имел в виду нечто подобное?
    +
      ещё комментарии
      Лев
      04.04.2023
      -
      0
      +
      Комментарий удален пользователем или модератором...
        -
        0
        +
        "Вот и вы считаете автоматически начисляемые штрафы продукцией компьютера" Именно его продукцией они и являются. Решение о наложении штрафа и о его взыскании утверждает человек. Пока. Когда-нибудь эти два этапа плюс обжалование тоже отдадут компьютеру. И тогда жизнь правоохранительных органов станет простой и приятной.
      Игорь
      04.04.2023
      -
      0
      +
      Пример из жизни. Мне пришло автоматическое письмо счастья за превышение скорости. На фото - не моя машина. Я написал на официальный адрес претензию, и штраф отменили. Не нужно бояться автоматизации, она не усложняет, а упрощает жизнь. Глупо быть луддитом в 21 веке...
      Семен
      04.04.2023
      -
      0
      +
      Понимаете, ИИ - он что дышло, куды повернул, туда и вышло. Можно соорудить цифровой фашизм, чем успешно занимаются китайские товарищи. Можно поставить на службу свободному человеку. Еще классики марксизма-ленинизма, сидя в блиндаже под Ковелем, мечтали, как мы заживем после победы над (нужное подчеркнуть). И ведь вполне могли бы и зажить. Но почему-то у китайцев, что бы они ни строили, получается ханьская империя. У московитов - Иван Грозный с опричиниками. У Еуропы - империя Карла Великого. У США - Дикий Запад с салунами и ковбоями. У тех кого нельзя называть - махновщина и Сичь.
        Лев
        04.04.2023
        -
        0
        +
        Комментарий удален пользователем или модератором...
          Семен
          05.04.2023
          -
          0
          +
          Да, Макрон слабо тянет на КВ, в лучшем случае - на Людовика Шешнадцатого. А вот в США сурьезно собираются послать весь этот неблагодарный мир подальше, да и оградиться в островную империю. Два раза они со всей душой, со всеми дарами, приходили к этим неблагодарным варварам - и оба раза (Китай и СССР) ничего не получилось. Дискурс обсуждения у них такой, что нужно посылать все это подальше. И жить как отцы и деды жили - до 1914 года - 50 % ВВП мира у них, отдыхать ездим в Париж, за этот ТаиландоПариж отвечает Макрон, а все что восточнее Парижа и Прованса - дикая Сибирь, и туда лучше не надо. Видите ли, почти никто не знает, во что им обходится наведение порядка в этом гребаном мире. Примерно в 30 % ВВП - сейчас они занимают 20 % мирового ВВП. А занимали - до 1914 года, пока не влезли во всю эту мировую кашу - 50 % мирового ВВП. Что-то дорого обходится им оплата на общедомовые нужды. Они бы и раньше ушли уже давно, но их опять втянули в разборки после 9/11. И из Афгана они потому и ушли, что там можно сидеть хоть 40 лет - и все равно успеха не будет, варвары не воспринимают демократию.
            Лев
            05.04.2023
            -
            0
            +
            Комментарий удален пользователем или модератором...
              Семен
              05.04.2023
              -
              0
              +
              Если бы не путиница, то РФ могла бы за последнюю четверть века увеличить свою долю в мировой экономике до 6-7 %, что уменьшило бы долю США на пару процентов.
              да это отмечают многие. В мировом разделении труда никто не ждал страны постсовка с распростертыми объятиями и не уступал свою долю рынка из альтруистических чувств. Нужно было бороться, грызть, двигаться, работать, в общем "идти на зубах", как выражается Пастухов. Вместо этого решили взять на понт. Рез-т известен.
        -
        0
        +
        "ИИ - он что дышло, куды повернул, туда и вышло" Дык я про то и говорю. Ядерная энергия тому пример: это и бомба и электростанция. ИИ (или то, что под ним понимается) тоже можно применять по-разному: распознавать рак или гнобить инакомыслящих. Что выберут власти страны, доразвивавшей этот ИИ до необходимого уровня? Пока что искуственный интеллект наивно отождествляют с ChatGPT, который выглядит безобидной забавной игрушкой. Уместно вспомнить академика А.Д. Сахарова, который сначала разрабатывал ядерное оружие, а потом боролся с ним. Нынешние ученые решили не ждать, пока разработка новой технологии двойного назначения "успешно" завершится.
Арчи
03.04.2023
-
1
+
Этой панике не одна тысяча лет. Уверен, вот так же возражали против приручения собак (неизбежно же человеческая раса потеряет острый природный нюх и выродится) и лошадей (разучится быстро бегать и опять же выродится), и вакцинации, и автомобилей, и самолётов (если бы Господь хотел, чтобы люди летали, он дал бы им крылья!), и спичек, и экстракорпорального оплодотворения, и книг (всё зло от книг! вот взять бы все и сжечь!), и сотовой связи, да всего нового. И если бы человечество слушалось ребят вроде этого Юдковски, то до сих пор ютилось бы в пещерах и выкусывало блох у сородичей.
IN FLAMES
03.04.2023
-
0
+
Человечеству осталось 30- 50 лет(разрыв между моральным и научно-технических развитием достиг критической массы)и не важно с помощью чего оно себя уничтожит ии или ещё какой неведомой Ху...
Siarhei Arkhipkou
03.04.2023
-
0
+
Какая разница ИИ уничтожит человечество или человечество уничтожит само себя?
Kiridan
03.04.2023
-
0
+
Кому-то занесли.
А. М.
03.04.2023
-
0
+
Убить его надо,чтобы не мешал прогрессу
-
2
+
"Величайший враг спрятался там, где Вы никогда не будете его искать" (с) Гай Юлий Цезарь, 2 век до Р.Х.
    -
    0
    +
    "Пока гром не грянет, мужик не перекрестится." Русская народная поговорка, фиг знает когда до или после Р.Х. В нксколько юмористическом плане сладкая жизнь простых человеков под контролем ИИ замечательно изображена в фильме "Пара из будущего". Беда с ИИ не в том, что ИИ будет бороться со всем человечеством, а в том, что маленькая часть человечества будет управлять остальными при помощи ИИ, используя его в качестве непрошибаемого и крайне недоброжелательного посредника. Приходилось разговаривать с роботами по телефону при звонках в крупные организации? Ну вот это самый безобидный вариант использования ИИ.
    +
      ещё комментарии
      Семен
      03.04.2023
      -
      1
      +
      а в том, что маленькая часть человечества будет управлять остальными при помощи ИИ, используя его в качестве непрошибаемого и крайне недоброжелательного посредника.
      а и сейчас нами постоянно кто-то и\иличто-то управляет. Жена, дети. Начальник, клиенты. Поставщики, подрядчики. Соседи. Наши слабости и пороки. Страхи, реальные и мнимые. Шок будущего. Неумение наслаждатсья малым, постоянная погоня за чем-либо. Так какая разница, если к этому возу, который мы тащим по жизни, добавится еще один мешок? Ни мы не заметим, ни ИИ.
    -
    0
    +
    Следовательно, призывать правительства и крупный бизнес остановить или ограничить работы по ИИ равносильны призывам ко львам не охотиться и не употреблять мясо. Успешными такие призывы были только в мультике "Король-лев". Вы верите в правдивость этой умилительной истории? Вот и я тоже.
    Polo
    03.04.2023
    -
    0
    +
    И ты, Брут?.. (с)
    +
      ещё комментарии
      Семен
      03.04.2023
      -
      0
      +
      Брут по нек сведениям был его внебрачным сыном, потому он и не особо сопротивлялся ему, даже накинул на голову накидку -вот мол режьте меня, колит ак, коли уж все против меня. Заговорщики были неумелы и наполовину самих же себя поранили, потому-что охватили Цезаря кольцом. Охраны Гай Юлий не держал в принципе, ибо был воином, а не бункерным сидельцем. И кста не все были супротив него римские граждане подняли бунты и гонялись за заговорщиками по всему городу еще дня 3, Цезаря в народе любили, он народишко часто хлебцом баловал, и зрелищами.
Zhe Sh
03.04.2023
-
1
+
ЛуддИИзм XXI века
    Семен
    03.04.2023
    -
    0
    +
    Скорее обидчивость маленьких детей, на которых никто не обращает внимание. А как хорошо им было еще недавно, когда все думали, чт осамые страшные опасности в мире - это спектр и мелтдаун, и чтобы спать спокойно, нужно развивать информац безопасноть и покупать лицензии на антивирусы. И какие хорошие гонорары платили таким прорицателям за услуги.

Предстоящие мероприятия
Позавчера, 19:20
Мария Азарова

Исследователи из Южной Кореи на примере супружеских пар проверили, как длина и состояние волос женщин отражаются на влечении к ним мужчин и частоте половых контактов.

9 часов назад
Игорь Байдов

Американская компания JetZero, которая обещает произвести фурор в гражданской авиации, получила сертификат летной годности на испытания уменьшенной копии разрабатываемого ею сверхэффективного реактивного авиалайнера со «смешанным крылом». Предстоящая программа летных испытаний будет направлена на оценку летно-технических характеристик самолета, его устойчивости и управляемости.

Вчера, 07:27
Полина

Международная команда исследователей проанализировала гены композитора Людвига ван Бетховена. Если оценивать по ним его способности к музыке, они окажутся невыдающимися.

Позавчера, 19:20
Мария Азарова

Исследователи из Южной Кореи на примере супружеских пар проверили, как длина и состояние волос женщин отражаются на влечении к ним мужчин и частоте половых контактов.

Вчера, 07:27
Полина

Международная команда исследователей проанализировала гены композитора Людвига ван Бетховена. Если оценивать по ним его способности к музыке, они окажутся невыдающимися.

24 марта
Михаил Орлов

Астронавты, прибывшие на Луну в рамках программы «Аполлон», установили на ее поверхности первые внеземные сейсмографы и оценили частоту и силу лунотрясений. Теперь, спустя полвека после сбора данных о сейсмической активности Луны, ученые вновь подвергли их анализу, смогли удалить из них помехи и резко изменили оценки сейсмической активности на Луне. Оказалось, что приборы тогда зафиксировали не 13 тысяч лунотрясений, как считали ранее, а почти в три раза больше. Среди них неожиданно много слабых толчков, которые сосредоточены в северном полушарии Луны.

11 марта
Игорь Байдов

Американская компания Stratolaunch сообщила об успешном завершении летных испытаний прототипа гиперзвукового аппарата Talon-A, оснащенного ракетным двигателем. Во время беспилотного полета планер развил сверхзвуковую скорость.

18 марта
Игорь Байдов

Грузовой самолет будут использовать для перевозки 90-метровых лопастей ветряных турбин, которые невозможно доставить по суше из-за размеров. Предполагается, что этот аппарат произведет революцию в сфере возобновляемых источников энергии.

13 марта
Алиса Гаджиева

Древние переселенцы из Анатолии не только устроили геноцид в Скандинавии, но и одарили выживших новыми болезнями.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно