• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Эксперт по машинному обучению призывает остановить распространение ИИ

Один из самых активных в мире критиков искусственного интеллекта (ИИ) выступил с решительным призывом не только поставить разработку ИИ на паузу, но и вообще положить ему конец — пока он не прикончил человечество.

©TIME / Lon Tweeten

В статье журнала Time специалист по искусственному интеллекту Элиезер Юдковски, который более двух десятилетий предупреждал об антиутопическом будущем, которое наступит, когда развитие прогресса достигнет сильного искусственного  интеллекта (AGI) или технологической сингулярности, снова бьет тревогу.

Юдковски отметил, что, хотя он хвалит тех, кто подписал недавнее открытое письмо Института будущего жизни, в том числе генерального директора SpaceX Илона Маска и соучредителя Apple Стива Возняка, призывающих к шестимесячной паузе в разработке ИИ, он сам не подписал письмо, потому что считает, что этих мер не достаточно.

«Я воздержался от подписи, потому что считаю, что письмо преуменьшает серьезность ситуации и требует слишком мало для ее решения».

Юдковски говорит, что его меньше беспокоит «конкурентный с людьми» ИИ, чем «то, что будет после».

«Мы определенно не можем заранее рассчитать, что и когда произойдет, и в настоящее время кажется возможным, что исследователи перейдут критические границы, даже не заметив этого».

По мнению Юдковски, есть только одно решение для надвигающейся экзистенциальной угрозы со стороны «враждебного» сверхчеловеческого сильного ИИ: «просто отключить его» любыми необходимыми средствами.

Следует «выключить все большие кластеры графических процессоров (большие компьютерные фермы, где совершенствуются самые мощные ИИ)», — написал Юдковски. «Отключить все большие тренировочные циклы. Установить потолок того, сколько вычислительной мощности кому-либо разрешено использовать для обучения системы ИИ, и снизить его в ближайшие годы, чтобы компенсировать более эффективные алгоритмы обучения. Никаких исключений для правительств и вооруженных сил».

Если кто-то, кто посвятил свою жизнь изучению опасностей антиутопического будущего ИИ, говорит, что человечество движется к тому, о чем он предупреждал, его мнение, возможно, стоит выслушать.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

35 Комментариев
АнЯ
27.06.2023
-
0
+
все зависит от уровня возраста и того как игде пишит свои рефератты. сейчас новшество репетиторство и огэ экзамены и прочие перенаправление энергии и првильная передача отвественности.
Комментарий удален пользователем или модератором...
    программа только компилирует прежние мысли и образы.
    То ли еще будет... Пока компилирует. Плохо будет, когда она начнет принимать решения, обязательные к исполнению людьми. Или хотя бы давать рекомендации, большая часть из которых будет утверждаться опять же к исполнению - просто потому, что трудно, нет времени проверить правильность, да и просто лень. Близкий пример - выборы. Как только полностью откажутся от бумажных бюллетеней. И, заметьте, подобная система не обязательно должна обладать "искусственным интеллектом" в полной мере. Теперь проэкстраполируем этот пример на правоохранительные органы в части вынесения решений о наказании и приведения их в исполнение. Камеры уже есть, и не только на дорогах, штрафы от ГИБДД в авторежиме уже выписывают. Осталось расширить спектр правонарушений (хулиганство там, кражи и т.д. - для начала то, что влечет штрафы) и прикрутить к системе банковские приложения, убрав из цепочки людей, как центр принятия решений о наказании. Еще эффективнее будет работать, если запретить наличный денежный оборот и натуральный обмен. Не согласны с наказанием, которое наложил ИИ? Жалуйтесь через госуслуги, другой ИИ (или как это все будет называться) рассмотрит. Не надо мыслей, не надо образов. Органам облегчение, можно и штаты сократить. Никакой коррупции! По телевизору Скабеевы захлебываются от восторга, тщательно отобранные представители народа славят министров и программистов. Занавес... Может, Маск имел в виду нечто подобное?
    +
      ещё комментарии
      Комментарий удален пользователем или модератором...
        "Вот и вы считаете автоматически начисляемые штрафы продукцией компьютера" Именно его продукцией они и являются. Решение о наложении штрафа и о его взыскании утверждает человек. Пока. Когда-нибудь эти два этапа плюс обжалование тоже отдадут компьютеру. И тогда жизнь правоохранительных органов станет простой и приятной.
      Комментарий удален пользователем или модератором...
      Понимаете, ИИ - он что дышло, куды повернул, туда и вышло. Можно соорудить цифровой фашизм, чем успешно занимаются китайские товарищи. Можно поставить на службу свободному человеку. Еще классики марксизма-ленинизма, сидя в блиндаже под Ковелем, мечтали, как мы заживем после победы над (нужное подчеркнуть). И ведь вполне могли бы и зажить. Но почему-то у китайцев, что бы они ни строили, получается ханьская империя. У московитов - Иван Грозный с опричиниками. У Еуропы - империя Карла Великого. У США - Дикий Запад с салунами и ковбоями. У тех кого нельзя называть - махновщина и Сичь.
        Комментарий удален пользователем или модератором...
          Да, Макрон слабо тянет на КВ, в лучшем случае - на Людовика Шешнадцатого. А вот в США сурьезно собираются послать весь этот неблагодарный мир подальше, да и оградиться в островную империю. Два раза они со всей душой, со всеми дарами, приходили к этим неблагодарным варварам - и оба раза (Китай и СССР) ничего не получилось. Дискурс обсуждения у них такой, что нужно посылать все это подальше. И жить как отцы и деды жили - до 1914 года - 50 % ВВП мира у них, отдыхать ездим в Париж, за этот ТаиландоПариж отвечает Макрон, а все что восточнее Парижа и Прованса - дикая Сибирь, и туда лучше не надо. Видите ли, почти никто не знает, во что им обходится наведение порядка в этом гребаном мире. Примерно в 30 % ВВП - сейчас они занимают 20 % мирового ВВП. А занимали - до 1914 года, пока не влезли во всю эту мировую кашу - 50 % мирового ВВП. Что-то дорого обходится им оплата на общедомовые нужды. Они бы и раньше ушли уже давно, но их опять втянули в разборки после 9/11. И из Афгана они потому и ушли, что там можно сидеть хоть 40 лет - и все равно успеха не будет, варвары не воспринимают демократию.
            Комментарий удален пользователем или модератором...
              Если бы не путиница, то РФ могла бы за последнюю четверть века увеличить свою долю в мировой экономике до 6-7 %, что уменьшило бы долю США на пару процентов.
              да это отмечают многие. В мировом разделении труда никто не ждал страны постсовка с распростертыми объятиями и не уступал свою долю рынка из альтруистических чувств. Нужно было бороться, грызть, двигаться, работать, в общем "идти на зубах", как выражается Пастухов. Вместо этого решили взять на понт. Рез-т известен.
        "ИИ - он что дышло, куды повернул, туда и вышло" Дык я про то и говорю. Ядерная энергия тому пример: это и бомба и электростанция. ИИ (или то, что под ним понимается) тоже можно применять по-разному: распознавать рак или гнобить инакомыслящих. Что выберут власти страны, доразвивавшей этот ИИ до необходимого уровня? Пока что искуственный интеллект наивно отождествляют с ChatGPT, который выглядит безобидной забавной игрушкой. Уместно вспомнить академика А.Д. Сахарова, который сначала разрабатывал ядерное оружие, а потом боролся с ним. Нынешние ученые решили не ждать, пока разработка новой технологии двойного назначения "успешно" завершится.
Арчи
03.04.2023
-
1
+
Этой панике не одна тысяча лет. Уверен, вот так же возражали против приручения собак (неизбежно же человеческая раса потеряет острый природный нюх и выродится) и лошадей (разучится быстро бегать и опять же выродится), и вакцинации, и автомобилей, и самолётов (если бы Господь хотел, чтобы люди летали, он дал бы им крылья!), и спичек, и экстракорпорального оплодотворения, и книг (всё зло от книг! вот взять бы все и сжечь!), и сотовой связи, да всего нового. И если бы человечество слушалось ребят вроде этого Юдковски, то до сих пор ютилось бы в пещерах и выкусывало блох у сородичей.
IN FLAMES
03.04.2023
-
0
+
Человечеству осталось 30- 50 лет(разрыв между моральным и научно-технических развитием достиг критической массы)и не важно с помощью чего оно себя уничтожит ии или ещё какой неведомой Ху...
-
0
+
Какая разница ИИ уничтожит человечество или человечество уничтожит само себя?
Kiridan
03.04.2023
-
0
+
Кому-то занесли.
А. М.
03.04.2023
-
0
+
Убить его надо,чтобы не мешал прогрессу
"Величайший враг спрятался там, где Вы никогда не будете его искать" (с) Гай Юлий Цезарь, 2 век до Р.Х.
    "Пока гром не грянет, мужик не перекрестится." Русская народная поговорка, фиг знает когда до или после Р.Х. В нксколько юмористическом плане сладкая жизнь простых человеков под контролем ИИ замечательно изображена в фильме "Пара из будущего". Беда с ИИ не в том, что ИИ будет бороться со всем человечеством, а в том, что маленькая часть человечества будет управлять остальными при помощи ИИ, используя его в качестве непрошибаемого и крайне недоброжелательного посредника. Приходилось разговаривать с роботами по телефону при звонках в крупные организации? Ну вот это самый безобидный вариант использования ИИ.
    +
      ещё комментарии
      а в том, что маленькая часть человечества будет управлять остальными при помощи ИИ, используя его в качестве непрошибаемого и крайне недоброжелательного посредника.
      а и сейчас нами постоянно кто-то и\иличто-то управляет. Жена, дети. Начальник, клиенты. Поставщики, подрядчики. Соседи. Наши слабости и пороки. Страхи, реальные и мнимые. Шок будущего. Неумение наслаждатсья малым, постоянная погоня за чем-либо. Так какая разница, если к этому возу, который мы тащим по жизни, добавится еще один мешок? Ни мы не заметим, ни ИИ.
    Следовательно, призывать правительства и крупный бизнес остановить или ограничить работы по ИИ равносильны призывам ко львам не охотиться и не употреблять мясо. Успешными такие призывы были только в мультике "Король-лев". Вы верите в правдивость этой умилительной истории? Вот и я тоже.
    Polo
    03.04.2023
    -
    0
    +
    И ты, Брут?.. (с)
    +
      ещё комментарии
      Брут по нек сведениям был его внебрачным сыном, потому он и не особо сопротивлялся ему, даже накинул на голову накидку -вот мол режьте меня, колит ак, коли уж все против меня. Заговорщики были неумелы и наполовину самих же себя поранили, потому-что охватили Цезаря кольцом. Охраны Гай Юлий не держал в принципе, ибо был воином, а не бункерным сидельцем. И кста не все были супротив него римские граждане подняли бунты и гонялись за заговорщиками по всему городу еще дня 3, Цезаря в народе любили, он народишко часто хлебцом баловал, и зрелищами.
Zhe Sh
03.04.2023
-
1
+
ЛуддИИзм XXI века
    Скорее обидчивость маленьких детей, на которых никто не обращает внимание. А как хорошо им было еще недавно, когда все думали, чт осамые страшные опасности в мире - это спектр и мелтдаун, и чтобы спать спокойно, нужно развивать информац безопасноть и покупать лицензии на антивирусы. И какие хорошие гонорары платили таким прорицателям за услуги.
Предстоящие мероприятия
7 июля, 08:30
ПНИПУ

Инфекции, такие как коронавирус, наносят серьезный удар организму, из-за чего даже после выздоровления он продолжительное время остается уязвимым. Сегодня для оценки иммунитета врачи смотрят в первую очередь на уровень антител в крови, однако такой подход не отражает реального состояния здоровья человека. Это не позволяет врачам точно прогнозировать, как будет протекать болезнь и насколько быстро пациент выздоровеет. Ученые Пермского Политеха и ПГАТУ впервые выяснили, как именно восстановление иммунитета зависит от пола человека и кто наиболее подвержен осложнениям после коронавирусной инфекции. Результаты исследования помогут правильно учитывать гендерные особенности пациента при лечении и реабилитации, что повысит точность прогнозов и эффективность терапии.

8 июля, 13:25
Александр Березин

Плавящийся асфальт в США, многие тысячи погибших в Западной Европе, своеобразное лето в России — все это списывают на вредоносный феномен рекордного Эль-Ниньо. И конечно же, на него спихивают и ожидаемый рост цен на кофе и основные сельхозтовары. Правда, есть в этой картине и белые пятна: в прошлые Эль-Ниньо мировые урожаи росли. Что скорее всего случится в 2026 году и отчего роль этого события может быть куда больше, чем мы думаем?

6 июля, 11:29
РНФ

Ученые синтезировали три новых комплекса металла европия и нашли способ управлять яркостью их свечения (люминесценции). Подобные светящиеся соединения востребованы в биологии и медицине для визуализации тканей и отслеживания распределения лекарств по организму, а также в технике при разработке энергоэффективных дисплеев и светодиодов.

4 июля, 09:30
Любовь С.

Анализ более 150 тысяч древних звезд Млечного Пути показал, что возраст космоса, судя по всему, близок к 13,8 миллиарда лет. Авторы нового исследования заключили, что сценарии, в которых Вселенную приходится делать заметно «моложе» ради решения хаббловского кризиса, плохо согласуются с наблюдениями. Это важно, поскольку возраст старейших светил — один из немногих независимых способов проверить космологические модели не по данным ранней Вселенной, а по объектам нашей собственной Галактики.

6 июля, 14:44
Илья Гриднев

Сканирующая туннельная микроскопия достигла квантово-механического предела пространства-времени. Физики провели эксперимент и смоделировали перемещение одиночного электрона с атомарной точностью и скоростью в доли фемтосекунды. Результат показал границы применимости квантовых законов и объяснил механику сверхбыстрых процессов.

7 июля, 08:30
ПНИПУ

Инфекции, такие как коронавирус, наносят серьезный удар организму, из-за чего даже после выздоровления он продолжительное время остается уязвимым. Сегодня для оценки иммунитета врачи смотрят в первую очередь на уровень антител в крови, однако такой подход не отражает реального состояния здоровья человека. Это не позволяет врачам точно прогнозировать, как будет протекать болезнь и насколько быстро пациент выздоровеет. Ученые Пермского Политеха и ПГАТУ впервые выяснили, как именно восстановление иммунитета зависит от пола человека и кто наиболее подвержен осложнениям после коронавирусной инфекции. Результаты исследования помогут правильно учитывать гендерные особенности пациента при лечении и реабилитации, что повысит точность прогнозов и эффективность терапии.

10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

25 июня, 16:20
Любовь С.

Вселенная может оказаться «замкнутой» глобальной структурой, где свет от далеких галактик способен возвращаться к наблюдателю с разных направлений. Именно такой сценарий не удалось исключить авторам нового масштабного обзора. Проверить его предсказания астрономы смогут уже в ближайшие годы.

25 июня, 15:09
Марк Чернов

Ученые впервые на молекулярном уровне доказали, что обычная вода одновременно состоит из двух разных жидких состояний — более плотного и менее плотного, которые непрерывно сменяют друг друга. Раз молекулярная «двойственность» действительно существует, это подтверждает спорную 30-летнюю гипотезу. Новое открытие поможет, наконец, объяснить десятки «странных» физических аномалий воды, включая ее расширение при замерзании и парадоксальное изменение вязкости под давлением.

[miniorange_social_login]