• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Эксперт по машинному обучению призывает остановить распространение ИИ

Один из самых активных в мире критиков искусственного интеллекта (ИИ) выступил с решительным призывом не только поставить разработку ИИ на паузу, но и вообще положить ему конец — пока он не прикончил человечество.

©TIME / Lon Tweeten

В статье журнала Time специалист по искусственному интеллекту Элиезер Юдковски, который более двух десятилетий предупреждал об антиутопическом будущем, которое наступит, когда развитие прогресса достигнет сильного искусственного  интеллекта (AGI) или технологической сингулярности, снова бьет тревогу.

Юдковски отметил, что, хотя он хвалит тех, кто подписал недавнее открытое письмо Института будущего жизни, в том числе генерального директора SpaceX Илона Маска и соучредителя Apple Стива Возняка, призывающих к шестимесячной паузе в разработке ИИ, он сам не подписал письмо, потому что считает, что этих мер не достаточно.

«Я воздержался от подписи, потому что считаю, что письмо преуменьшает серьезность ситуации и требует слишком мало для ее решения».

Юдковски говорит, что его меньше беспокоит «конкурентный с людьми» ИИ, чем «то, что будет после».

«Мы определенно не можем заранее рассчитать, что и когда произойдет, и в настоящее время кажется возможным, что исследователи перейдут критические границы, даже не заметив этого».

По мнению Юдковски, есть только одно решение для надвигающейся экзистенциальной угрозы со стороны «враждебного» сверхчеловеческого сильного ИИ: «просто отключить его» любыми необходимыми средствами.

Следует «выключить все большие кластеры графических процессоров (большие компьютерные фермы, где совершенствуются самые мощные ИИ)», — написал Юдковски. «Отключить все большие тренировочные циклы. Установить потолок того, сколько вычислительной мощности кому-либо разрешено использовать для обучения системы ИИ, и снизить его в ближайшие годы, чтобы компенсировать более эффективные алгоритмы обучения. Никаких исключений для правительств и вооруженных сил».

Если кто-то, кто посвятил свою жизнь изучению опасностей антиутопического будущего ИИ, говорит, что человечество движется к тому, о чем он предупреждал, его мнение, возможно, стоит выслушать.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

36 Комментариев
АнЯ
27.06.2023
-
0
+
все зависит от уровня возраста и того как игде пишит свои рефератты. сейчас новшество репетиторство и огэ экзамены и прочие перенаправление энергии и првильная передача отвественности.
-
1
+
Комментарий удален пользователем или модератором...
    программа только компилирует прежние мысли и образы.
    То ли еще будет... Пока компилирует. Плохо будет, когда она начнет принимать решения, обязательные к исполнению людьми. Или хотя бы давать рекомендации, большая часть из которых будет утверждаться опять же к исполнению - просто потому, что трудно, нет времени проверить правильность, да и просто лень. Близкий пример - выборы. Как только полностью откажутся от бумажных бюллетеней. И, заметьте, подобная система не обязательно должна обладать "искусственным интеллектом" в полной мере. Теперь проэкстраполируем этот пример на правоохранительные органы в части вынесения решений о наказании и приведения их в исполнение. Камеры уже есть, и не только на дорогах, штрафы от ГИБДД в авторежиме уже выписывают. Осталось расширить спектр правонарушений (хулиганство там, кражи и т.д. - для начала то, что влечет штрафы) и прикрутить к системе банковские приложения, убрав из цепочки людей, как центр принятия решений о наказании. Еще эффективнее будет работать, если запретить наличный денежный оборот и натуральный обмен. Не согласны с наказанием, которое наложил ИИ? Жалуйтесь через госуслуги, другой ИИ (или как это все будет называться) рассмотрит. Не надо мыслей, не надо образов. Органам облегчение, можно и штаты сократить. Никакой коррупции! По телевизору Скабеевы захлебываются от восторга, тщательно отобранные представители народа славят министров и программистов. Занавес... Может, Маск имел в виду нечто подобное?
    +
      ещё комментарии
      -
      0
      +
      Комментарий удален пользователем или модератором...
        "Вот и вы считаете автоматически начисляемые штрафы продукцией компьютера" Именно его продукцией они и являются. Решение о наложении штрафа и о его взыскании утверждает человек. Пока. Когда-нибудь эти два этапа плюс обжалование тоже отдадут компьютеру. И тогда жизнь правоохранительных органов станет простой и приятной.
      -
      0
      +
      Пример из жизни. Мне пришло автоматическое письмо счастья за превышение скорости. На фото - не моя машина. Я написал на официальный адрес претензию, и штраф отменили. Не нужно бояться автоматизации, она не усложняет, а упрощает жизнь. Глупо быть луддитом в 21 веке...
      -
      0
      +
      Понимаете, ИИ - он что дышло, куды повернул, туда и вышло. Можно соорудить цифровой фашизм, чем успешно занимаются китайские товарищи. Можно поставить на службу свободному человеку. Еще классики марксизма-ленинизма, сидя в блиндаже под Ковелем, мечтали, как мы заживем после победы над (нужное подчеркнуть). И ведь вполне могли бы и зажить. Но почему-то у китайцев, что бы они ни строили, получается ханьская империя. У московитов - Иван Грозный с опричиниками. У Еуропы - империя Карла Великого. У США - Дикий Запад с салунами и ковбоями. У тех кого нельзя называть - махновщина и Сичь.
        -
        0
        +
        Комментарий удален пользователем или модератором...
          -
          0
          +
          Да, Макрон слабо тянет на КВ, в лучшем случае - на Людовика Шешнадцатого. А вот в США сурьезно собираются послать весь этот неблагодарный мир подальше, да и оградиться в островную империю. Два раза они со всей душой, со всеми дарами, приходили к этим неблагодарным варварам - и оба раза (Китай и СССР) ничего не получилось. Дискурс обсуждения у них такой, что нужно посылать все это подальше. И жить как отцы и деды жили - до 1914 года - 50 % ВВП мира у них, отдыхать ездим в Париж, за этот ТаиландоПариж отвечает Макрон, а все что восточнее Парижа и Прованса - дикая Сибирь, и туда лучше не надо. Видите ли, почти никто не знает, во что им обходится наведение порядка в этом гребаном мире. Примерно в 30 % ВВП - сейчас они занимают 20 % мирового ВВП. А занимали - до 1914 года, пока не влезли во всю эту мировую кашу - 50 % мирового ВВП. Что-то дорого обходится им оплата на общедомовые нужды. Они бы и раньше ушли уже давно, но их опять втянули в разборки после 9/11. И из Афгана они потому и ушли, что там можно сидеть хоть 40 лет - и все равно успеха не будет, варвары не воспринимают демократию.
            -
            0
            +
            Комментарий удален пользователем или модератором...
              -
              0
              +
              Если бы не путиница, то РФ могла бы за последнюю четверть века увеличить свою долю в мировой экономике до 6-7 %, что уменьшило бы долю США на пару процентов.
              да это отмечают многие. В мировом разделении труда никто не ждал страны постсовка с распростертыми объятиями и не уступал свою долю рынка из альтруистических чувств. Нужно было бороться, грызть, двигаться, работать, в общем "идти на зубах", как выражается Пастухов. Вместо этого решили взять на понт. Рез-т известен.
        "ИИ - он что дышло, куды повернул, туда и вышло" Дык я про то и говорю. Ядерная энергия тому пример: это и бомба и электростанция. ИИ (или то, что под ним понимается) тоже можно применять по-разному: распознавать рак или гнобить инакомыслящих. Что выберут власти страны, доразвивавшей этот ИИ до необходимого уровня? Пока что искуственный интеллект наивно отождествляют с ChatGPT, который выглядит безобидной забавной игрушкой. Уместно вспомнить академика А.Д. Сахарова, который сначала разрабатывал ядерное оружие, а потом боролся с ним. Нынешние ученые решили не ждать, пока разработка новой технологии двойного назначения "успешно" завершится.
Арчи
03.04.2023
-
1
+
Этой панике не одна тысяча лет. Уверен, вот так же возражали против приручения собак (неизбежно же человеческая раса потеряет острый природный нюх и выродится) и лошадей (разучится быстро бегать и опять же выродится), и вакцинации, и автомобилей, и самолётов (если бы Господь хотел, чтобы люди летали, он дал бы им крылья!), и спичек, и экстракорпорального оплодотворения, и книг (всё зло от книг! вот взять бы все и сжечь!), и сотовой связи, да всего нового. И если бы человечество слушалось ребят вроде этого Юдковски, то до сих пор ютилось бы в пещерах и выкусывало блох у сородичей.
IN FLAMES
03.04.2023
-
0
+
Человечеству осталось 30- 50 лет(разрыв между моральным и научно-технических развитием достиг критической массы)и не важно с помощью чего оно себя уничтожит ии или ещё какой неведомой Ху...
Siarhei Arkhipkou
03.04.2023
-
0
+
Какая разница ИИ уничтожит человечество или человечество уничтожит само себя?
Kiridan
03.04.2023
-
0
+
Кому-то занесли.
А. М.
03.04.2023
-
0
+
Убить его надо,чтобы не мешал прогрессу
-
2
+
"Величайший враг спрятался там, где Вы никогда не будете его искать" (с) Гай Юлий Цезарь, 2 век до Р.Х.
    "Пока гром не грянет, мужик не перекрестится." Русская народная поговорка, фиг знает когда до или после Р.Х. В нксколько юмористическом плане сладкая жизнь простых человеков под контролем ИИ замечательно изображена в фильме "Пара из будущего". Беда с ИИ не в том, что ИИ будет бороться со всем человечеством, а в том, что маленькая часть человечества будет управлять остальными при помощи ИИ, используя его в качестве непрошибаемого и крайне недоброжелательного посредника. Приходилось разговаривать с роботами по телефону при звонках в крупные организации? Ну вот это самый безобидный вариант использования ИИ.
    +
      ещё комментарии
      -
      1
      +
      а в том, что маленькая часть человечества будет управлять остальными при помощи ИИ, используя его в качестве непрошибаемого и крайне недоброжелательного посредника.
      а и сейчас нами постоянно кто-то и\иличто-то управляет. Жена, дети. Начальник, клиенты. Поставщики, подрядчики. Соседи. Наши слабости и пороки. Страхи, реальные и мнимые. Шок будущего. Неумение наслаждатсья малым, постоянная погоня за чем-либо. Так какая разница, если к этому возу, который мы тащим по жизни, добавится еще один мешок? Ни мы не заметим, ни ИИ.
    Следовательно, призывать правительства и крупный бизнес остановить или ограничить работы по ИИ равносильны призывам ко львам не охотиться и не употреблять мясо. Успешными такие призывы были только в мультике "Король-лев". Вы верите в правдивость этой умилительной истории? Вот и я тоже.
    Polo
    03.04.2023
    -
    0
    +
    И ты, Брут?.. (с)
    +
      ещё комментарии
      -
      0
      +
      Брут по нек сведениям был его внебрачным сыном, потому он и не особо сопротивлялся ему, даже накинул на голову накидку -вот мол режьте меня, колит ак, коли уж все против меня. Заговорщики были неумелы и наполовину самих же себя поранили, потому-что охватили Цезаря кольцом. Охраны Гай Юлий не держал в принципе, ибо был воином, а не бункерным сидельцем. И кста не все были супротив него римские граждане подняли бунты и гонялись за заговорщиками по всему городу еще дня 3, Цезаря в народе любили, он народишко часто хлебцом баловал, и зрелищами.
Zhe Sh
03.04.2023
-
1
+
ЛуддИИзм XXI века
    -
    0
    +
    Скорее обидчивость маленьких детей, на которых никто не обращает внимание. А как хорошо им было еще недавно, когда все думали, чт осамые страшные опасности в мире - это спектр и мелтдаун, и чтобы спать спокойно, нужно развивать информац безопасноть и покупать лицензии на антивирусы. И какие хорошие гонорары платили таким прорицателям за услуги.
Вчера, 18:28
Evgenia

Ученые, работающие на Большом адронном коллайдере (БАК), обнаружили в результатах экспериментов неожиданные данные. Они могут свидетельствовать о существовании топония, связанного состояния топ-кварка и его антикварка.

Позавчера, 15:35
Елена

Международная группа исследователей из Китая, США и Германии разработала метаматериал с выдающейся механической емкостью хранения энергии. Придать ему уникальные характеристики удалось за счет структуры — скрученных гибких стержней, деформирующихся по спирали.

Вчера, 14:31
Березин Александр

Международная группа ученых попробовала определить, насколько сократилось население Европы 12,7 тысячи лет назад, когда на планете внезапно наступило тысячелетнее похолодание. Оказалось, население континента какое-то время составляло считаные тысячи человек.

2 апреля
Березин Александр

Известный американский отраслевой обозреватель Эрик Бергер взял интервью у экипажа космического корабля Boeing, из-за технических проблем которого два астронавта задержались на орбите на девять месяцев вместо одной недели. Детали, которые они озвучили, указывают на серьезные проблемы Starliner, о которых ранее умалчивали. Люди провели немало времени при глубоко нештатной температуре. При слегка другом сценарии миссии экипаж корабля мог погибнуть. Официальные заявления NASA и Boeing сразу после июньского полета к МКС, судя по интервью, были заведомо неправдивыми.

31 марта
Татьяна

Два ключевых события сыграли решающую роль в формировании генетического профиля современных европейских народов. Первое связано с приходом ранних фермеров из Анатолии примерно восемь тысяч лет назад, второе — масштабная миграция на запад носителей ямной степной культуры, начавшаяся пять тысяч лет назад. Однако ученые видят множество отличий от общей картины в разных регионах. В новой работе они проанализировали ДНК древних жителей самого северо-запада Европы и обнаружили более тесную связь с охотниками-собирателями, чем где бы то ни было.

1 апреля
Мария Азарова

Ученые из Австралии исследовали влияние сексуальной активности, а именно — самоудовлетворения и полового контакта с партнером — на объективные и субъективные параметры сна, в том числе на мотивацию поутру и готовность к новому дню.

6 марта
Юлия Трепалина

В двойственных, или обратимых, изображениях зритель может увидеть разные объекты в зависимости от того, на каких деталях концентрируется его внимание. Среди известных примеров таких рисунков — иллюзия «кролик-утка», сочетающая двух животных, и обратимая ваза (или ваза Рубина), которая может казаться двумя силуэтами лиц, если сосредоточиться на фоне. В соцсетях и популярных СМИ часто публикуют подобные картинки, утверждая, что по тому, какое изображение человек видит в первую очередь, можно судить о его личностных чертах и особенностях мышления. Двое психологов из Великобритании недавно проверили, так ли это на самом деле.

15 марта
Юлия Трепалина

Когда пара расстается, многие люди продолжают испытывать чувства к своим бывшим. Если разрыв произошел по инициативе другой стороны и отношения длились много лет, полностью «забыть» еще недавно близкого человека может быть непросто. Существует мнение, что и после расставания привязанность к экс-партнерам в какой-то мере сохраняется. Впрочем, согласно другой точке зрения, со временем эта эмоциональная связь ослабевает и утрачивается. Разобраться, как происходит на самом деле и сколько времени может потребоваться на полный эмоциональный разрыв с бывшими возлюбленными, взялись психологи из Иллинойсского университета в Урбане-Шампейне (США).

18 марта
Илья

Масштабный анализ геномов показал, что вид Homo sapiens возник в результате смешения двух древних популяций. Они разделились полтора миллиона лет назад, а затем воссоединились до расселения по миру.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно