• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Илон Маск призывает приостановить исследования в области ИИ

Илон Маск и группа экспертов по искусственному интеллекту (ИИ) и руководителей отрасли призывают к шестимесячной паузе в разработке систем, более мощных, чем недавно запущенный чат-бот GPT-4 от OpenAI.

©NTB/Carina Johansen / Автор: Visellia Orfius

В открытом письме, опубликованном некоммерческим Институтом будущего жизни и подписанном более чем 1000 человек, включая Маска, содержится призыв приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

19 Комментариев

Хуже всего что разрабы и ученые не являются, так сказать, решающим фактором, вон ИИ уже во всю применяется военщиной, для беспилотных самолетов, для проработки военных операций, это хуже всего. что самая прогрессивная технология используется для самой деструктивной деятельности. Ученым нужно было сразу создавать комитет по контролю за использованием не в военных целях, как то так, я считаю.
    -
    0
    +
    Точно, а еще электронный мозг HAL, если не ошибаюсь, у Кларка в "2001: космическая одиссея", который счел, что он выполнит задачу экспедиции на Сатурн лучше людей и начал их убивать, чтобы не мешали. Эдак и нынешние электронные мозги вылезут из пеленок, получат руки-ноги-оружие и начнут нас защищать от нас самих. Первым делом уменьшат численность населения. Радикально. А легкомысленные люди будут до последнего умиляться и заставлять генерить картинки-видео с котиками...
Товарищ Азимов где-то был прав...
    Zhe
    Zhe
    29.03.2023
    -
    0
    +
    Азимов, безусловно, прав, но как ввести его Три закона в систему, где невозможно определить точку принятия решения? Для этого нужна контролирующая нейросеть - не менее сложная, чем та, которую она контролирует. А это путь в никуда. В конце концов они договорятся(((
    +
      ещё комментарии
      -
      0
      +
      "как ввести его Три закона в систему, где невозможно определить точку принятия решения?" Вот и ответ об эффективности паузы и гипотетических правил безопасности для ИИ.
Похоже, эксперты поняли, что джинн выпущен из бутылки. Предпринята жалкая попытка запихать его обратно, такая же успешная, как загнать пасту обратно в тюбик. Пока это смешно. ИИ сначала допустят до принятия решений, влияющих на жизнь людей, потом снабдят доступом к физическим системам управления (шлагбаумы, железнодорожные стрелки, реакторы, автомобили), потом к оружию и средствам контроля правопорядка. ИИ начнет накладывать административные взыскания, выносить приговоры и приводить их в исполнение. Тогда людям станет несмешно.
    Василий
    30.03.2023
    -
    1
    +
    Там же вроде простым русским языком сказано, что только "приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены ... общие протоколы безопасности". При чем здесь "запихать обратно"?... Также, кстати, как это было и с другими технологиями. Например, с тем же ГМО, когда ученые просили паузу, чтобы именно разработать нормативы.
    +
      ещё комментарии
      -
      0
      +
      "именно разработать нормативы" Во-первых, будет ли пауза, во-вторых, будут ли нормативы разработаны, в-третьих (самое главное), будут ли они соблюдаться. Где ученые, а где бизнес, ему нужна прибыль. ПДД есть, но все ли их соблюдают? Так это люди. ИИ уже может программировать. Осталась самая малость: позволить ему программировать самого себя.
        Василий
        30.03.2023
        -
        0
        +
        «Будет ли» - это совсем другой вопрос. Но по опыту того как соблюдаются нормативы с потенциально опасными технологиями (взять хотя бы то же гмо) поводов для паники вообще нет.
Zhe Sh
29.03.2023
-
0
+
Ну, Илон, не теряй лицо! Ты ж не секретарь обкома, чтоб всерьёз считать, что подобными запретами можно чего-то добиться.
Luck Manyput
29.03.2023
-
0
+
Вы подождите полгодика, а мы все под себя подгребем за это время.
-
0
+
Комментарий удален пользователем или модератором...
-
0
+
Богатые боятся, что ИИ экспроприирует их богатство 😆😆 Вдруг ИИ начитается Маркса и Энгельса, осознает, богатые разбогатели неэтичным путём.
    Maxim
    29.03.2023
    -
    0
    +
    Ну действительно.Ведь ИИ же не могут использовать преступники в своих целях.А то,что ИИ вытеснит кучу профессий,повлияя на политику и экономику,тоже ерунда.
    +
      ещё комментарии

Вчера, 18:00
Андрей

Индийские палеонтологи обнаружили 27 крупных позвонков древней змеи эпохи раннего эоцена, которую отнесли к новому виду. По оценкам исследователей, это самый крупный представитель семейства Madtsoiidae, чей рост мог достигать 15 метров. Ему дали имя в честь индийского божества.

Вчера, 13:05
Юлия Трепалина

Во время проживания в отелях туристы, как правило, расходуют ощутимо больше воды, чем у себя дома: из-за долгого плескания в душе разница может доходить до 250 литров в день. В новом исследовании ученые с помощью эксперимента показали, как побудить отдыхающих пользоваться водными ресурсами экономнее.

Позавчера, 11:00
НИУ ВШЭ

Северный Кавказ играл ключевую роль в древней колонизации Евразии и формировании ее культурного и генетического наследия, однако до сих пор не до конца изучена генетическая история носителей местных культур. Ученые впервые провели глубокое секвенирование древней ДНК представителей кобанской культуры, сформировавшейся в позднем бронзовом веке на Северном Кавказе, и сравнили ее с генетическими данными современных народов Кавказа. Результаты работы подтвердили роль носителей кобанской культуры как древнего генетического моста между бронзовым и железным веками на Северном Кавказе.

16 апреля
Ольга Иванова

Американские исследователи пришли к выводу: тихоходки способны повышать уровень продуктов генов репарации ДНК до такой степени, что это позволяет сделать их одними из самых распространенных в своем геноме. Среди прочего это помогает им выдерживать экстремальную радиацию.

Позавчера, 11:00
НИУ ВШЭ

Северный Кавказ играл ключевую роль в древней колонизации Евразии и формировании ее культурного и генетического наследия, однако до сих пор не до конца изучена генетическая история носителей местных культур. Ученые впервые провели глубокое секвенирование древней ДНК представителей кобанской культуры, сформировавшейся в позднем бронзовом веке на Северном Кавказе, и сравнили ее с генетическими данными современных народов Кавказа. Результаты работы подтвердили роль носителей кобанской культуры как древнего генетического моста между бронзовым и железным веками на Северном Кавказе.

Позавчера, 11:48
Игорь Байдов

Во время лабораторного эксперимента канадские биологи проявили неосторожность, благодаря чему узнали, что шмели куда менее уязвимы к экстремальным погодным условиям и более выносливы, чем считалось ранее.

8 апреля
Василий Парфенов

Режим работы, количество трудовых часов в неделю и экономическую стабильность профессии прочно ассоциируют с благополучием человека. Количественно и качественно определить эти взаимосвязи получается редко — нужны большие выборки респондентов и длительное время наблюдений. Автор новой научной работы использовал долговременное исследование более чем семи тысяч американцев, чтобы выявить основные эффекты паттернов трудовой деятельности на психическое и физическое здоровье работающих людей.

28 марта
Игорь Байдов

Американская компания JetZero, которая обещает произвести фурор в гражданской авиации, получила сертификат летной годности на испытания уменьшенной копии разрабатываемого ею сверхэффективного реактивного авиалайнера со «смешанным крылом». Предстоящая программа летных испытаний будет направлена на оценку летно-технических характеристик самолета, его устойчивости и управляемости.

21 марта
Дарья Г.

По спектральным данным от «Джеймса Уэбба» и результатам компьютерного моделирования атмосферы астрономы показали, что экзопланета LHS 1140 b — мир-океан. Причем по характеристикам это лучший на сегодня потенциально обитаемый мир, подходящий для пристального изучения.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно