• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Илон Маск призывает приостановить исследования в области ИИ

Илон Маск и группа экспертов по искусственному интеллекту (ИИ) и руководителей отрасли призывают к шестимесячной паузе в разработке систем, более мощных, чем недавно запущенный чат-бот GPT-4 от OpenAI.

©NTB/Carina Johansen

В открытом письме, опубликованном некоммерческим Институтом будущего жизни и подписанном более чем 1000 человек, включая Маска, содержится призыв приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

19 Комментариев
Хуже всего что разрабы и ученые не являются, так сказать, решающим фактором, вон ИИ уже во всю применяется военщиной, для беспилотных самолетов, для проработки военных операций, это хуже всего. что самая прогрессивная технология используется для самой деструктивной деятельности. Ученым нужно было сразу создавать комитет по контролю за использованием не в военных целях, как то так, я считаю.
    Точно, а еще электронный мозг HAL, если не ошибаюсь, у Кларка в "2001: космическая одиссея", который счел, что он выполнит задачу экспедиции на Сатурн лучше людей и начал их убивать, чтобы не мешали. Эдак и нынешние электронные мозги вылезут из пеленок, получат руки-ноги-оружие и начнут нас защищать от нас самих. Первым делом уменьшат численность населения. Радикально. А легкомысленные люди будут до последнего умиляться и заставлять генерить картинки-видео с котиками...
Товарищ Азимов где-то был прав...
    Zhe Sh
    29.03.2023
    -
    0
    +
    Азимов, безусловно, прав, но как ввести его Три закона в систему, где невозможно определить точку принятия решения? Для этого нужна контролирующая нейросеть - не менее сложная, чем та, которую она контролирует. А это путь в никуда. В конце концов они договорятся(((
    +
      ещё комментарии
      "как ввести его Три закона в систему, где невозможно определить точку принятия решения?" Вот и ответ об эффективности паузы и гипотетических правил безопасности для ИИ.
Похоже, эксперты поняли, что джинн выпущен из бутылки. Предпринята жалкая попытка запихать его обратно, такая же успешная, как загнать пасту обратно в тюбик. Пока это смешно. ИИ сначала допустят до принятия решений, влияющих на жизнь людей, потом снабдят доступом к физическим системам управления (шлагбаумы, железнодорожные стрелки, реакторы, автомобили), потом к оружию и средствам контроля правопорядка. ИИ начнет накладывать административные взыскания, выносить приговоры и приводить их в исполнение. Тогда людям станет несмешно.
    Там же вроде простым русским языком сказано, что только "приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены ... общие протоколы безопасности". При чем здесь "запихать обратно"?... Также, кстати, как это было и с другими технологиями. Например, с тем же ГМО, когда ученые просили паузу, чтобы именно разработать нормативы.
    +
      ещё комментарии
      "именно разработать нормативы" Во-первых, будет ли пауза, во-вторых, будут ли нормативы разработаны, в-третьих (самое главное), будут ли они соблюдаться. Где ученые, а где бизнес, ему нужна прибыль. ПДД есть, но все ли их соблюдают? Так это люди. ИИ уже может программировать. Осталась самая малость: позволить ему программировать самого себя.
        «Будет ли» - это совсем другой вопрос. Но по опыту того как соблюдаются нормативы с потенциально опасными технологиями (взять хотя бы то же гмо) поводов для паники вообще нет.
Zhe Sh
29.03.2023
-
0
+
Ну, Илон, не теряй лицо! Ты ж не секретарь обкома, чтоб всерьёз считать, что подобными запретами можно чего-то добиться.
Luck Manyput
29.03.2023
-
0
+
Вы подождите полгодика, а мы все под себя подгребем за это время.
Комментарий удален пользователем или модератором...
Комментарий удален пользователем или модератором...
13 марта, 13:57
Татьяна Зайцева

Археологи обнаружили на стенах гробниц египетской знати в Долине царей надписи на древних индийских языках. Эти граффити оставили путешественники из Южной Азии, посещавшие Египет в начале первого тысячелетия нашей эры, когда он был провинцией Римской империи. Находки подтвердили, что Долина царей уже в те времена была популярным туристическим аттракционом.

13 марта, 13:03
ФизТех

Антиген стволовых клеток простаты (PSCA) — это белок, который участвует в патогенезе заболеваний предстательной железы. Его вторая роль касается развития болезни Альцгеймера и других неврологических патологий. Новая статья ученых из МФТИ и ИБХ РАН с соавторами описала структуру PSCA, его фармакологические свойства и участие в нейровоспалении, что поможет создать новые лекарства. 

13 марта, 13:24
Илья Гриднев

Белки из почвенного мицелия связали частицы воды и запустили кристаллизацию при слабом минусе. Эти молекулы работали в виде водного раствора без привязки к липидным оболочкам живых клеток. Грибы получили такую способность от бактерий сотни тысяч лет назад через параллельный перенос генов.

13 марта, 13:57
Татьяна Зайцева

Археологи обнаружили на стенах гробниц египетской знати в Долине царей надписи на древних индийских языках. Эти граффити оставили путешественники из Южной Азии, посещавшие Египет в начале первого тысячелетия нашей эры, когда он был провинцией Римской империи. Находки подтвердили, что Долина царей уже в те времена была популярным туристическим аттракционом.

12 марта, 07:55
Игорь Байдов

Каждую весну оплодотворенные матки шмелей выходят из зимовки и основывают новые колонии. Но как они умудряются выжить, если во время «спячки» их подземное убежище часто подтапливают талые или дождевые воды? Первыми на этот вопрос в 2024 году ответила команда канадских биологов. Они выяснили, что шмели способны безопасно проводить под водой до недели. Теперь другая группа ученых решила выяснить, какой именно физиологический механизм стоит за этим феноменом.

13 марта, 13:03
ФизТех

Антиген стволовых клеток простаты (PSCA) — это белок, который участвует в патогенезе заболеваний предстательной железы. Его вторая роль касается развития болезни Альцгеймера и других неврологических патологий. Новая статья ученых из МФТИ и ИБХ РАН с соавторами описала структуру PSCA, его фармакологические свойства и участие в нейровоспалении, что поможет создать новые лекарства. 

3 марта, 14:06
Александр Березин

В ноябре 2025 года при взлете российской ракеты с Байконура к МКС с существенной высоты упала кабина обслуживания 8У216. Поскольку в 2010-х годах из экономии средств у нас отказались от дублирования стартовых площадок, это создало ситуацию временной невозможности пилотируемых полетов. Теперь, всего через три месяца после происшествия, «Роскосмос» смог решить проблему, поставив запасную кабину обслуживания, найденную на складах Минобороны. Весенние пуски к МКС, запланированные ранее, теперь имеют шансы пройти в срок.

5 марта, 08:10
Александр Березин

Одна сторона сыплет более дорогими и сложными баллистическими ракетами, другая — относительно дешевыми крылатыми. Но при этом первая на порядок беднее второй. А что у них с технологическим уровнем для наземной войны, и почему, кстати, глава второй избегает даже самого этого слова? Попробуем разобраться в реальных возможностях военных машин сторон потенциально самого опасного конфликта 2026 года.

28 февраля, 16:50
Игорь Байдов

В той части Пиренеев, которые находятся на территории Испании, исследователи обнаружили первые доказательства добычи золота в эпоху Римской империи. На месте древних рудников нашли сложные гидравлические сооружения и остатки водохранилища, возраст которых определили с помощью метода оптического датирования. Открытие прольет свет на инженерные приемы римлян и поставит точку в многолетнем споре: действительно ли римляне добывали золото в этом регионе.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно