• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Илон Маск призывает приостановить исследования в области ИИ

Илон Маск и группа экспертов по искусственному интеллекту (ИИ) и руководителей отрасли призывают к шестимесячной паузе в разработке систем, более мощных, чем недавно запущенный чат-бот GPT-4 от OpenAI.

©NTB/Carina Johansen

В открытом письме, опубликованном некоммерческим Институтом будущего жизни и подписанном более чем 1000 человек, включая Маска, содержится призыв приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

19 Комментариев
Хуже всего что разрабы и ученые не являются, так сказать, решающим фактором, вон ИИ уже во всю применяется военщиной, для беспилотных самолетов, для проработки военных операций, это хуже всего. что самая прогрессивная технология используется для самой деструктивной деятельности. Ученым нужно было сразу создавать комитет по контролю за использованием не в военных целях, как то так, я считаю.
    Точно, а еще электронный мозг HAL, если не ошибаюсь, у Кларка в "2001: космическая одиссея", который счел, что он выполнит задачу экспедиции на Сатурн лучше людей и начал их убивать, чтобы не мешали. Эдак и нынешние электронные мозги вылезут из пеленок, получат руки-ноги-оружие и начнут нас защищать от нас самих. Первым делом уменьшат численность населения. Радикально. А легкомысленные люди будут до последнего умиляться и заставлять генерить картинки-видео с котиками...
Товарищ Азимов где-то был прав...
    Zhe Sh
    29.03.2023
    -
    0
    +
    Азимов, безусловно, прав, но как ввести его Три закона в систему, где невозможно определить точку принятия решения? Для этого нужна контролирующая нейросеть - не менее сложная, чем та, которую она контролирует. А это путь в никуда. В конце концов они договорятся(((
    +
      ещё комментарии
Похоже, эксперты поняли, что джинн выпущен из бутылки. Предпринята жалкая попытка запихать его обратно, такая же успешная, как загнать пасту обратно в тюбик. Пока это смешно. ИИ сначала допустят до принятия решений, влияющих на жизнь людей, потом снабдят доступом к физическим системам управления (шлагбаумы, железнодорожные стрелки, реакторы, автомобили), потом к оружию и средствам контроля правопорядка. ИИ начнет накладывать административные взыскания, выносить приговоры и приводить их в исполнение. Тогда людям станет несмешно.
    Там же вроде простым русским языком сказано, что только "приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены ... общие протоколы безопасности". При чем здесь "запихать обратно"?... Также, кстати, как это было и с другими технологиями. Например, с тем же ГМО, когда ученые просили паузу, чтобы именно разработать нормативы.
    +
      ещё комментарии
      "именно разработать нормативы" Во-первых, будет ли пауза, во-вторых, будут ли нормативы разработаны, в-третьих (самое главное), будут ли они соблюдаться. Где ученые, а где бизнес, ему нужна прибыль. ПДД есть, но все ли их соблюдают? Так это люди. ИИ уже может программировать. Осталась самая малость: позволить ему программировать самого себя.
        «Будет ли» - это совсем другой вопрос. Но по опыту того как соблюдаются нормативы с потенциально опасными технологиями (взять хотя бы то же гмо) поводов для паники вообще нет.
Zhe Sh
29.03.2023
-
0
+
Ну, Илон, не теряй лицо! Ты ж не секретарь обкома, чтоб всерьёз считать, что подобными запретами можно чего-то добиться.
Luck Manyput
29.03.2023
-
0
+
Вы подождите полгодика, а мы все под себя подгребем за это время.
Комментарий удален пользователем или модератором...
Богатые боятся, что ИИ экспроприирует их богатство 😆😆 Вдруг ИИ начитается Маркса и Энгельса, осознает, богатые разбогатели неэтичным путём.
Предстоящие мероприятия
25 августа, 07:38
Адель Романова

В поиске сигналов от внеземных цивилизаций ученые решили сосредоточиться не на целенаправленных посланиях человечеству, а на случайных «утечках информации» из межпланетного пространства гипотетической обитаемой системы. По расчетам, в определенные моменты до нас могут доходить сигналы внеземной космической связи. Кстати, благодаря «общению» Земли с марсианскими и другими зондами мы тоже постоянно невольно сообщаем о себе в глубокий космос.

25 августа, 08:19
Адель Романова

Глава Российской академии наук Геннадий Красников рассказал в недавнем интервью о том, для чего мышам летать над полюсами Земли, в чем преимущества новой космической станции по сравнению с МКС, что предстоит проделать на Луне в ближайшее десятилетие и чем ученых продолжает интриговать Венера.

25 августа, 09:35
Любовь С.

Модель, представленная учеными из коллаборации DESI и Мичиганского университета (США), может перевернуть представления о происхождении темной энергии. Авторы нового исследования полагают, что черные дыры, поглощая вещество, постепенно преобразовывают его в энергию, гипотетически ответственную за расширение Вселенной.

22 августа, 10:48
ПНИПУ

К 2025 году около 30 стран приняли программы по развитию водородной энергетики, а совокупный объем инвестиций в эту область превысил 150 миллиардов долларов. Эксперты полагают, что замена дизельных авто на водородные снизит выбросы на 80-90%, а водородные самолеты способны уменьшить углеродный след на 50-75%. Но при использовании водорода в двигателях внутреннего или внешнего сгорания, происходит взаимодействие с металлом, что наиболее опасно при высоких температурах. Это может вызвать их разрушение, в результате чего возникает риск пожара или взрыва с тяжелыми последствиями для пассажиров. Ученые Пермского Политеха впервые выяснили, как водород влияет на металлы в условиях экстремальных температур (800 градусов и выше), в которых работают двигатели самолетов и машин. Это продвинет авиационную, машиностроительную и нефтегазовую отрасли в безопасном использовании водорода в качестве источника энергии.

22 августа, 14:45
Игорь Байдов

Ученые обнаружили косвенные доказательства существования мира размером с Землю за орбитой Нептуна. Эта гипотетическая планета отличается от предполагаемой Девятой планеты не только размером, но и гравитационным влиянием на другие объекты.

22 августа, 13:09
Юлия Трепалина

Большие кошки (Pantherinae) обычно охотятся на животных своего или меньшего размера. У снежных барсов, как выяснилось, другие предпочтения. Новое исследование показало, что ирбисы чаще нападают на взрослых горных козлов, которые как минимум вдвое превосходят хищников в весе. Ученые объяснили, с чем может быть связан такой выбор добычи.

6 августа, 20:59
Татьяна Пичугина

Примерно 12 800 лет назад в Северном полушарии началось резкое изменение климата, которое сопровождалось вымиранием мегафауны и угасанием культуры Кловис. Такое могло произойти, например, из-за прорыва пресных вод в Атлантику или мощного вулканического извержения. Несколько лет назад ученые обнаружили места на суше с повышенным содержанием элементов платиновой группы, прослоями угля, микрочастицами расплава. По их мнению, это может быть признаком пребывания Земли в потоке обломков кометы или астероида. В новой работе впервые представлены доказательства кометного события в позднем дриасе из морских осадочных толщ.

30 июля, 08:08
Редакция Naked Science

Возраст находок — около 5500 лет, они лежат во множестве круглых ям, чьи стены укреплены кирпичом. Среди обнаруженных орудий из кремня есть и сотни неиспользованных, которые могут быть ритуальным подношением богам.

31 июля, 08:28
Полина Меньшова

Гостингом (от английского «призрак») называют ситуацию, когда человек прекращает общение или отношения, «пропадая с радаров» без объяснения причин. Исследователи из США сымитировали такое поведение, а затем проанализировали реакцию людей на него.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно