Илон Маск и основатель DeepMind подписали соглашение, запрещающее разработку летального ИИ — Naked Science
3 минуты
Редакция

Илон Маск и основатель DeepMind подписали соглашение, запрещающее разработку летального ИИ

Всего под документом оставили свои подписи 2 410 человек.

34
©Wikipedia

С 13 по 19 июля 2018 года в Стокгольме (Швеция) проходит международная конференция International Joint Conference on Artificial Intelligence, посвященная искусственному интеллекту. Во время ее проведения некоммерческая организация Future of Life Institute составила соглашение о запрете производства смертельных алгоритмов. Среди людей, подписавших документ, оказались: основатель DeepMind Демис Хассабис (Demis Hassabis), предприниматель Илон Маск (Elon Musk), программист и основатель Skype Жаан Таллин (Jaan Tallinn). Всего список насчитывает 164 организации и 2 410 человек.

 

В документе утвердили, что оружейные системы, использующие искусственный интеллект, представляют две опасности для человечества — моральную и прагматическую. С моральной точки зрения, решения об окончании человеческой жизни «не должны быть делегированы машинам». Прагматическая угроза заключается в том, что «летальное автоматическое оружие, способное самостоятельно выбирать и нацеливаться на объект без вмешательства человека, опасно дестабилизирует ситуацию для каждой страны и индивида».

 

Демис Хассабис / Wired

 

Профессор физики из Массачусетского технологического института Макс Тегмарк (Max Tegmark), подписавший документ, сказал, что соглашение — показатель того, как лидеры в сфере искусственного интеллекта «перешли от слов к делу». По его словам, оно налагает запрет в той сфере, в которой политики не имеют власти, в сфере разработки технологий. Он считает, что оружие, оснащенное алгоритмами, так же отвратительно, как и биологическое, поэтому оно должно строго регулироваться.

 

Полный текст документа и список подписавших организаций можно найти по ссылке.

 

Напомним, что в конце июня на МКС доставили робота с искусственным интеллектом. Он должен помочь командиру станции — Александру Герсту — поставить три эксперимента.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
4 часа назад
4 минуты
Сергей Васильев

Черная звезда Уникорн находится в 1500 световых годах и имеет массу около трех масс Солнца.

Вчера, 16:44
7 минут
Василий Парфенов

Глава государственной корпорации по космической деятельности «Роскосмос» поделился с журналистами некоторыми деталями о проекте национальной космической орбитальной станции. Кроме того, Дмитрий Рогозин сообщил, что с партнерами по Международной космической станции (МКС) начались переговоры о судьбе российского сегмента.

Вчера, 18:51
2 минуты
Мария Кривоченко

Об этом рассказал академик и главный ученый секретарь президиума РАН Николай Долгушкин. К 2021 году число высококлассных специалистов, решивших покинуть страну, возросло почти до 70 тысяч.

16 апреля
4 минуты
Илья Ведмеденко

Исследователи установили, что обнаруженный в Баренцевом море объект — погибшая советская субмарина типа «Крейсерская». Это одна из самых больших подлодок СССР периода Второй мировой.

16 апреля
8 минут
Александр Березин

Исследователь из Гарварда проанализировал вероятность полного оледенения всей поверхности — включая экватор — для планет земного типа. Оказалось, это частый сценарий. И он может быть причиной уничтожения всей сложной жизни. Работа показывает неожиданную уязвимость нашей планеты для такого хода событий. По расчетам, в последние 20 тысяч лет Земля прошла буквально в нескольких градусах от полного и постоянного оледенения, исключающего выживание крупных наземных многоклеточных.

15 апреля
14 минут
Василий Парфенов

Новое масштабное журналистское расследование собрало воедино самые вопиющие факты коррупции, махинаций с официальной статистикой и игнорирования пандемии на государственном уровне.

25 марта
36 минут
Александр Березин

Улыбающийся мультимиллиардер планирует понять, насколько эффективно мел в стратосфере защищает планету от солнечного света, и если результат хорош, распылить его там в гигантских количествах. Потенциально это результативная задумка: ученые давно показали, что так можно добиться полного покрытия Земли устойчивыми льдами — вплоть до экватора. Увы, идея Гейтса — плагиат, причем не лучший. Советский исследователь предложил похожее полвека назад с более эффективной серой. Интереснее другое: подобные мероприятия один раз едва не уничтожили человечество. Разбираемся в деталях, а также в том, грозит ли нам повторение.

31 марта
51 минута
Александр Березин

Самый зловещий оружейный проект всех времен и народов — термоядерная торпеда, предназначенная для радиационного поражения огромных площадей и создания искусственного цунами. Никогда до этого ни одна страна даже не заявляла о намерении сделать нечто настолько опасное для живых существ. Поэтому российский проект «Посейдон», обещающий именно это, вызывает бурю эмоций. Однако тщательный технический анализ показывает: в реальности он будет совсем не таким, как об этом пишут в СМИ. Даже если он предназначен для радиационного поражения обширных площадей, оно не будет долгим. А уже через год «омытые» им районы будут абсолютно безопасны. Тем не менее новая система действительно изменит стратегический баланс на планете — но не так, как все думают. Попробуем разобраться в ситуации подробнее.

26 марта
12 минут
Василий Парфенов

Похоже, история с американскими военными и «неопознанными воздушными феноменами» только набирает обороты. Новое расследование раскрыло многократные встречи нескольких кораблей Военно-морского флота Соединенных Штатов с аномально ведущими себя летательными аппаратами. Причем происходило это вне пределов досягаемости для любого коммерческого дрона или иного известного компактного БПЛА.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: