Илон Маск и основатель DeepMind подписали соглашение, запрещающее разработку летального ИИ — Naked Science
3 минуты
Редакция

Илон Маск и основатель DeepMind подписали соглашение, запрещающее разработку летального ИИ

Всего под документом оставили свои подписи 2 410 человек.

34
©Wikipedia

С 13 по 19 июля 2018 года в Стокгольме (Швеция) проходит международная конференция International Joint Conference on Artificial Intelligence, посвященная искусственному интеллекту. Во время ее проведения некоммерческая организация Future of Life Institute составила соглашение о запрете производства смертельных алгоритмов. Среди людей, подписавших документ, оказались: основатель DeepMind Демис Хассабис (Demis Hassabis), предприниматель Илон Маск (Elon Musk), программист и основатель Skype Жаан Таллин (Jaan Tallinn). Всего список насчитывает 164 организации и 2 410 человек.

 

В документе утвердили, что оружейные системы, использующие искусственный интеллект, представляют две опасности для человечества — моральную и прагматическую. С моральной точки зрения, решения об окончании человеческой жизни «не должны быть делегированы машинам». Прагматическая угроза заключается в том, что «летальное автоматическое оружие, способное самостоятельно выбирать и нацеливаться на объект без вмешательства человека, опасно дестабилизирует ситуацию для каждой страны и индивида».

 

Демис Хассабис / Wired

 

Профессор физики из Массачусетского технологического института Макс Тегмарк (Max Tegmark), подписавший документ, сказал, что соглашение — показатель того, как лидеры в сфере искусственного интеллекта «перешли от слов к делу». По его словам, оно налагает запрет в той сфере, в которой политики не имеют власти, в сфере разработки технологий. Он считает, что оружие, оснащенное алгоритмами, так же отвратительно, как и биологическое, поэтому оно должно строго регулироваться.

 

Полный текст документа и список подписавших организаций можно найти по ссылке.

 

Напомним, что в конце июня на МКС доставили робота с искусственным интеллектом. Он должен помочь командиру станции — Александру Герсту — поставить три эксперимента.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
30 сентября
2 минуты
Илья Ведмеденко

Новейший истребитель пятого поколения F-35B, принадлежащий Корпусу морской пехоты США, потерпел крушение в Южной Калифорнии. Летчик успешно катапультировался.

29 сентября
10 минут
Мария Азарова

Помимо этого, удалось выяснить, как это извержение происходило и какую роль сыграло в развитии майяской цивилизации.

30 сентября
4 минуты
Мария Азарова

По заказу Лувра «Портрет госпожи Лизы дель Джокондо» оцифровали с помощью мультиспектральной камеры высокого разрешения. В итоге ученым удалось предположить, что помогало Леонардо да Винчи при создании этой картины.

28 сентября
29 минут
Александр Березин

Сентябрь 2020 года принес в Закавказье войну — столкновение Азербайджана и Нагорного Карабаха получило большой размах, общее число жертв, судя по всему, уже перевалило за сотню, а Ереван и Баку объявили мобилизацию (в Азербайджане — частичную). Объективного смысла в войне для самих участников нет. Баку не победит, но и Армения от конфликта ничего не выиграет. Пользу конфликт, однако, объективно принесет Турции, а также тем, кто поставляет в Азербайджан оружие. Возникает вопрос: почему война оказалась возможна, несмотря на дружественную позицию России к Армении, и зачем на нее пошли в Баку? И есть ли у Еревана разумный выход из назревающей бойни?

30 сентября
2 минуты
Илья Ведмеденко

Новейший истребитель пятого поколения F-35B, принадлежащий Корпусу морской пехоты США, потерпел крушение в Южной Калифорнии. Летчик успешно катапультировался.

25 сентября
10 минут
Мария Азарова

По словам авторов эксперимента, им удалось выявить у черных ворон важный маркер сознания — способности субъективно переживать события внешнего мира и собственной жизни.

28 сентября
29 минут
Александр Березин

Сентябрь 2020 года принес в Закавказье войну — столкновение Азербайджана и Нагорного Карабаха получило большой размах, общее число жертв, судя по всему, уже перевалило за сотню, а Ереван и Баку объявили мобилизацию (в Азербайджане — частичную). Объективного смысла в войне для самих участников нет. Баку не победит, но и Армения от конфликта ничего не выиграет. Пользу конфликт, однако, объективно принесет Турции, а также тем, кто поставляет в Азербайджан оружие. Возникает вопрос: почему война оказалась возможна, несмотря на дружественную позицию России к Армении, и зачем на нее пошли в Баку? И есть ли у Еревана разумный выход из назревающей бойни?

13 сентября
37 минут
Александр Березин

640 лет назад завершилось крупнейшее сражение средневековой Европы — битва на Куликовом поле. В конце XX века ряд историков заявил: это была мелкая незначительная стычка, а вовсе не масштабное событие, запустившее формирование единого русского государства. По их мнению, ни о какой борьбе Москвы с Золотой Ордой в этом сражении просто не могла идти речь: места на поле боя недостаточно. Получается, события, описанные в летописях, были почти полной выдумкой. Однако теперь ситуация вдруг развернулась на 180 градусов: оказалось, место сражения действительно лежит в Тульской области… но совсем на другом поле. И это заметно меняет всю историю Руси того времени. Попробуем разобраться почему.

7 сентября
5 минут
Илья Ведмеденко

Недавно запущенный китайский потенциально многоразовый космический аппарат вернулся домой. Как стало известно, перед этим от него отсоединился некий объект, предназначение которого неизвестно.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: