Илон Маск и основатель DeepMind подписали соглашение, запрещающее разработку летального ИИ — Naked Science
18.07.2018
3 минуты
Редакция
157

Илон Маск и основатель DeepMind подписали соглашение, запрещающее разработку летального ИИ

Всего под документом оставили свои подписи 2 410 человек.

34

С 13 по 19 июля 2018 года в Стокгольме (Швеция) проходит международная конференция International Joint Conference on Artificial Intelligence, посвященная искусственному интеллекту. Во время ее проведения некоммерческая организация Future of Life Institute составила соглашение о запрете производства смертельных алгоритмов. Среди людей, подписавших документ, оказались: основатель DeepMind Демис Хассабис (Demis Hassabis), предприниматель Илон Маск (Elon Musk), программист и основатель Skype Жаан Таллин (Jaan Tallinn). Всего список насчитывает 164 организации и 2 410 человек.

 

В документе утвердили, что оружейные системы, использующие искусственный интеллект, представляют две опасности для человечества — моральную и прагматическую. С моральной точки зрения, решения об окончании человеческой жизни «не должны быть делегированы машинам». Прагматическая угроза заключается в том, что «летальное автоматическое оружие, способное самостоятельно выбирать и нацеливаться на объект без вмешательства человека, опасно дестабилизирует ситуацию для каждой страны и индивида».

 

Демис Хассабис / Wired

 

Профессор физики из Массачусетского технологического института Макс Тегмарк (Max Tegmark), подписавший документ, сказал, что соглашение — показатель того, как лидеры в сфере искусственного интеллекта «перешли от слов к делу». По его словам, оно налагает запрет в той сфере, в которой политики не имеют власти, в сфере разработки технологий. Он считает, что оружие, оснащенное алгоритмами, так же отвратительно, как и биологическое, поэтому оно должно строго регулироваться.

 

Полный текст документа и список подписавших организаций можно найти по ссылке.

 

Напомним, что в конце июня на МКС доставили робота с искусственным интеллектом. Он должен помочь командиру станции — Александру Герсту — поставить три эксперимента.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 15:01
25 минут
Александр Березин

Недавняя научная работа предрекла серьезную эпидемию коронавируса 2019-nCoV. Согласно ей, 95% зараженных еще не зарегистрированы властями, а значит, через пару недель в одной Ухани будут сотни тысяч заболевших. При наблюдаемой смертности от вируса в 2,36% — это многие тысячи погибших. На самом деле, новая работа скорее «ловит хайп» или, если угодно, пытается держать мир настороже, чем описывает реальную эпидемию. Последние данные по заразности коронавируса показывают: он действительно неблестяще передается от человека к человеку. Для эпидемии в Китае этого достаточно, но большое число жертв за пределами этой страны маловероятно. Выясняем почему.

Вчера, 13:05
3 минуты
Полина Гершберг

Ученые создали информационную панель, показывающую распространение китайского коронавируса по миру в режиме реального времени. Данные вносятся из подтвержденных источников — это поможет бороться с дезинформацией.

Позавчера, 13:56
4 минуты
Илья Ведмеденко

Американские военные пришли к выводу, что новейший эсминец можно эксплуатировать в условиях больших волн. Безопасность корабля в значительной степени объясняется его конструкцией, обеспечивающей малозаметность.

25 января
3 минуты
Денис Гордеев

Вирус, который уже унес жизни 41 человека, породил новую волну популярности игры 2012 года.

24 января
35 минут
Александр Березин

Новый коронавирус — «родственник» старой атипичной пневмонии — уже привел к смерти 26 человек. Считается, что им может быть заражено несколько тысяч. И точно известно, что эпидемия вышла за пределы Китая. Но это не повод впадать в панику. Мы собрали всю известную информацию и попробовали ответить на главные вопросы о новой болезни.

26 января
26 минут
Александр Березин

Земная атмосфера 2,7 миллиарда лет назад состояла в основном из углекислого газа — и было его там до тысячи раз больше, чем сегодня. При этом азота почти не было, хотя сегодня его в воздухе 78%. Выходит, наша газовая оболочка по составу была близка к марсианской. Как ни странно, эти дела давно минувших дней актуальны для ответа на вопрос о будущем выживании человечества. Похоже, предсказание Стивена Хокинга о гибели всего живого из-за превращения Земли в Венеру не сбудется. Разбираемся, почему так и как одно связано с другим.

16 января
5 минут
Илья Ведмеденко

Исследователей в очередной раз удивили привычки кошек: как оказалось, они не прочь питаться одним человеческим трупом на протяжении месяца, несмотря на наличие других тел.

25 января
3 минуты
Денис Гордеев

Вирус, который уже унес жизни 41 человека, породил новую волну популярности игры 2012 года.

18 января
26 минут
Александр Березин

Многие считают зимнее купание «церковным обычаем». Однако на деле Церковь всегда выступала против него, считая нехристианским, и вредным для здоровья. При всей внешней разумности этой позиции, на самом деле, такие купания могут быть даже полезны — но не для всех. Выясняем, как именно и почему.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: