Группа экспертов и правозащитников призывает запретить разработку оружия, контролируемого ИИ — Naked Science
6 минут
Редакция
1

Группа экспертов и правозащитников призывает запретить разработку оружия, контролируемого ИИ

Развитие технологии беспилотных летательных аппаратов значительно продвинуло вперед разработки в сфере военной техники. Дроны и прочие системы оружия в итоге могут полностью заменить мужчин-солдат на поле битвы. Однако насколько этичен сам факт доступа искусственного интеллекта к оружию?

2016-12-30_14-12-36
©Wikipedia

Группа экспертов, собравшаяся на заседании Американской ассоциации содействия развитию науки в Вашингтоне, округ Колумбия, резко осудила эту возможность: профессора по этике и правозащитники призывают запретить разработку оружия, контролируемого ИИ.

 

В заявлении ученых говорится, что автономное оружие может работать непредсказуемым образом и убивать невинных людей. Эксперты по этике также утверждают, что право на лишение человека жизни слишком серьезно и нельзя позволить системам искусственного интеллекта убивать людей без какого-либо вмешательства и контроля со стороны разработчиков и военных.

 

«Мы не говорим о гуляющих и говорящих роботах-терминаторах, которые собираются захватить мир. То, что нас беспокоит, реальнее и неизбежнее — это системы обычных вооружений, наделенные автономией и определенной самостоятельностью. Такие разработки все чаще становятся реальностью. Дроны — довольно очевидный пример, но есть и военные самолеты, которые взлетают, передвигаются и приземляются самостоятельно, и роботы-часовые, которые могут идентифицировать любое движение. Все они — предшественники автономного оружия», — уточняет директор международной неправительственной организации по защите прав человека Human Rights Watch Мэри Уэрхэм (Mary Wareham).

 

Human Rights Watch — одна из 89 неправительственных организаций из 50 стран, которые сформировали кампанию «Остановить роботов-убийц», добиваясь заключения международного договора. Инициативу нью-йоркской организации о запрете поддержал Райан Гариепи (Ryan Gariepy), технический директор Clearpath Robotics. Его компания берет военные контракты, но осуждает системы ИИ для ведения войны, а сам Гариепи заявил, что не будет заниматься подобными разработками, ведь когда подобная система терпит неудачу, ее последствия слишком сложно предсказать.

 

«Какой бы продвинутой ни была система, состояние ИИ ограничено контекстом распознавания изображений, то есть не имеет жизненно важных деталей, чтобы иметь право судить, кого убивать на поле боя, а кого оставить в живых, в «вакууме» принятие такого решения попросту неприемлемо. Фактически это решение принимается военными, программистами и учеными за тысячи миль от фронта, которые не имеют представления о ситуации, в которой развернуто оружие», — утверждает Гариепи.

 

Возникает еще один важный вопрос: кто несет ответственность, когда машина решает забрать человеческую жизнь? По словам сотрудника частного университета в Нью-Йорке New School Питера Асаро, передача роботу полномочий на убийство — это нарушение прав человека, так как машины не могут считаться существами с моралью, а потому не могут нести ответственность за принятие решений о жизни и смерти. 

 

Однако использование управляемых искусственным интеллектом систем оружия осуждается не всеми, а инициатива против ИИ встретила и сопротивление. К примеру, США и Россия были в числе нескольких стран, которые еще в сентябре, после недельных переговоров в Женеве, выступили против прямого запрета на автономное оружие.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Позавчера, 17:16
4 минуты
Мария Кривоченко

Разработать варианты крылатого пилотируемого космического корабля поручил глава «Роскосмоса» Дмитрий Рогозин. Предполагается, что аппарат будут строить по типу орбитального корабля «Буран», который использовался в СССР.

6 августа
5 минут
Денис Гордеев

Новая система работает в любых атмосферных условиях — при дожде, ветре и большом количестве пыли в воздухе.

Вчера, 12:21
2 минуты
Илья Ведмеденко

Представлена демонстрационная версия РЛС для перспективного южнокорейского боевого самолета. Радиолокационная станция имеет активную фазированную антенную решетку.

6 августа
30 минут
Николай Цыгикало

Трагическая новость о взрыве огромной силы в Бейруте, занявшая первые строчки новостных ресурсов, вызывает естественные вопросы: как это могло произойти, что там взорвалось, в силу каких факторов возможны подобные происшествия? Чтобы разобраться, взглянем пристальнее на свойства аммиачной селитры и связанные с ней опасные моменты.

Позавчера, 17:16
4 минуты
Мария Кривоченко

Разработать варианты крылатого пилотируемого космического корабля поручил глава «Роскосмоса» Дмитрий Рогозин. Предполагается, что аппарат будут строить по типу орбитального корабля «Буран», который использовался в СССР.

6 августа
5 минут
Денис Гордеев

Новая система работает в любых атмосферных условиях — при дожде, ветре и большом количестве пыли в воздухе.

22 июля
66 минут
Александр Березин

С 2064 года численность людей начнет сокращаться — и этот процесс может быть необратим. Один из авторов соответствующей научной работы прямо указывает: если ничего не изменится, через несколько веков человечество вымрет. Однако есть вещи и похуже вымирания. Куда вероятнее иной сценарий: мир будет заселен теми, кто сможет размножаться в новых культурных условиях. К сожалению, значительная часть современных европейцев, американцев и, возможно, других народов будут вытеснены с первых страниц истории. Вдобавок те, кто победят в этой непростой борьбе, нам, сегодняшнему населению Земли, могут сильно не понравиться. Попробуем разобраться почему.

10 июля
7 минут
Мария Кривоченко

Биологи выяснили, какое воздействие оказывают радиоволны на эмбрионы рыб. Оказалось, они существенно не влияют на уровень смертности, морфологию и реакцию на свет, но немного подавляют сенсомоторные функции. Как это скажется на взрослых особях, еще предстоит выяснить.

12 июля
28 минут
Илья Ведмеденко

Программа ПАК ДП (перспективный авиационный комплекс дальнего перехвата) привлекает к себе все больше внимания. Разберемся, что это такое и появится ли у России новый боевой самолет.

[miniorange_social_login]

Комментарии

1 Комментарий

18.02.2019
0
Пока существуют государства, будет продолжаться борьба за власть, делёж природных ресурсов, а значит и производство оружия.
Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: