Группа экспертов и правозащитников призывает запретить разработку оружия, контролируемого ИИ — Naked Science
18.02.2019
Редакция Naked Science
1

Группа экспертов и правозащитников призывает запретить разработку оружия, контролируемого ИИ

Развитие технологии беспилотных летательных аппаратов значительно продвинуло вперед разработки в сфере военной техники. Дроны и прочие системы оружия в итоге могут полностью заменить мужчин-солдат на поле битвы. Однако насколько этичен сам факт доступа искусственного интеллекта к оружию?

2016-12-30_14-12-36
©Wikipedia

Группа экспертов, собравшаяся на заседании Американской ассоциации содействия развитию науки в Вашингтоне, округ Колумбия, резко осудила эту возможность: профессора по этике и правозащитники призывают запретить разработку оружия, контролируемого ИИ.

 

В заявлении ученых говорится, что автономное оружие может работать непредсказуемым образом и убивать невинных людей. Эксперты по этике также утверждают, что право на лишение человека жизни слишком серьезно и нельзя позволить системам искусственного интеллекта убивать людей без какого-либо вмешательства и контроля со стороны разработчиков и военных.

 

«Мы не говорим о гуляющих и говорящих роботах-терминаторах, которые собираются захватить мир. То, что нас беспокоит, реальнее и неизбежнее — это системы обычных вооружений, наделенные автономией и определенной самостоятельностью. Такие разработки все чаще становятся реальностью. Дроны — довольно очевидный пример, но есть и военные самолеты, которые взлетают, передвигаются и приземляются самостоятельно, и роботы-часовые, которые могут идентифицировать любое движение. Все они — предшественники автономного оружия», — уточняет директор международной неправительственной организации по защите прав человека Human Rights Watch Мэри Уэрхэм (Mary Wareham).

 

Human Rights Watch — одна из 89 неправительственных организаций из 50 стран, которые сформировали кампанию «Остановить роботов-убийц», добиваясь заключения международного договора. Инициативу нью-йоркской организации о запрете поддержал Райан Гариепи (Ryan Gariepy), технический директор Clearpath Robotics. Его компания берет военные контракты, но осуждает системы ИИ для ведения войны, а сам Гариепи заявил, что не будет заниматься подобными разработками, ведь когда подобная система терпит неудачу, ее последствия слишком сложно предсказать.

 

«Какой бы продвинутой ни была система, состояние ИИ ограничено контекстом распознавания изображений, то есть не имеет жизненно важных деталей, чтобы иметь право судить, кого убивать на поле боя, а кого оставить в живых, в «вакууме» принятие такого решения попросту неприемлемо. Фактически это решение принимается военными, программистами и учеными за тысячи миль от фронта, которые не имеют представления о ситуации, в которой развернуто оружие», — утверждает Гариепи.

 

Возникает еще один важный вопрос: кто несет ответственность, когда машина решает забрать человеческую жизнь? По словам сотрудника частного университета в Нью-Йорке New School Питера Асаро, передача роботу полномочий на убийство — это нарушение прав человека, так как машины не могут считаться существами с моралью, а потому не могут нести ответственность за принятие решений о жизни и смерти. 

 

Однако использование управляемых искусственным интеллектом систем оружия осуждается не всеми, а инициатива против ИИ встретила и сопротивление. К примеру, США и Россия были в числе нескольких стран, которые еще в сентябре, после недельных переговоров в Женеве, выступили против прямого запрета на автономное оружие.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 15:26
Александр Березин

Сегодня на Землю вернулся экипаж Inspiration 4. Пресса уже единодушно пишет об этом так: большой и яркий успех амбициозной космической компании. Без единого профессионала-астронавта — и взлетели выше МКС! Все это правда. Но правда и другое: сам Илон Маск и все, кто хорошо представляют себе пилотируемые космические полеты, находились в напряжении все трое суток, пока четверо смелых из Inspiration 4 были в космосе. И можно с уверенностью сказать, что впереди у SpaceX, кажется, еще куда более рискованные полеты. Попробуем разобраться почему.

Позавчера, 12:59
Алиса Гаджиева

Несмотря на то, что в крестовых походах погибли тысячи людей, археологи невероятно редко обнаруживают их массовые захоронения. По одной из версий, убитых, найденных в этот раз, хоронил лично Людовик IX Святой, король Франции, предводитель двух крестовых походов.

Позавчера, 16:28
Илья Ведмеденко

Модернизированный стратегический бомбардировщик Ту-160 снова поднялся в небо. Самолет среди прочего получил обновленную силовую установку.

15 сентября
Ольга Иванова

Американские исследователи выяснили, что в женских тампонах содержатся летучие органические соединения, которые влияют на присутствие этих веществ в моче. Интересно, что в прокладках их содержание значительно ниже.

15 сентября
ПНИПУ

Ученые Пермского Политеха и Хуачжунского университета науки и технологии (КНР) создали уникальную технологию, которая позволит предприятиям производить промышленные изделия без дефектов. Лазерная сварка в вакууме позволит повысить качество ответственных конструкций в аэрокосмической и машиностроительной отраслях. Российские и зарубежные ученые реализовали разработку благодаря уникальному проекту международных исследовательских групп (МИГов), который действует в Пермском крае с 2011 года и не имеет аналогов в России.

Вчера, 15:26
Александр Березин

Сегодня на Землю вернулся экипаж Inspiration 4. Пресса уже единодушно пишет об этом так: большой и яркий успех амбициозной космической компании. Без единого профессионала-астронавта — и взлетели выше МКС! Все это правда. Но правда и другое: сам Илон Маск и все, кто хорошо представляют себе пилотируемые космические полеты, находились в напряжении все трое суток, пока четверо смелых из Inspiration 4 были в космосе. И можно с уверенностью сказать, что впереди у SpaceX, кажется, еще куда более рискованные полеты. Попробуем разобраться почему.

3 сентября
Алиса Гаджиева

Два бронзовых тарана и свинцовые пули обнаружили на месте битвы при Эгатских островах, состоявшейся почти 23 века назад.

11 сентября
Алиса Гаджиева

Необычное погребение обнаружили во время работ по устройству пруда в гольф-клубе.

9 сентября
Алиса Гаджиева

Необычный артефакт обнаружили в одном из пунктов сбора вторсырья в Красноярском крае.

[miniorange_social_login]

Комментарии

1 Комментарий

18.02.2019
0
Пока существуют государства, будет продолжаться борьба за власть, делёж природных ресурсов, а значит и производство оружия.
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: