• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
18.02.2019
Редакция Naked Science
1
498

Группа экспертов и правозащитников призывает запретить разработку оружия, контролируемого ИИ

Развитие технологии беспилотных летательных аппаратов значительно продвинуло вперед разработки в сфере военной техники. Дроны и прочие системы оружия в итоге могут полностью заменить мужчин-солдат на поле битвы. Однако насколько этичен сам факт доступа искусственного интеллекта к оружию?

2016-12-30_14-12-36
©Wikipedia

Группа экспертов, собравшаяся на заседании Американской ассоциации содействия развитию науки в Вашингтоне, округ Колумбия, резко осудила эту возможность: профессора по этике и правозащитники призывают запретить разработку оружия, контролируемого ИИ.

 

В заявлении ученых говорится, что автономное оружие может работать непредсказуемым образом и убивать невинных людей. Эксперты по этике также утверждают, что право на лишение человека жизни слишком серьезно и нельзя позволить системам искусственного интеллекта убивать людей без какого-либо вмешательства и контроля со стороны разработчиков и военных.

 

«Мы не говорим о гуляющих и говорящих роботах-терминаторах, которые собираются захватить мир. То, что нас беспокоит, реальнее и неизбежнее — это системы обычных вооружений, наделенные автономией и определенной самостоятельностью. Такие разработки все чаще становятся реальностью. Дроны — довольно очевидный пример, но есть и военные самолеты, которые взлетают, передвигаются и приземляются самостоятельно, и роботы-часовые, которые могут идентифицировать любое движение. Все они — предшественники автономного оружия», — уточняет директор международной неправительственной организации по защите прав человека Human Rights Watch Мэри Уэрхэм (Mary Wareham).

 

Human Rights Watch — одна из 89 неправительственных организаций из 50 стран, которые сформировали кампанию «Остановить роботов-убийц», добиваясь заключения международного договора. Инициативу нью-йоркской организации о запрете поддержал Райан Гариепи (Ryan Gariepy), технический директор Clearpath Robotics. Его компания берет военные контракты, но осуждает системы ИИ для ведения войны, а сам Гариепи заявил, что не будет заниматься подобными разработками, ведь когда подобная система терпит неудачу, ее последствия слишком сложно предсказать.

 

«Какой бы продвинутой ни была система, состояние ИИ ограничено контекстом распознавания изображений, то есть не имеет жизненно важных деталей, чтобы иметь право судить, кого убивать на поле боя, а кого оставить в живых, в «вакууме» принятие такого решения попросту неприемлемо. Фактически это решение принимается военными, программистами и учеными за тысячи миль от фронта, которые не имеют представления о ситуации, в которой развернуто оружие», — утверждает Гариепи.

 

Возникает еще один важный вопрос: кто несет ответственность, когда машина решает забрать человеческую жизнь? По словам сотрудника частного университета в Нью-Йорке New School Питера Асаро, передача роботу полномочий на убийство — это нарушение прав человека, так как машины не могут считаться существами с моралью, а потому не могут нести ответственность за принятие решений о жизни и смерти. 

 

Однако использование управляемых искусственным интеллектом систем оружия осуждается не всеми, а инициатива против ИИ встретила и сопротивление. К примеру, США и Россия были в числе нескольких стран, которые еще в сентябре, после недельных переговоров в Женеве, выступили против прямого запрета на автономное оружие.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
8 часов назад
Даниил Кузнецов

К осени 2022 года редакция Naked Science осмотрелась вокруг и решила, что настала пора запустить цикл статей об искусственном интеллекте. Мы начинаем с большой статьи, подзаголовком которой могла бы стать фраза «краткое введение в историю ИИ — от средневековых монахов до глубокого обучения».

Вчера, 20:31
Никита Логинов

Микробиологи решили одну из давних проблем пивоварения — сделали вкус пива устойчивым к высокому давлению при варке. Для этого пришлось углубиться в ДНК пивных дрожжей и отредактировать код, связанный с насыщенностью вкуса.

Вчера, 18:57
Анна Новиковская

Белая акула, героиня знаменитого фильма «Челюсти», обычно не воспринимается нами как чья-то добыча. Но у берегов Южной Африки эта зловещая рыба сама становится объектом охоты еще более грозных морских плотоядных — китов-косаток. Впервые ученым удалось заснять с воздуха это волнующее зрелище, отследив поведение как охотников, так и жертвы.

1 октября
Сергей Васильев

Моделирование указало, как менялся путь формирования и распада суперконтинентов на протяжении истории Земли. Это позволило ученым предсказать, как и где образуется следующий из них, снова объединив практически всю сушу планеты.

3 октября
Ольга Иванова

Американские исследователи узнали, что продолжительность жизни пенсионеров зависит не столько от наличия у них хронических заболеваний, сколько от таких простых факторов, как возможность ходить в магазин за продуктами, выполнять уборку в доме, показатели мелких частиц холестерина в крови и вредные привычки, которые они имели ранее.

2 октября
Редакция

Итальянский ботаник Стефано Манкузо — о преимуществах естественных отношений и о том, что бывает, когда люди нарушают хрупкое равновесие между биологическими видами. Naked Science печатает отрывок из книги Манкузо La nazione delle piante («Нация растений»).

16 сентября
Алиса Гаджиева

Геродот в своей «Истории» утверждал, что блоки для пирамиды Хеопса и соседних пирамид доставляли по воде. Но сегодня от Нила до пирамид слишком далеко. Исследование кернов, взятых в пойме реки, позволило понять, как именно решался сложнейший вопрос транспортировки такого строительного материала.

15 сентября
Никита Логинов

Светодиоды потребляют намного меньше энергии, чем традиционные газоразрядные лампы, что должно сократить парниковые выбросы. Но при этом светодиодное освещение угрожает здоровью жителей и разрушает местные экосистемы в городах и селах.

1 октября
Сергей Васильев

Моделирование указало, как менялся путь формирования и распада суперконтинентов на протяжении истории Земли. Это позволило ученым предсказать, как и где образуется следующий из них, снова объединив практически всю сушу планеты.

[miniorange_social_login]

Комментарии

1 Комментарий

DELETED
18.02.2019
0
Пока существуют государства, будет продолжаться борьба за власть, делёж природных ресурсов, а значит и производство оружия.
Подтвердить?
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: