• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку
18.02.2019, 15:23
Редакция Naked Science
1
902

Группа экспертов и правозащитников призывает запретить разработку оружия, контролируемого ИИ

Развитие технологии беспилотных летательных аппаратов значительно продвинуло вперед разработки в сфере военной техники. Дроны и прочие системы оружия в итоге могут полностью заменить мужчин-солдат на поле битвы. Однако насколько этичен сам факт доступа искусственного интеллекта к оружию?

2016-12-30_14-12-36
©Wikipedia / Автор: Андрей Чернов

Группа экспертов, собравшаяся на заседании Американской ассоциации содействия развитию науки в Вашингтоне, округ Колумбия, резко осудила эту возможность: профессора по этике и правозащитники призывают запретить разработку оружия, контролируемого ИИ.

 

В заявлении ученых говорится, что автономное оружие может работать непредсказуемым образом и убивать невинных людей. Эксперты по этике также утверждают, что право на лишение человека жизни слишком серьезно и нельзя позволить системам искусственного интеллекта убивать людей без какого-либо вмешательства и контроля со стороны разработчиков и военных.

 

«Мы не говорим о гуляющих и говорящих роботах-терминаторах, которые собираются захватить мир. То, что нас беспокоит, реальнее и неизбежнее — это системы обычных вооружений, наделенные автономией и определенной самостоятельностью. Такие разработки все чаще становятся реальностью. Дроны — довольно очевидный пример, но есть и военные самолеты, которые взлетают, передвигаются и приземляются самостоятельно, и роботы-часовые, которые могут идентифицировать любое движение. Все они — предшественники автономного оружия», — уточняет директор международной неправительственной организации по защите прав человека Human Rights Watch Мэри Уэрхэм (Mary Wareham).

 

Human Rights Watch — одна из 89 неправительственных организаций из 50 стран, которые сформировали кампанию «Остановить роботов-убийц», добиваясь заключения международного договора. Инициативу нью-йоркской организации о запрете поддержал Райан Гариепи (Ryan Gariepy), технический директор Clearpath Robotics. Его компания берет военные контракты, но осуждает системы ИИ для ведения войны, а сам Гариепи заявил, что не будет заниматься подобными разработками, ведь когда подобная система терпит неудачу, ее последствия слишком сложно предсказать.

 

«Какой бы продвинутой ни была система, состояние ИИ ограничено контекстом распознавания изображений, то есть не имеет жизненно важных деталей, чтобы иметь право судить, кого убивать на поле боя, а кого оставить в живых, в «вакууме» принятие такого решения попросту неприемлемо. Фактически это решение принимается военными, программистами и учеными за тысячи миль от фронта, которые не имеют представления о ситуации, в которой развернуто оружие», — утверждает Гариепи.

 

Возникает еще один важный вопрос: кто несет ответственность, когда машина решает забрать человеческую жизнь? По словам сотрудника частного университета в Нью-Йорке New School Питера Асаро, передача роботу полномочий на убийство — это нарушение прав человека, так как машины не могут считаться существами с моралью, а потому не могут нести ответственность за принятие решений о жизни и смерти. 

 

Однако использование управляемых искусственным интеллектом систем оружия осуждается не всеми, а инициатива против ИИ встретила и сопротивление. К примеру, США и Россия были в числе нескольких стран, которые еще в сентябре, после недельных переговоров в Женеве, выступили против прямого запрета на автономное оружие.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK
13 марта, 13:57
Татьяна Зайцева

Археологи обнаружили на стенах гробниц египетской знати в Долине царей надписи на древних индийских языках. Эти граффити оставили путешественники из Южной Азии, посещавшие Египет в начале первого тысячелетия нашей эры, когда он был провинцией Римской империи. Находки подтвердили, что Долина царей уже в те времена была популярным туристическим аттракционом.

13 марта, 13:24
Илья Гриднев

Белки из почвенного мицелия связали частицы воды и запустили кристаллизацию при слабом минусе. Эти молекулы работали в виде водного раствора без привязки к липидным оболочкам живых клеток. Грибы получили такую способность от бактерий сотни тысяч лет назад через параллельный перенос генов.

12 марта, 15:55
Андрей Серегин

Отдельные аспекты полового поведения живых организмов порой могут оказывать огромное влияние на пищевые цепочки и целые экосистемы. Ученые на примере североамериканских рыб доказали, что агрессивное половое поведение их самцов может помочь в выживании зоопланктона.

13 марта, 13:57
Татьяна Зайцева

Археологи обнаружили на стенах гробниц египетской знати в Долине царей надписи на древних индийских языках. Эти граффити оставили путешественники из Южной Азии, посещавшие Египет в начале первого тысячелетия нашей эры, когда он был провинцией Римской империи. Находки подтвердили, что Долина царей уже в те времена была популярным туристическим аттракционом.

12 марта, 07:55
Игорь Байдов

Каждую весну оплодотворенные матки шмелей выходят из зимовки и основывают новые колонии. Но как они умудряются выжить, если во время «спячки» их подземное убежище часто подтапливают талые или дождевые воды? Первыми на этот вопрос в 2024 году ответила команда канадских биологов. Они выяснили, что шмели способны безопасно проводить под водой до недели. Теперь другая группа ученых решила выяснить, какой именно физиологический механизм стоит за этим феноменом.

10 марта, 14:47
ФизТех

Коллектив климатологов из Института географии РАН, Института физики атмосферы имени А. М. Обухова РАН и МФТИ разобрал одну из самых загадочных страниц климатической летописи: почему Арктика так резко потеплела в первой половине XX века, причем особенно сильно зимой. Ученые оценили, какую долю в тех температурных скачках могли сыграть «внутренние ритмы» атмосферы и океана Северного полушария и почему ответ меняется в зависимости от того, как именно отделять естественные колебания климата от внешних факторов вроде роста парниковых газов и загрязнения воздуха аэрозолями.

3 марта, 14:06
Александр Березин

В ноябре 2025 года при взлете российской ракеты с Байконура к МКС с существенной высоты упала кабина обслуживания 8У216. Поскольку в 2010-х годах из экономии средств у нас отказались от дублирования стартовых площадок, это создало ситуацию временной невозможности пилотируемых полетов. Теперь, всего через три месяца после происшествия, «Роскосмос» смог решить проблему, поставив запасную кабину обслуживания, найденную на складах Минобороны. Весенние пуски к МКС, запланированные ранее, теперь имеют шансы пройти в срок.

5 марта, 08:10
Александр Березин

Одна сторона сыплет более дорогими и сложными баллистическими ракетами, другая — относительно дешевыми крылатыми. Но при этом первая на порядок беднее второй. А что у них с технологическим уровнем для наземной войны, и почему, кстати, глава второй избегает даже самого этого слова? Попробуем разобраться в реальных возможностях военных машин сторон потенциально самого опасного конфликта 2026 года.

28 февраля, 16:50
Игорь Байдов

В той части Пиренеев, которые находятся на территории Испании, исследователи обнаружили первые доказательства добычи золота в эпоху Римской империи. На месте древних рудников нашли сложные гидравлические сооружения и остатки водохранилища, возраст которых определили с помощью метода оптического датирования. Открытие прольет свет на инженерные приемы римлян и поставит точку в многолетнем споре: действительно ли римляне добывали золото в этом регионе.

[miniorange_social_login]

Комментарии

1 Комментарий
DELETED
18.02.2019
-
0
+
Пока существуют государства, будет продолжаться борьба за власть, делёж природных ресурсов, а значит и производство оружия.
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно