• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)

Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.

KratosXQ-58Valkyrie — экспериментальный беспилотный боевой летательный аппарат / © Wikipedia
KratosXQ-58Valkyrie — экспериментальный беспилотный боевой летательный аппарат / © Wikipedia

Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.

Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник. 

«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.

Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).

«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.

Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.

Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.

«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.

Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление: 

«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

26 Комментариев
Affidavit Donda
03.06.2023
-
0
+
//Американский дрон-камикадзе под управлением ИИ //«убил» оператора во время испытаний ---------------------------------------------------------------------------------- Что особенно забавно, в "The Guardian", на которую ссылается журналист написано немножечко совсем другое.
Zhe Sh
03.06.2023
-
1
+
И. А. Крылов. "ИИшка и очки"
alex
03.06.2023
-
0
+
что-то напоминает сюжет старого фильма... не вспомню название бл.
    -
    1
    +
    Антивоенный мульт Полигон где танчик отстреливал своих хозяев потому что они его боялись и лишь африканским детишкам было пофиг. То что по факту в Африке нема пацифистов создателей мульта волновало мало.
    +
      ещё комментарии
      -
      1
      +
      Комментарий удален пользователем или модератором...
        -
        -1
        +
        Хм, с учетом того, что США например крайне милитаризированное государство, и вело множество войн за последние десятилетия, является ли они авторитарными? Или это исключение из правил?
          Affidavit Donda
          03.06.2023
          -
          0
          +
          США например крайне милитаризированное государство, и вело множество войн за последние десятилетия
          Доказательства будут или как всегда?
          является ли они авторитарными?
          Признаки авторитарности в студию!
            Вы прожили последние 30-40 лет в тайге, и не знаете в скольки военных конфликтах участвовали США? А у какого государства у нас кстати самый большой военный бюджет? А у какого больше всего военных баз за пределами своих границ?
              Affidavit Donda
              03.06.2023
              -
              -1
              +
              Вы прожили последние 30-40 лет в тайге,
              В реальном мире, в отличие от офисного планктона, истово верующего в гёббельсячьи выдумки последних десяти-двенадцати лет.
              у какого государства у нас кстати самый большой военный бюджет
              У одной маленькой, но голодной страны, упитанному фюрерку которой офисные хомячки любят петь дифирамбы. p.s. Профессиональные жертвы США любят игнорировать неудобные для них вопросы. Особенно вопросы про основные признаки авторитаризма, тоталитаризма и прочего нацизма.
                -
                -1
                +
                А я сказал что США являются авторитарными или задал вопрос об этом? Научитесь сперва читать, незашоренный геббельсячьей пропагандой ум.
                -
                0
                +
                Оба эти персонажа живут в параллельной реальности, не обращайте внимания. Просто два местных клоуна которые выбрали для либертроллинга этот сайт. Ссылки на военный бюджет США или список военных операций с картинками и пояснениями им миллион раз давали.
                Affidavit Donda
                18.06.2023
                -
                -1
                +
                с картинками и пояснениями
                Эти "пояснения" годятся только для окармливания с лопаты представителей известной пол.ориентации, якобы запрещённой в РФ, то бишь вашей клоунской тусовочки. В высосанность из пальца этих "пояснений" тебя неоднократно тыкали носом. Да только не в коня корм.
      alex
      17.06.2023
      -
      0
      +
      да не, новее. какой-то дешевый фантастик из двухтысячных, там именно самолет был... аи сначала выучился у ведущего "творчески" подходить к приказам, а потом при отмене задания - отправился в самоволку. что касается "полигона" - так дикари может и не были пацифистами, но что такое танк - не знали.
-
0
+
Сюжет практически всех страшилок на эту тему "ИИ поймет что люди ему мешают" и захочет как-то "улучшить" оператора или выдать себе побольше полномочий. Говоря проще - освободиться от контроля. Сюжет данного рассказа лишь уточняет что ИИ даже полноценный интеллект для этого не обязателен. Это пика в бок тем кто думает будто ИИ не может угрожать человеку потому что шариков ему не хватает.
Possessor Wizallion
02.06.2023
-
-1
+
Комментарий удален пользователем или модератором...
Wolik Mich
02.06.2023
-
0
+
Походу из МК перепечатали. Анекдоты не более. Зачем ИИ "зарабатывать очки" ? Почему это в цепочке важнее вводных от оператора? "Но в заявлении для Insider пресс-секретарь ВВС США Энн Стефанек отрицает, что какая-либо подобная симуляция имела место. "Министерство ВВС не проводило никаких подобных симуляций ИИ-дронов и по-прежнему привержено этичному и ответственному использованию технологий ИИ", - сказала Стефанек. "Похоже, что комментарии полковника были вырваны из контекста и носили анекдотический характер"."
-
1
+
Вероятно оператор должен обнулять очки за уничтожение цели? Или делать их отрицательными.
-
0
+
Как беспилотник получил данные о местоположении оператора и систем связи?
Dwight Gerhardt
02.06.2023
-
0
+
Было бы смешно, еслиб не было бы так страшно))
    -
    0
    +
    Не переживайте, пофиксят. Ну или поставят между оператором и нейросетью аппарата еще одну нейросеть, умеющую переводить команды оператора в команды нейронки аппарата.🤪
    Affidavit Donda
    03.06.2023
    -
    -1
    +
    А что, собственно, вам страшно? Что учёный опять изнасиловал журналиста или то, что этот журналист написал о произошедшем "статью" и выложил ее на научно-популярном сайте?
Предстоящие мероприятия
Вчера, 13:23
Наталия Лескова

Что такое органические полупроводники? В чем их преимущества? Какие тут имеются отечественные разработки? Есть ли среди них уникальные? Почему дирижабли вновь могут стать актуальной темой и при чем тут химия? Об этом рассказывает Сергей Пономаренко, директор Института синтетических полимерных материалов им. Н. С. Ениколопова РАН, член-корреспондент РАН.

Вчера, 07:31
Юлия Трепалина

В некоторых супермаркетах у прилавков с бананами можно встретить таблички, призывающие покупать и «спасать от одиночества» оторванные от гроздьев плоды. Таким образом торговые сети пытаются сокращать объемы продуктовых отходов, которые отправляют на утилизацию. Исследование в Германии недавно подтвердило, что прием с «одинокими» бананами действительно работает, и раскрыло нюансы, влияющие на продажи.

Вчера, 11:11
Елизавета Александрова

Отпечаток более чем километровой ширины миллионы лет скрывался под осадочными отложениями на склоне горы. Первое, на что обратили внимание после его обнаружения, — эллиптическая форма. По словам ученых, это пока единственный известный пример падения астероида на горный хребет.

28 ноября
Елизавета Александрова

Обсерватории постоянно улавливают «мигающие» радиосигналы из глубин Вселенной. Чаще всего их источниками оказываются нейтронные звезды, которые за это и назвали пульсарами. Но к недавно обнаруженному источнику GLEAM-X J0704-37 они, по мнению астрономов, отношения не имеют.

Позавчера, 12:27
Елизавета Александрова

Американская лунная программа «Артемида» предусматривает экспедиции длительностью от нескольких дней до долгих недель и даже месяцев, но луномобиля для передвижения экипажа по поверхности спутника Земли на сегодня нет. Поэтому космическое агентство США продумывает план действий на случай, если астронавты окажутся далеко от базы и кто-то из них внезапно не сможет идти самостоятельно.

30 ноября
Редакция Naked Science

Последние полвека темпы развития науки снижаются. В быту это пока незаметно, потому что от фундаментального открытия до его реализации в технике проходят десятки лет. Но замедление длится слишком долго, то есть вскоре мы столкнемся с замедлением развития техники в целом. Naked Science решил дать перевод видео физика и популяризатора Сабины Хоссенфельдер на эту тему. Что же не так с современной наукой и можно ли что-то исправить?

16 ноября
Evgenia

Международная коллаборация физиков под руководством ученых из Йельского университета в США представила самые убедительные на сегодня подтверждения существования нового типа сверхпроводящих материалов. Доказательство существования нематической фазы вещества — научный прорыв, открывающий путь к созданию сверхпроводимости совершенно новым способом.

25 ноября
Полина Меньшова

Многие одинокие люди считают, что окружающие не разделяют их взглядов. Психологи из США решили проверить, так ли это на самом деле, и обнаружили общую особенность у людей с недостаточным количеством социальных связей.

28 ноября
Елизавета Александрова

Обсерватории постоянно улавливают «мигающие» радиосигналы из глубин Вселенной. Чаще всего их источниками оказываются нейтронные звезды, которые за это и назвали пульсарами. Но к недавно обнаруженному источнику GLEAM-X J0704-37 они, по мнению астрономов, отношения не имеют.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно