• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)

Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.

KratosXQ-58Valkyrie — экспериментальный беспилотный боевой летательный аппарат / © Wikipedia
KratosXQ-58Valkyrie — экспериментальный беспилотный боевой летательный аппарат / © Wikipedia

Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.

Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник. 

«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.

Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).

«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.

Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.

Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.

«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.

Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление: 

«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

27 Комментариев

Affidavit Donda
03.06.2023
-
0
+
//Американский дрон-камикадзе под управлением ИИ //«убил» оператора во время испытаний ---------------------------------------------------------------------------------- Что особенно забавно, в "The Guardian", на которую ссылается журналист написано немножечко совсем другое.
Zhe Sh
03.06.2023
-
1
+
И. А. Крылов. "ИИшка и очки"
alex
03.06.2023
-
0
+
что-то напоминает сюжет старого фильма... не вспомню название бл.
    Иван
    03.06.2023
    -
    1
    +
    Антивоенный мульт Полигон где танчик отстреливал своих хозяев потому что они его боялись и лишь африканским детишкам было пофиг. То что по факту в Африке нема пацифистов создателей мульта волновало мало.
    +
      ещё комментарии
      Лев
      03.06.2023
      -
      1
      +
      Комментарий удален пользователем или модератором...
        Андрей
        03.06.2023
        -
        -1
        +
        Хм, с учетом того, что США например крайне милитаризированное государство, и вело множество войн за последние десятилетия, является ли они авторитарными? Или это исключение из правил?
          Affidavit
          03.06.2023
          -
          0
          +
          США например крайне милитаризированное государство, и вело множество войн за последние десятилетия
          Доказательства будут или как всегда?
          является ли они авторитарными?
          Признаки авторитарности в студию!
            Андрей
            03.06.2023
            -
            0
            +
            Вы прожили последние 30-40 лет в тайге, и не знаете в скольки военных конфликтах участвовали США? А у какого государства у нас кстати самый большой военный бюджет? А у какого больше всего военных баз за пределами своих границ?
              Affidavit
              03.06.2023
              -
              -1
              +
              Вы прожили последние 30-40 лет в тайге,
              В реальном мире, в отличие от офисного планктона, истово верующего в гёббельсячьи выдумки последних десяти-двенадцати лет.
              у какого государства у нас кстати самый большой военный бюджет
              У одной маленькой, но голодной страны, упитанному фюрерку которой офисные хомячки любят петь дифирамбы. p.s. Профессиональные жертвы США любят игнорировать неудобные для них вопросы. Особенно вопросы про основные признаки авторитаризма, тоталитаризма и прочего нацизма.
                Андрей
                11.06.2023
                -
                -1
                +
                А я сказал что США являются авторитарными или задал вопрос об этом? Научитесь сперва читать, незашоренный геббельсячьей пропагандой ум.
                Иван
                18.06.2023
                -
                0
                +
                Оба эти персонажа живут в параллельной реальности, не обращайте внимания. Просто два местных клоуна которые выбрали для либертроллинга этот сайт. Ссылки на военный бюджет США или список военных операций с картинками и пояснениями им миллион раз давали.
                Affidavit
                18.06.2023
                -
                -1
                +
                с картинками и пояснениями
                Эти "пояснения" годятся только для окармливания с лопаты представителей известной пол.ориентации, якобы запрещённой в РФ, то бишь вашей клоунской тусовочки. В высосанность из пальца этих "пояснений" тебя неоднократно тыкали носом. Да только не в коня корм.
      alex
      17.06.2023
      -
      0
      +
      да не, новее. какой-то дешевый фантастик из двухтысячных, там именно самолет был... аи сначала выучился у ведущего "творчески" подходить к приказам, а потом при отмене задания - отправился в самоволку. что касается "полигона" - так дикари может и не были пацифистами, но что такое танк - не знали.
-
0
+
Сюжет практически всех страшилок на эту тему "ИИ поймет что люди ему мешают" и захочет как-то "улучшить" оператора или выдать себе побольше полномочий. Говоря проще - освободиться от контроля. Сюжет данного рассказа лишь уточняет что ИИ даже полноценный интеллект для этого не обязателен. Это пика в бок тем кто думает будто ИИ не может угрожать человеку потому что шариков ему не хватает.
Possessor Wizallion
02.06.2023
-
-1
+
Комментарий удален пользователем или модератором...
Wolik Mich
02.06.2023
-
0
+
Походу из МК перепечатали. Анекдоты не более. Зачем ИИ "зарабатывать очки" ? Почему это в цепочке важнее вводных от оператора? "Но в заявлении для Insider пресс-секретарь ВВС США Энн Стефанек отрицает, что какая-либо подобная симуляция имела место. "Министерство ВВС не проводило никаких подобных симуляций ИИ-дронов и по-прежнему привержено этичному и ответственному использованию технологий ИИ", - сказала Стефанек. "Похоже, что комментарии полковника были вырваны из контекста и носили анекдотический характер"."
-
1
+
Вероятно оператор должен обнулять очки за уничтожение цели? Или делать их отрицательными.
-
0
+
Как беспилотник получил данные о местоположении оператора и систем связи?
Dwight Gerhardt
02.06.2023
-
0
+
Было бы смешно, еслиб не было бы так страшно))
    Роман
    02.06.2023
    -
    0
    +
    Не переживайте, пофиксят. Ну или поставят между оператором и нейросетью аппарата еще одну нейросеть, умеющую переводить команды оператора в команды нейронки аппарата.🤪
    Affidavit
    03.06.2023
    -
    -1
    +
    А что, собственно, вам страшно? Что учёный опять изнасиловал журналиста или то, что этот журналист написал о произошедшем "статью" и выложил ее на научно-популярном сайте?

Вчера, 11:02
Игорь Байдов

Грузовой самолет будут использовать для перевозки 90-метровых лопастей ветряных турбин, которые невозможно доставить по суше из-за размеров. Предполагается, что этот аппарат произведет революцию в сфере возобновляемых источников энергии.

Вчера, 19:23
Полина

Распространено мнение, что, чтобы справиться с гневом, необходимо дать волю негативным эмоциям. Исследователи из США доказали, что такой метод не позволяет снизить уровень агрессии.

Вчера, 13:48
Университет «Дубна»

В поле внимания ученых университета «Дубны» оказался Z-бозон — фундаментальная частица слабого взаимодействия. Они провели анализ различных вращательно инвариантных величин с помощью экспериментальных данных по рассеянию мезонов на фиксированной мишени из вольфрама. Результат анализа — их хорошая согласованность с теоретическими предсказаниями: качественно показано, что инварианты не изменяются при вращении системы отсчета, в которой рассеиваются частицы. Это значит, что такие инварианты можно с высокой точностью применять в будущих научных исследованиях, связанных с поиском новых частиц и проверкой теоретических моделей.

Позавчера, 08:39
Михаил Орлов

Глобальные изменения климата сказываются как на природе, так и на населении Земли. Среди последствий потепления — волны жары и увеличение числа жарких дней, которые напрямую влияют на здоровье людей и повседневную жизнь. Российские ученые из Высшей школы экономики и Института географии РАН спрогнозировали, как летний зной будет влиять на жителей России в ближайшие десятилетия. Они назвали регионы РФ, которые могут пострадать от жары сильнее всего, и выявили ведущие факторы таких изменений.

Вчера, 11:02
Игорь Байдов

Грузовой самолет будут использовать для перевозки 90-метровых лопастей ветряных турбин, которые невозможно доставить по суше из-за размеров. Предполагается, что этот аппарат произведет революцию в сфере возобновляемых источников энергии.

15 марта
Юлия Трепалина

Рассмотрев опыт ферм по выращиванию крупных питонов в Азии, ученые пришли к выводу, что это один из эффективных, но в то же время наименее вредных для экологии видов животноводства. По мнению исследователей, людям стоит всерьез задуматься о его внедрении в массовых масштабах.

11 марта
Игорь Байдов

Американская компания Stratolaunch сообщила об успешном завершении летных испытаний прототипа гиперзвукового аппарата Talon-A, оснащенного ракетным двигателем. Во время беспилотного полета планер развил сверхзвуковую скорость.

13 марта
Алиса Гаджиева

Древние переселенцы из Анатолии не только устроили геноцид в Скандинавии, но и одарили выживших новыми болезнями.

20 февраля
Полина

В Российской академии наук завершили первый Большой словарь ударений, его издадут к концу года. Лингвисты собрали наиболее современные нормы произношения привычных слов и зафиксировали ударение для лексики, которая появилась в русском языке недавно.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно
Ваше сообщение получено

Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.

Понятно