Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)
Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.
Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.
Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник.
«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.
Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).
«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.
Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.
Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.
«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.
Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление:
«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».
Топологические изоляторы проводят ток только по поверхности и поэтому рассматриваются как перспективные материалы для будущей электроники и квантовых технологий. Особый интерес представляет их контакт со сверхпроводниками. Физики из НИУ ВШЭ показали, что недавний эксперимент, в котором в такой гибридной структуре якобы наблюдалось объединение электронных пар на рекордном расстоянии 1,5 мкм, допускает более прозаичное объяснение. По их мнению, тот же сигнал может быть обусловлен обычным прохождением электронов через сверхпроводник. Дискуссия исследователей развернулась на страницах Nature Physics.
Возле мест гибели слонов меняются химический состав почвы, разнообразие растений и микроорганизмов, а травоядные чаще приходят в эти зоны кормиться — даже спустя семь лет после смерти гигантов. К такому выводу пришла международная команда ученых, работавшая в южноафриканском национальном парке Крюгера. Однако специалисты обнаружили своего рода парадокс: хотя остатки наземных гигантов обогащают почву питательными веществами, разнообразие бактерий, грибов, растений вблизи мест их гибели может сокращаться.
Исследователи впервые запечатлели детальную работу отделенного от тела пчелиного жала и расшифровали его уникальный биомеханический принцип. Выяснилось, что этот микроскопический орган функционирует как полностью автономный двойной поршневой насос с эластичными складными клапанами, который обеспечивает непрерывную и непрекращающуюся подачу яда под кожу жертвы даже после гибели самого насекомого.
Некогда ученые открыли темную материю, заметив, что звезды во внешней части Млечного Пути вращаются быстрее, чем должны, — из-за тяготения темной материи, окружающей видимую часть диска нашей Галактики. Новые данные показывают нечто странное: прежние наблюдения были ошибкой, а если верить новым, Млечный Путь — исключение, где темной материи якобы почти нет.
Топологические изоляторы проводят ток только по поверхности и поэтому рассматриваются как перспективные материалы для будущей электроники и квантовых технологий. Особый интерес представляет их контакт со сверхпроводниками. Физики из НИУ ВШЭ показали, что недавний эксперимент, в котором в такой гибридной структуре якобы наблюдалось объединение электронных пар на рекордном расстоянии 1,5 мкм, допускает более прозаичное объяснение. По их мнению, тот же сигнал может быть обусловлен обычным прохождением электронов через сверхпроводник. Дискуссия исследователей развернулась на страницах Nature Physics.
Прием оливкового масла перед углеводной пищей помог предотвратить резкие скачки сахара в крови, замедлил процесс пищеварения и запустил слаженную цепочку сигналов между нервной системой и гормонами. Ученые выяснили, что полезные жиры, принятые непосредственно перед углеводами, включают слаженную систему защиты от гипергликемии, которая продолжает эффективно работать даже при тяжелом диабете второго типа.
Новый анализ наблюдений за северной полярной областью Марса заставил ученых пересмотреть представления о составе водяного льда. Выяснилось, что прежние модели заметно искажали одну из его главных характеристик. С учетом этого, местный лед потенциально может быть куда полезнее для персонала будущих марсианских баз.
В большинстве случаев планеты и иные тела, вращающиеся вокруг «нормальных» звезд главной последовательности, формируются достаточно далеко от своих светил, чтобы падать на них. Несмотря на это, теперь астрономы увидели, как красный карлик перетягивает на себя вещество от вращающегося вокруг него объекта. Тот уже делает один оборот вокруг своей звезды меньше, чем за полтора часа, и это время может уменьшаться.
Дата-центры для нейросетей в последние пару лет стали важнейшим фактором роста западной экономики, а заодно и мировой энергетики. В этом направлении нейросети создали немало новых рабочих мест, хотя и меньше, чем в программировании. Однако у невиданного бума есть и оборотная сторона: нобелевский лауреат Пол Кругман выяснил, что они буквально выдавливают остальные сектора экономики, забирая у них все больше инвестиций.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
НИУ ВШЭ 


















