Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)
Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.
Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.
Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник.
«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.
Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).
«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.
Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.
Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.
«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.
Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление:
«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».
Многие думают, что чем больше мозг, тем выше интеллект — конечно, с поправкой на пропорции. Например, у кита мозг больше нашего, но мы умнее, ведь в процентах от массы тела наш мозг весомее. А еще важна поверхность коры и многие другие факторы. Но все эти закономерности поставил под вопрос обычный шмель. При совершенно ничтожном количестве нейронов он показал серьезные возможности. Исследователи все еще разбираются, как шмелям это удалось, но похоже, что все дело в необычной структуре и организации их мозга.
На южном полюсе Луны есть впадина диаметром более двух тысяч километров — крупнейший бесспорный след падения небесного тела в Солнечной системе. Недавно китайский автомат впервые в истории доставил оттуда пробу грунта. Теперь китайские ученые на ее основе разобрались в формировании этого ударного бассейна.
Под Новосибирском в наукограде Кольцово создан суперсовременный научный объект – источник синхротронного излучения, который называется Центр коллективного пользования «Сибирский кольцевой источник фотонов» или сокращенно ЦКП «СКИФ». Установка реально большая, сложная, перспективная и давно ожидаемая исследовательским сообществом страны, поэтому внимания со стороны СМИ хватает. Желающие могут погуглить и почитать. Многие, кому интересно, что такое «источник синхротронного излучения», так и делают, читают и оставляют комментарии (куда же без них!). В этой статье на Naked Science директор ЦКП «СКИФ» академик РАН Евгений Левичев попытался ответить на волнующие читателей вопросы и рассказать, что такое СКИФ, и зачем мы его построили.
Скорость развития собаки в первые годы жизни оказалась намного выше, чем у человека, но дальше процессы ее старения существенно замедляются. Даже скорость взросления и угасания отдельных подсистем организма у этих животных серьезно неодинаковая, из-за чего расхожее представление «один собачий год равен семи человеческим» дважды неверно.
На южном полюсе Луны есть впадина диаметром более двух тысяч километров — крупнейший бесспорный след падения небесного тела в Солнечной системе. Недавно китайский автомат впервые в истории доставил оттуда пробу грунта. Теперь китайские ученые на ее основе разобрались в формировании этого ударного бассейна.
Сегодня, 15 ноября 2026 года, люди впервые вернули из космоса вторую ступень космической ракеты. Причем сделали это с первой попытки и весьма гладко. А это значит, что полностью многоразовые ракеты из научной фантастики становятся реальностью: человечество вступает в эру принципиально новых возможностей в космосе. Разбираемся в технических последствиях происходящего — и для планеты в целом, и конкретно для нашей страны.
Физики изучили уравнения Эйнштейна в форме, похожей на уравнения плазмы, и построили математическую теорию «гравитационного пересоединения». В рамках нее по аналогии с разрывом и слипанием магнитных силовых линий в плазме гравитационные «листы» пространства-времени тоже могли бы разрываться и слипаться, передавая энергию из поля в вещество.
Спутниковый анализ позволил составить карту истощения подземных вод по всей планете. Оказалось, в наибольшей степени сокращение запасов происходит не от уменьшения объема осадков, а там, где подземные воды активнее всего используют для орошаемого земледелия, важного для обеспечения продовольствием миллиардов людей.
Скорость развития собаки в первые годы жизни оказалась намного выше, чем у человека, но дальше процессы ее старения существенно замедляются. Даже скорость взросления и угасания отдельных подсистем организма у этих животных серьезно неодинаковая, из-за чего расхожее представление «один собачий год равен семи человеческим» дважды неверно.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
ЦКП «СКИФ» 








