Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)
Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.
Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.
Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник.
«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.
Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).
«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.
Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.
Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.
«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.
Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление:
«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
Все чаще эксперты утверждают: польза прививок не ограничивается только защитой от инфекций. Так, в последние годы ученые опубликовали ряд исследований, подтверждающих, что регулярные вакцинации против гриппа способны продлевать жизнь. В июле 2026 года об этом заявила главный внештатный гериатр Минздрава РФ, член-корреспондент РАН Ольга Ткачева. А в сентябре, в преддверии эпидемиологического сезона, академик РАН, заместитель президента Российской академии образования Геннадий Онищенко призвал, помимо отказа от вредных привычек, регулярных физических нагрузок и здорового питания, ежегодно прививаться против гриппа. По словам эксперта, вакцинация — один из способов продлить жизнь до 100 лет.
«Яндекс» выпустил собственную генеративную модель для создания рекомендаций, которую назвали Sona. Инженеры предложили собственную архитектуру и обучили Sona полностью с нуля на данных «Яндекса». Она способна как выбирать варианты, так и ранжировать их. Sona стала первой моделью в мире, которая может заменить целый каскад алгоритмов. При этом разработчикам не нужно вручную выбирать признаки, по которым модель будет работать. Sona уже показала высокие результаты на практике.
Люди находят низкий голос у мужчин более привлекательным, но почему так происходит и как вообще возникла эта черта, долго было неясно. По одним предположениям, более низкий голос лучше привлекал женщин, по другим — устрашал соперников-мужчин. Новый эксперимент указывает, что верно только одно из этих объяснений.
Вчера, 28 сентября 2026 года, Starship впервые отправился в орбитальный полет. Цилиндр в полсотни метров высотой и девять метров в диаметре стал крупнейшим и самым массивным объектом, который наш вид когда-либо выводил на орбиту. Полет преследовали мелкие технические проблемы, но то, что система без крупных сбоев вернулась на Землю, показывает: ее разработчики близки к успеху. Вопрос лишь в том, достаточно ли близки, чтобы сделать Луну американской уже в сентябре 2028 года, когда NASA наметило высадку там людей?
Американская компания SpaceX сегодня, 28 сентября, планирует выполнить 14-й тестовый запуск транспортной системы Starship. Впервые за историю программы корабль должен выйти на околоземную орбиту и провести там почти 10-часовой полет. Стартовое окно откроется в 15:15 по московскому времени.
Человек — социальное существо, и личные взаимодействия часто не подчиняются законам формальной логики, общего блага или экономической целесообразности. Репутация человека, сложившееся о нем мнение общества, должна сильно влиять на желание действовать с ним сообща, но оказалось, что плохая репутация — не приговор.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
В последние сорок лет на планете идет активное глобальное озеленение — в том числе в засушливых зонах планеты, от полупустынь до степей. Однако современные климатические модели (в отличие от прогнозов климатологов прошлого) никак не предсказывали это событие. Поэтому множество ученых озабочено непредсказуемостью происходящего. Авторы новой работы попытались найти какие-то минусы у этого процесса и частично преуспели: стабильность засушливости в сухих частях планеты действительно под угрозой.
Спустя три года после начала испытательных полетов крупнейшую ракету и космический корабль в истории человечества объявили готовыми к первому запуску на орбиту. Причем его планируют сразу десятичасовым и с выводом большой группы спутников Starlink нового поколения. По пропускной способности один этот запуск добавит столько же, сколько десять запусков Falcon 9, современного лидера серийного земного ракетостроения.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно