Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)
Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.
Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.
Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник.
«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.
Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).
«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.
Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.
Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.
«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.
Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление:
«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
Во многих случаях у женщин более сильный иммунный ответ на инфекции и вакцинацию, но некоторые аутоиммунные заболевания у них встречаются значительно чаще, чем у мужчин. Авторы нового исследования изучили, как температура тела связана с работой иммунитета, и предположили, что ее естественные колебания во время менструального цикла и менопаузы служат одним из факторов повышенной восприимчивости женщин к аутоиммунным заболеваниям.
В высокогорной пещере в Китае ученые обнаружили первую в истории этой страны слепую пресноводную улитку, постоянно живущую в абсолютной темноте. Новый вид получил название Erhaia dijiang, в честь Ди Цзяна — безликого покровителя гор из древней китайской мифологии.
Физики ОИЯИ, МФТИ и Института современной физики Китайской академии наук с коллегами рассчитали, как долго можно сохранять в ускорителе поляризацию дейтронных пучков при непрерывном изменении направления спинов. По их оценке, на комплексах Нуклотрон / NICA и HIAF она может сохраняться час и дольше, потенциально несколько часов. Это открывает возможности для поиска с высокой чувствительностью слабых сигналов новых взаимодействий, в частности с потенциальным приложением к разгадке происхождения барионной асимметрии Вселенной, описать которую Стандартная модель электрослабых взаимодействий не в состоянии.
Численность бурых медведей по всей России резко растет. Если верить СМИ, в 2026 году они еще и очень часто атакуют людей — во многом из-за вырубок лесов, которые сильно усложняют зверям жизнь. Правда, статистика говорит о другом: этот год далек от рекорда, да и площадь лесов растет. Что происходит на самом деле и почему атак медведей через несколько десятков лет может стать кратно больше, причем вплоть до Московской области?
Ученые вычислили, при каких условиях черная дыра могла бы разделиться на две, а не сливаться с другой. В привычной физике процесс запрещен законами сохранения, но для черных дыр, вращающихся почти с максимальной скоростью, расчеты впервые показали условия, при которых деление не нарушает фундаментальные запреты.
Ученые РГУ нефти и газа (НИУ) имени И. М. Губкина разработали новый комплексный подход для рекультивации загрязненных нефтью земель Ставропольского края.
Новый анализ наблюдений за северной полярной областью Марса заставил ученых пересмотреть представления о составе водяного льда. Выяснилось, что прежние модели заметно искажали одну из его главных характеристик. С учетом этого, местный лед потенциально может быть куда полезнее для персонала будущих марсианских баз.
В большинстве случаев планеты и иные тела, вращающиеся вокруг «нормальных» звезд главной последовательности, формируются достаточно далеко от своих светил, чтобы падать на них. Несмотря на это, теперь астрономы увидели, как красный карлик перетягивает на себя вещество от вращающегося вокруг него объекта. Тот уже делает один оборот вокруг своей звезды меньше, чем за полтора часа, и это время может уменьшаться.
Чтобы выучить новый для себя язык, перестаньте искать в звуках смысл — сосредоточьтесь на самих звуках, посоветовали авторы нового исследования. Они пришли к выводу, что наиболее способные к изучению языков люди обладают врожденной особенностью: замечают мельчайшие звуковые нюансы и потому воспринимают незнакомые иностранные звуки скорее как акустические сигналы, нежели как элементы речи.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно