Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Уведомления
Пометить все как прочитанное
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)
Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.
Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.
Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник.
«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.
Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).
«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.
Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.
Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.
«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.
Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление:
«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».
13,7 тыс
Telegram 
Дзен 
VK Предстоящие мероприятия
Ученые задались вопросом: почему два расположенных по соседству спутника Юпитера такие разные, ведь на Ио повсеместно извергаются вулканы, а Европа полностью покрыта многокилометровой коркой льда. Есть версия, что Ио когда-то тоже была богата водой, но по итогам недавнего исследования это сочли неправдоподобным.
Медленное снижение дозировки антидепрессанта наряду с курсом психотерапии помогло пациентам избежать рецидива депрессии. К такому выводу ученые пришли, проанализировав результаты 76 клинических исследований с участием более 17 тысяч человек.
Ученые задались вопросом: почему два расположенных по соседству спутника Юпитера такие разные, ведь на Ио повсеместно извергаются вулканы, а Европа полностью покрыта многокилометровой коркой льда. Есть версия, что Ио когда-то тоже была богата водой, но по итогам недавнего исследования это сочли неправдоподобным.
В 16.18 по московскому времени 28 декабря 2025 года с единственного гражданского космодрома на территории России произошел 17-й по счету космический запуск этого года. Перед ним на космодроме побывал корреспондент нашего издания, и вскоре мы выпустим репортаж о том, чем живет самый холодный космодром в мире.
Бытует мнение, что в большинстве случаев великими учеными, спортсменами и музыкантами становятся те, кто с самого детства проявлял соответствующие способности. Поэтому родители с трепетом всматриваются в ранние увлечения своих чад, чтобы как можно раньше выявить талант. Однако авторы нового исследования выяснили, что такое поведение — ошибка. Оказывается, большинство тех, кто сегодня определяет лицо мировой науки, спорта и искусства, в детстве ничем особенным не выделялись. Более того, интенсивная «дрессировка» с малых лет скорее мешает, чем помогает достичь вершин во взрослой жизни.
С 2010-х в «Роскосмосе» говорили: будущая РОС сможет пролетать над полюсом, что даст ей возможности для новых научных экспериментов. Но вскоре после того, как в ноябре 2025 года Россия временно лишилась возможности запускать людей в космос, эта позиция изменилась. В результате запускать космонавтов с космодромов нашей страны станет довольно сложно.
На скалистых берегах аргентинской Патагонии разворачивается настоящая драма. Магеллановы пингвины, долгое время чувствовавшие себя в безопасности на суше в своих многотысячных колониях, столкнулись с новым и беспощадным врагом. Их извечные морские страхи — касатки и морские леопарды — теперь блекнут перед угрозой, пришедшей из глубины материка. Виновник переполоха — грациозный и мощный хищник, недавно вернувшийся на эти земли после долгого изгнания.
У побережья Канады морские биологи стали свидетелями необычного случая. Косатки и дельфины объединили свои силы, чтобы вместе охотиться на тихоокеанского лосося. Они погружались в темные глубины, а после удачной охоты делились пищей. Это первое задокументированное охотничье сотрудничество между двумя видами морских млекопитающих.
[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
Twitter
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии