Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Уведомления
Пометить все как прочитанное
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)
Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.
Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.
Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник.
«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.
Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).
«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.
Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.
Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.
«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.
Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление:
«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».
Telegram 
Дзен 
VK Предстоящие мероприятия
Космический телескоп «Гайя» позволил оценить скорость движения рекордного количества звезд в Млечном Пути, и новые данные оказались крайне неожиданными. Дело не только в том, что его масса упала во много раз: стало ясно, что сама структура Галактики не такая, как думали раньше.
К неожиданным прорывам в науке могут привести даже пустяковые вещи вроде чаинок в чашке. Парадокс чайного листа только на первый взгляд кажется неважным, но в свое время им заинтересовался Альберт Эйнштейн. Решение парадокса ученый представил на одной из конференций, чем вызвал ажиотаж у академической публики. Докладу немецкого физика уже почти 100 лет, а самому парадоксу — гораздо больше, но исследователи во всем мире продолжают использовать его в своих работах. Например, недавно китайские ученые применили его для изучения концентрации веществ в наножидкостях.
Разработка ученых Института нанотехнологий, электроники и приборостроения ЮФУ потенциально может найти применение в производстве экологически чистого топлива и накопления энергии. Кроме того, технология может значительно повысить эффективность расщепления воды, способствуя переходу к устойчивой энергетике.
Космический телескоп «Гайя» позволил оценить скорость движения рекордного количества звезд в Млечном Пути, и новые данные оказались крайне неожиданными. Дело не только в том, что его масса упала во много раз: стало ясно, что сама структура Галактики не такая, как думали раньше.
Ученые применили современные методы, такие как микрокомпьютерная томография, получили сотни рентгеновских изображений и создали 3D-модель. Все для того, чтобы обнаружить следы опухоли во внутренней части черепа человека, жившего в середине IV века нашей эры. Это самый ранний случай менингиомы на Пиренейском полуострове — из тех, что известны науке.
К неожиданным прорывам в науке могут привести даже пустяковые вещи вроде чаинок в чашке. Парадокс чайного листа только на первый взгляд кажется неважным, но в свое время им заинтересовался Альберт Эйнштейн. Решение парадокса ученый представил на одной из конференций, чем вызвал ажиотаж у академической публики. Докладу немецкого физика уже почти 100 лет, а самому парадоксу — гораздо больше, но исследователи во всем мире продолжают использовать его в своих работах. Например, недавно китайские ученые применили его для изучения концентрации веществ в наножидкостях.
Вопреки предсказаниям, кислород-28 оказался крайне неустойчивым. Физики не успели даже зарегистрировать такие ядра, хотя теоретически они должны быть дважды магическими, а значит — особенно стабильными.
Тотальная память — плохо для мозга. Чтобы детально запомнить событие, стоит о нем вспоминать как можно реже. Чем больше вы знаете по теме, тем больше новой информации вы запомните. Но если информации будет слишком много, то не вся она будет зафиксирована в мозге. Naked Science разбирается, как сегодня ученые, нейробиологи и психологи объясняют способности нашего мозга запоминать и учиться.
Американский поэт и литературный критик Адам Кирш в эссе, опубликованном в The Guardian, рассуждает о том, как новые представления о возможностях животного разума меняют нас самих.
[miniorange_social_login]
Подтвердить?
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Войти
Вконтакте
Twitter
Google
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Ваше сообщение получено
Мы скоро прочитаем его и свяжемся с Вами по указанной почте. Спасибо за интерес к проекту.
Понятно
Последние комментарии