Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)
Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.
Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.
Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник.
«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.
Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).
«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.
Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.
Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.
«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.
Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление:
«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».
Бета-блокаторы около 40 лет использовали для лечения людей, пострадавших от инфаркта. Однако работы последних лет, авторы которых пробовали оценить их эффективность в современных условиях, уже поставили их полезность под вопрос. Новое исследование показало, что для одного из полов они могут быть даже вредны.
Недавнее появление в Солнечной системе межзвездного объекта 3I/ATLAS вызвало новую волну обсуждения вопроса о том, как отличить комету или астероид от внеземного космического корабля либо другого артефакта, не созданного человечеством. Астрономы рассказали, что у искусственного объекта могут быть четыре характерные особенности.
Ученые ТПУ совместно с коллегами провели эксперименты и с высокой точностью предсказали кинетические характеристики воспламенения и сгорания топлива с добавлением воды. Результаты показали, что топливо с небольшой добавкой воды сгорает на 7-14% быстрее по сравнению с однородным углеводородным топливом. В будущем это может помочь в разработке более экологичных и ресурсоэффективных систем сжигания альтернативных топлив.
Бета-блокаторы около 40 лет использовали для лечения людей, пострадавших от инфаркта. Однако работы последних лет, авторы которых пробовали оценить их эффективность в современных условиях, уже поставили их полезность под вопрос. Новое исследование показало, что для одного из полов они могут быть даже вредны.
Недавнее появление в Солнечной системе межзвездного объекта 3I/ATLAS вызвало новую волну обсуждения вопроса о том, как отличить комету или астероид от внеземного космического корабля либо другого артефакта, не созданного человечеством. Астрономы рассказали, что у искусственного объекта могут быть четыре характерные особенности.
Ученые ТПУ совместно с коллегами провели эксперименты и с высокой точностью предсказали кинетические характеристики воспламенения и сгорания топлива с добавлением воды. Результаты показали, что топливо с небольшой добавкой воды сгорает на 7-14% быстрее по сравнению с однородным углеводородным топливом. В будущем это может помочь в разработке более экологичных и ресурсоэффективных систем сжигания альтернативных топлив.
Примерно 12 800 лет назад в Северном полушарии началось резкое изменение климата, которое сопровождалось вымиранием мегафауны и угасанием культуры Кловис. Такое могло произойти, например, из-за прорыва пресных вод в Атлантику или мощного вулканического извержения. Несколько лет назад ученые обнаружили места на суше с повышенным содержанием элементов платиновой группы, прослоями угля, микрочастицами расплава. По их мнению, это может быть признаком пребывания Земли в потоке обломков кометы или астероида. В новой работе впервые представлены доказательства кометного события в позднем дриасе из морских осадочных толщ.
Влияет ли формат знакомства на качество последующих романтических отношений в паре? Научные данные на этот счет разнятся. Новое исследование по вопросу представила группа психологов из Польши, Австралии и Великобритании. В попытке понять, при каком сценарии удовлетворенность отношениями выше, а любовь крепче — когда двое нашли друг друга в Сети или познакомились в жизни, — ученые опросили свыше 6000 тысяч человек из разных стран.
Астрономы подсчитали, что с поверхности летящего по Солнечной системе межзвездного объекта 3I/ATLAS каждую секунду испаряется около 40 килограммов водяного льда. Такую сильную кометную активность он проявил, будучи в три с половиной раза дальше Земли от Солнца. По мнению ученых, это довольно необычно.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
ПонятноИз-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
ПонятноНаши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноМы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Комментарии