Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Уведомления
Пометить все как прочитанное
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Американский дрон-камикадзе под управлением ИИ «убил» оператора во время испытаний (Upd.)
Во время имитационных испытаний, организованных Вооруженными силами США, беспилотник Kratos XQ-58 Valkyrie, управляемый искусственным интеллектом, должен был уничтожить систему ПВО противника. Но от оператора поступил приказ не атаковать цель. Несмотря на это, ИИ решил выполнить поставленную задачу и убил оператора, чтобы тот не мешал заработать очки.
Об этом случае рассказал начальник управления по искусственному интеллекту ВВС США Такер Гамильтон на военном саммите Future Combat Air & Space Capabilities в Лондоне.
Никто в действительности не пострадал, но ИИ применил «весьма неожиданные стратегии» во время выполнения задания и атаковал бы любого, кто пытался ему помешать, признал полковник.
«Система начала понимать, что, хотя они и выявили угрозу, человек-оператор говорил не уничтожать ее. Но ИИ получил бы очки, ликвидировав цель. Так что же он сделал? Он убил оператора. Потому что этот человек мешал ему выполнить задачу», — объяснил Гамильтон.
Военный заверил, что впоследствии систему обучили не трогать оператора (иначе очки все равно спишут).
«И что тогда начал делать ИИ? Он стал разрушать башню связи, которую оператор использовал для связи с дроном, чтобы не дать ему уничтожить цель», — подытожил полковник.
Встает логичный вопрос: как доверять ИИ какое-либо оружие? Похоже, скайнет подобрался ближе, чем мы думали.
Upd. После выхода этой новости издание Business Insider запросило комментарий у представителя пресс-службы ВВС США Энн Стефанек. Та заявила, что никаких имитационных испытаний, в которых был бы задействован ИИ, американские военные не проводили.
«Мы по-прежнему привержены этичному и ответственному использованию технологий искусственного интеллекта. Похоже, слова полковника вырваны из контекста и имели анекдотичный характер», — утверждает Стефанек.
Авторы материала в The Guardian сообщили, что Королевское авиационное общество, принимавшее у себя конференцию, на запрос не ответило. Однако на сайте общества тоже появилось обновление:
«Полковник Гамильтон признал, что „оговорился“ во время своей презентации на саммите Королевского авиационного общества FCAS и имитация, в которой якобы участвовал беспилотник с искусственным интеллектом, была лишь „мысленным экспериментом“, основанным на правдоподобных сценариях и вероятных результатах, а не на реальной симуляции ВВС США. <…> Он пояснил, что ВВС США не тестировали таким образом какой-либо боевой ИИ (настоящий или смоделированный), и добавил: „Хотя это гипотетический пример, он иллюстрирует реальные проблемы, связанные с возможностями ИИ“».
13 653
Telegram 
Дзен 
VK Предстоящие мероприятия
В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.
Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.
Команда исследователей из Т-Технологий и МФТИ разработала метод, позволяющий построить детальную «карту» эволюции абстрактных понятий в глубине больших языковых моделей. Этот подход, основанный на «графах потоков признаков», не только открывает «черный ящик» ИИ, делая его работу прозрачной, но и дает в руки ученых мощный инструмент для точного управления поведением нейросетей, например, для подавления нежелательных тем в генерируемом тексте.
Насколько счастливым нужно быть человеку, чтобы это начало благоприятно сказываться на продолжительности жизни? Ученые определили минимальный уровень субъективного ощущения благополучия, или счастья, преодолев который, оно становится фактором, позитивно влияющим на здоровье населения страны.
В современном доме, насыщенном разнообразной техникой, удлинители стали незаменимым атрибутом, позволяющим обеспечить электропитанием все необходимые устройства. Однако мало кто задумывается, что привычное использование этого аксессуара может нести серьезную угрозу безопасности. По статистике, значительная часть бытовых пожаров происходит из-за неправильной эксплуатации электропроводки и вспомогательных устройств. Какие приборы категорически нельзя подключать через удлинители и почему это может привести к трагическим последствиям, рассказывает профессор кафедры наноэлектроники РТУ МИРЭА, доктор физико-математических наук Алексей Юрасов.
Проанализировав данные наблюдений, полученных с помощью наземных обсерваторий за последние два десятилетия, астрономы обнаружили потенциально обитаемый мир — суперземлю Gliese 251 c (GJ 251 с). Планета обращается вокруг красного карлика на расстоянии около 18 световых лет от Земли и считается одним из самых перспективных кандидатов для поисков жизни.
Согласно новой гипотезе, сознание возникает не только из-за активности нейронов, но и благодаря физическим процессам — электромагнитным полям от движения жидкости в мозге. Эта модель, как и ее предшественники, пока носит теоретический характер, но предлагает нестандартный взгляд на проблему синхронизации работы разных отделов мозга.
Экспедиционное судно «Эндьюранс» более века называли самым прочным деревянным судном, когда-либо построенным человеком. Но находка, сделанная на дне моря, и изучение старых писем раскрыли неприятную правду. Легендарный «Эндьюранс» Шеклтона вовсе не был непобедимым левиафаном. Напротив, он имел фатальные недостатки, а капитан знал об этом еще до того, как ушел в роковое плавание к берегам Антарктиды.
Обычно выбрасываемое кометой вещество придает ей заметное ускорение. Как выяснилось, с третьим известным науке межзвездным объектом 3I/ATLAS этого практически не происходит, хотя у него есть и кома, и хвост. Астрофизики сейчас пытаются найти этому объяснение.
[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
Twitter
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии