Пожалуй нет других людей настолько же интересующихся технологическими новинками, насколько и опасающихся всего нового, чем военные. Именно они финансируют самые передовые разработки, но при этом, зачастую, демонстрируют максимальный консерватизм в выборе инструментов и техники. Лишний пример такому двоякому подходу продемонстрировало командование Корпуса морской пехоты США (КМП). Офицеры назвали несколько причин, почему у морпехов нет доверия к ИИ, а также что необходимо с ним сделать, чтобы люди и алгоритмы стали надежными партнерами.
Морпехи нередко одними из первых получают высокотехнологичные «игрушки» в свой арсенал. Как-никак, задачи КМП обязывают его быть максимально универсальным. На фото — солдаты седьмого батальона поддержки морской пехоты на учениях по использованию роботов-саперов / ©Lance Cpl. Shaltiel Dominguez, U.S. Marines
Как пишет журнал National Defence, по мнению высшего руководства КМП у этого рода войск с искусственным интеллектом только одна серьезная проблема — недостаток доверия солдат и командования к нему. Как предложил комендант (высший по званию офицер) Корпуса морской пехоты, генерал Дэвид Бергер (Commandant Gen. David Berger), решить ее можно довольно простым способом. А именно — поручить тренировку машин морпехам.
На первый взгляд подобное заявление выглядит по-армейски упрощенным и топорным. Но в словах обладателя трех дипломов о высшем образовании (один из которых в области технических наук) — Бергера, — есть изрядная доля здравого смысла. Военные навряд ли будут доверять информации, предоставленной алгоритмами ИИ, который программировался пусть и профессионалами, но явно не бывавшими на передовой.
Современные технологии искусственного интеллекта требуют данных для обучения, отбор которых разумнее всего поручить людям, которые не по наслышке знают, что такое поле боя. К тому же, они имеют больше шансов быстро и корректно определить, насколько эффективно алгоритм будет действовать после обучения. То есть мысль не в том, чтобы отобрать разработку у «гражданских» подрядчиков, а выполнять ее совместно, тесно интегрированными командами из военных и специалистов по ИИ.
Своего коллегу поддерживает и бригадный генерал Эрик Остин (Eric Austin) глава подразделения Capabilities Development Directorate Корпуса морской пехоты. Он отметил, что КМП разрабатывает инструменты, использующие искусственный интеллект для обработки больших объемов информации. Они полезны для эффективного анализа разведывательных данных и быстрого формирования оперативных сводок. Такой ИИ способен существенно снизить когнитивное бремя, лежащее на морпехах. Алгоритмы будут анализировать входящую с множества источников информацию и выдавать удобную «выжимку», а освободившимся от избыточной нагрузки людям уже предстоит принимать критические решения.
По словам высокопоставленных офицеров, сейчас цепочка принятия решений между первичным сенсором (любым источником данных) и непосредственным исполнителем приказа может достигать полутора десятков человек. Просто потому, что люди до сих пор не готовы полностью доверять обработку столь важной информации машинам. И уж тем более принимать решения на основании данных, полученных от таких «аналитиков».
Все эти рассуждения, прозвучавшие из уст генералов КМП на закрытом мероприятии Industrial Association’s Expeditionary Warfare Conference, здорово дополняют происходящее в других родах войск США. В начале года, генерал-лейтенант Майкл Гроэн (Michael Groen), тоже морпех, хоть и бывший, обрисовал в профильном СМИ общую стратегию интеграции технологий искусственного интеллекта в американскую военную машину. Он возглавляет Объединенный центр искусственного интеллекта (JAIC) Министерства обороны (DOD) и видит общую картину изнутри.
А вопрос доверия людей к ИИ стоит важнейшим пунктом в повестке программы Air Combat Evolution (ACE). Его ведет Управление перспективных исследовательских проектов Министерства обороны США (DARPA) в интересах ВВС. В рамках ACE уже отработаны симуляции ближнего воздушного боя истребителей под управлением искусственного интеллекта. Алгоритмы показали высокую эффективность против единичных противников и групп самолетов, взаимодействовали с живыми пилотами и наземными силами. Через несколько лет уже настоящие самолеты, управляемые ИИ, будут летать в воздухе и проходить слаживание с людьми.
Комментарии
"...снизить когнитивное бремя, лежащее на морпехах". -- И как тут не засмеяться?!.. Натуральный Козьма Прутков. Так и слышится: "Любой компьютер смело уподоблю мозгу морского пехотинца: без напряжения не работает!"
Зря иронизируете. В бою приходится очень быстро соображать мозгами в первую очередь. Кто долго думает в бою, того быстро берут на мушку.
Вкратце, ув. генералы предлагают "обучение с подкреплением", в этом нет ничего нового для области ИИ. Так и нужно было сказать. А то в области ИИ столько мути сейчас плавает, что просто жуть.
Не могу сейчас найти, попадалась пару лет назад классная статья про анализ когнитивной нагрузки на современных солдат в бою. Там получалось, что при нынешнем уровне разведки и количества одновременно действующих видов бойцов, войск и техники, на одного активно сражающегося человека надо два-три аналитика в оперативном центре. Иначе люди в пекле начинают постоянно ошибаться, так как не успевают переваривать всю информацию и принимать адекватные решения. Есесена, это справедливо для войск, которые оснащены всеми новейшими системами обмена оперативной информацией, бармалеям и солдатам регулярных частей стран второго-третьего мира такие "проблемы белых людей" не знакомы.
Думаю, не стоит искать эту статью. Информац перегрузка сейчас идет абсолютно на любом рабочем месте, даже не в условиях ТВД, и даже на абсолютно любого человека, даже неработающего. Тонны инфы вываливают ежеминутно, разбираться со всем этим времени нет. Предпочитают ориентироваться на гуру ("МарьИванна считает..."), это экономит время. Но тупеешь реально, когда сам перестаешь шевелить извилинами.
Всё сложнее.
Необходимо быстро принимать правильные решения в условиях и избыточной и одновременно недостаточной информации. Иначе- потеря темпа со всеми вытекающими.
Мало того, проблема осложняется недоверием к ИИ.
Как пример, система наблюдения танка. Оснащаем её ИИ для распознавания целей и ранжирования их по опасности для постановки в очередь на поражение. Технически возможно такого добиться. Однако недоверие заставит вставить в систему человека. А вдруг электроника не распознает, а вдруг неверно оценит опасность? В итоге система начинает заметно тормозить. Ибо командир танка сержант Пупкин отнюдь не гений. И к тому же распознавать и ранжировать он будет вынужден одновременно с управлением ДУ боевым модулем, постановкой задач наводчику и механику-водителю, поддержанием связи с командиром взвода и с прочим ворохом более мелких задач
В более сложных системах и проблем больше, и "дополнительных фильтров", и замедление
Вот и пытаются в КМП проблему решить. На фоне предстоящего тотального разоружения и вызванной им настоятельной необходимости повышения эффективности остающихся огневых средств.
Да, верно. Контролируемое обучение, предлагаемое КМП, будет тормозить очень сильно. Все преимущество ИИ в скорости самостоятельного разбора кейсов.
Впрочем, они могут виртуально заставить играть (воевать) два ИИ между собой (шутейно, как бы учения), и по результатам разбирать вручную, кто правильно действовал, кто нет, назначать веса. А потом и веса сам ИИ будет себе уже назначать, а енералы будут сигары курить и пиво пить....
Заставить играть несколько ИИ между собою - верный путь очень быстро их натаскать (наработка рабочих датасетов). Именно так быстро прогрессировали алгоритмы ИИ для игры в шахматы и го.
Все верно, только "торможение" при обучении в данном случае не так критично, важнее контроль. И конкурентное обучение (или как это называется, когда нейросети стравливают друг с другом) обязательно будет использоваться