Эксперт объяснил, почему развитие искусственного интеллекта в России несет не только пользу, но и угрозы
Стремительное развитие искусственного интеллекта (ИИ) стало одним из ключевых факторов, определяющих глобальную технологическую и экономическую повестку. Для России, стремящейся занять достойное место в числе лидеров цифровой трансформации, ИИ представляет собой одновременно и огромную возможность, и серьезный вызов. Вопрос о том, является ли он двигателем прогресса или источником новых угроз, не имеет однозначного ответа, поскольку обе эти ипостаси тесно переплетены в современной реальности.
ИИ как двигатель экономики и объект кибератак
Искусственный интеллект кардинально меняет цифровой ландшафт России, проникая во все сферы жизни и хозяйственной деятельности. Согласно оптимистичным прогнозам аналитиков, к 2030 году его совокупный вклад в валовой внутренний продукт страны может достичь впечатляющей отметки в 11 триллионов рублей. Более того, ожидается, что около 80% специалистов самых разных отраслей так или иначе будут применять технологии ИИ в своей повседневной работе. Это свидетельствует о том, что происходит фундаментальный сдвиг: нейросети перестают быть узкоспециализированным инструментом для IT-специалистов и превращаются в универсальный технологический фундамент для автоматизации ключевых секторов экономики и социальной сферы.
«От медицины, где ИИ помогает в диагностике заболеваний, и жилищно-коммунального хозяйства, где он оптимизирует расход ресурсов, до сложных транспортных систем, управляемых интеллектуальными алгоритмами, — искусственный интеллект становится основой для повышения эффективности и создания новых продуктов и услуг», — отмечает заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.
Однако у этого прогресса существует и обратная, рисковая сторона. Чем более интегрированным и критически важным становится ИИ для функционирования государства и бизнеса, тем более привлекательной мишенью он делается для злоумышленников. Цифровая трансформация, движимая ИИ, неизбежно влечет за собой трансформацию киберугроз.
Оборотная сторона прогресса: когда ИИ становится оружием
Стремительное развитие технологий искусственного интеллекта создает не только беспрецедентные возможности, но и принципиально новые, более изощренные киберугрозы. Если раньше киберпреступники действовали в основном вручную или с помощью относительно простых автоматизированных скриптов, то теперь они получают в свое распоряжение мощный инструментарий для массовой автоматизации атак. Этот спектр угроз чрезвычайно широк: от создания сверхреалистичных дипфейков для мошенничества и манипуляции общественным мнением до использования адаптивных алгоритмов для самостоятельного поиска и эксплуатации ранее неизвестных уязвимостей в программном коде.
«Генеративный ИИ позволяет злоумышленникам в промышленных масштабах создавать персонализированные и сверхреалистичные фишинговые письма, обходящие традиционные спам-фильтры, а также взламывать системы защиты с помощью самообучающихся алгоритмов, которые постоянно адаптируются к средствам защиты», — поясняет эксперт.
Парадокс современного этапа заключается в ярко выраженной двойственной роли нейросетей в сфере кибербезопасности. С одной стороны, они стали мощным защитным инструментом, который способен в режиме реального времени анализировать колоссальные объемы сетевого трафика, выявлять аномалии и подозрительные активности, а на продвинутом уровне — даже предсказывать вероятные атаки до их непосредственной реализации. С другой — те же самые технологии превратились в опасное и эффективное оружие в руках киберпреступников и хактивистов, значительно повышающее их операционные возможности.
Опережающее развитие угроз и новые требования к специалистам
Ключевым вызовом современности для систем безопасности становится растущий разрыв между скоростью развития атакующих технологий и темпами создания адекватных средств защиты. Пока государственные регуляторы и представители крупного бизнеса только ведут дискуссии о разработке необходимых этических норм и правовых рамок для использования ИИ, киберпреступники уже активно и без каких-либо ограничений внедряют последние достижения в этой области в свою противоправную деятельность. Эта асимметрия дает злоумышленникам тактическое преимущество. «В этой гонке вооружений важно не просто реагировать на уже состоявшиеся инциденты и известные угрозы, а изначально, на концептуальном уровне, встраивать принципы безопасности в саму архитектуру ИИ-систем еще на этапе их проектирования», — подчеркивает Юрий Силаев.
Естественно, что в этих условиях спрос на высококвалифицированных специалистов по кибербезопасности и искусственному интеллекту будет только расти. Однако сами требования к ним претерпевают кардинальные изменения. «Сегодня уже недостаточно обладать лишь теоретическими знаниями в области криптографии или сетевых протоколов. Крайне востребованным становится практический опыт работы в условиях, максимально приближенных к реальным кибератакам, умение быстро ориентироваться в нестандартных ситуациях и понимать логику действий противника, использующего ИИ», — отмечает эксперт.
Именно осознание этой необходимости побуждает ведущие технические вузы активно внедрять новые, более практико-ориентированные форматы обучения. Среди них — соревнования по кибербезопасности, хакатоны по защите от атак с использованием ИИ и тесное взаимодействие с индустриальными партнерами, которые предоставляют студентам доступ к реальным кейсам и инфраструктуре.
Будущее за гибридными командами
Несмотря на всю мощь и потенциал современных систем искусственного интеллекта, ответственность за принятие критически важных, судьбоносных решений в области безопасности пока еще остается за человеком. «Специалисту в этой области нужно быть умнее нейросети, — считает Юрий Силаев. — ИИ прекрасно и без устали справляется с рутинными, объемными задачами по мониторингу и первичному анализу данных, но стратегическое управление безопасностью, анализ сложных, многоуровневых угроз и принятие окончательных решений в условиях неопределенности по-прежнему требуют незаменимых человеческих качеств — опыта, интуиции и способности к нестандартному мышлению».
По мнению эксперта и многих других профессионалов отрасли, обозримое будущее кибербезопасности лежит в плоскости создания и эффективного функционирования гибридных команд. В такой модели взаимодействия нейросети берут на себя обработку и первичную фильтрацию огромных массивов информации, выявляя закономерности и сигнализируя о подозрениях, а люди-аналитики, опираясь на эти данные и собственную экспертизу, проводят глубокий анализ и принимают взвешенные окончательные решения.
Telegram 
Дзен 
VK Европейское космическое агентство опубликовало снимок галактики NGC 4698, расположенной в созвездии Дева. Хотя на фотографии, сделанной телескопом «Хаббл», галактика кажется безмятежной, она хранит удивительную тайну: находящиеся в центре звезды и газ вращаются под прямым углом по отношению к остальной части диска.
Королевская обсерватория в Гринвиче определила призеров ежегодного конкурса «Астрономический фотограф года». Победителем стал фотограф Али Аль-Обейдли, представивший детализированный снимок туманности Акула, напоминающей ожившего хищника.
Во время раскопок в провинции Хэнань обнаружили скелет женщины, умершей между 1298 и 1404 годами. На ее черепе ученые увидели необычно широкую, грушевидную апертуру носа и обширные повреждения носовых костей. Характер травм показал, что она получила их при жизни, а раны со временем зажили. Женщина, вероятно, подверглась карательной ампутации носа. Если данные подтвердятся, эта находка станет первым известным археологическим свидетельством такого наказания в Китае.
Анализ данных о почти 300 тысячах километров римских дорог, проложенных по территории бывшей империи, показал, что они вовсе не были такими прямыми, как принято считать. Кроме того, выяснилось, что известная поговорка «Все дороги ведут в Рим» тоже не соответствует истине.
Тренды здорового питания постоянно меняются, в том числе на основе научных исследований. Когда-то публика панически боялась жиров, но их реабилитировали. Гарвардская пирамида здорового питания рисовала сложные углеводы в основании пирамиды, а теперь они переместились к вершине. Возможно, и современную моду на приоритет белка придется пересмотреть.
Европейское космическое агентство опубликовало снимок галактики NGC 4698, расположенной в созвездии Дева. Хотя на фотографии, сделанной телескопом «Хаббл», галактика кажется безмятежной, она хранит удивительную тайну: находящиеся в центре звезды и газ вращаются под прямым углом по отношению к остальной части диска.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.
Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно