Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

680

Исследование показало, что программисты, использующие ИИ, провоцируют рост проблем с безопасностью

Искусственный интеллект имеет известные проблемы с точностью генерирования данных, поэтому неудивительно, что его использование в качестве помощника при программировании создает множество проблем с безопасностью.

Программный код, написанный системой искусственного интеллекта DeepCoder / © Microsoft
Программный код, написанный системой искусственного интеллекта DeepCoder / © Microsoft

Как показало новое исследование компании Apiiro, занимающееся компьютерной безопасностью, разработчики, использующие ИИ, создают в десять раз больше проблем для безопасности, чем их коллеги, не использующие эту технологию. Проанализировав код тысяч разработчиков и десятки тысяч репозиториев (место, где хранятся данные), сотрудники Apiiro обнаружили, что разработчики, использующие ИИ, действительно пишут код в три–четыре раза быстрее. Но именно скорость и приводит к появлению брешей в системе безопасности.

По иронии судьбы, некоторые «преимущества» программирования с использованием ИИ, по-видимому, стали причинами этих проблем. Анализ Apiiro показал, что количество синтаксических ошибок сократилось на 76%, а количество логических ошибок (неисправного кода, приводящего к некорректной работе программы) — более чем на 60%.

Однако компромисс оказался серьезным: количество случаев повышения привилегий, или кода, позволяющего злоумышленнику получить более высокий уровень доступа к системе, чем ему положено, выросло на 322%. Количество проблем с архитектурным проектированием, в свою очередь, увеличилось на 153%. Другими словами, ИИ исправляет опечатки, но создает «бомбы замедленного действия».

Тем не менее, такие компании, как Coinbase, Shopify и Duolingo, теперь требуют от своих сотрудников использовать искусственный интеллект. Эта проблема не только создает гораздо больше уязвимостей безопасности, но и увеличивает нагрузку для тех, кто отвечает за их устранение.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

1 Комментарий
[miniorange_social_login]