Эксперт по кибербезопасности объяснил, может ли ИИ стать причиной миллиарда смертей

Билл Гейтс в интервью NBC News заявил, что искусственный интеллект достаточно силен, чтобы управлять событиями, которые могут привести к миллиарду смертей. Он отметил, что у человечества никогда не было настолько мощного оружия, как сочетание людей со злыми намерениями и современных инструментов искусственного интеллекта. Также Гейтс заявил о необходимости контролировать ИИ на законодательном уровне.

Чтобы разобраться, могут ли сбыться предсказания Гейтса, издание Tom’s Guide решило поговорить с Дэвидом Линтикумом, международным экспертом в области ИИ, облачных технологий и кибербезопасности. 

Как пояснил Линтикум, чтобы стать потенциальной причиной гибели миллиарда человек, искусственному интеллекту нужно получить контроль над критически важной инфраструктурой, оружием, цепочками поставок или биологическими системами. При этом у ИИ должна быть возможность действовать без вмешательства людей. Чтобы такое реализовать, должны произойти массовые ошибки интеграции, провалы в управлении и преднамеренное злоупотребление технологиями. В теории это возможно, но на практике такой сценарий кажется эксперту нереалистичным, если люди не допустят множество ошибок.

Линтикум предположил, что Гейтс мог говорить о ситуации, когда ИИ попал в руки террористов или нестабильных государств. Однако даже в этой ситуации путь от идеи реализации будет огромным, а вероятность настоящей катастрофы остается небольшой.

При этом эксперт не отрицает, что некоторые угрозы из-за ИИ уже есть. По его мнению, переживать стоит об утечках данных, мошенничестве, дипфейках и некорректной автоматизации. Также опасений заслуживают предвзятые решения и злоупотребления в киберпространстве. Кроме того, некоторые компании могут внедрять ИИ без необходимых мер контроля.

На практике главный риск скрывается в плохо спроектированных системах искусственного интеллекта, подключенных к настоящим корпоративным и государственным системам. Линтикум отметил, что сильнее всего он боится ИИ в руках некомпетентных людей.

Чтобы снизить риски ИИ и сохранить над ним контроль, по мнению аналитика, нужно ограничивать разрешения и изолировать системы. Высокорисковые действия необходимо совершать лишь с одобрения человека. Также эксперт отметил, что важно регистрировать все действия систем и постоянно проводить тестирование. У ИИ-агентов не должно быть широких полномочий или неограниченного доступа к API.

Архитектура систем обеспечивает безопасность: давать ИИ минимум привилегий, вести мониторинг, сохранять возможность отката и не забывать про изоляцию. Человек может доверять системе настолько, насколько способен ее ограничить. Эксперт пояснил, что сейчас главная угроза — не ИИ, а люди, которые не умеют им пользоваться.

Линтикум отметил, что нельзя полагаться лишь на систему аварийного отключения ИИ. Эта система поможет лишь в ситуации, когда человек понимает, что ее нужно использовать, и ущерб еще не нанесен. В этой ситуации скорее помогут механизмы контроля, состоящие из нескольких уровней, автоматические выключатели, ограничение частоты операций и изолированные среды. Нельзя забывать про процедуры согласования, журналы аудита и устойчивость систем к атакам.

Безопасное поведение нужно закладывать в настройки по умолчанию. При этом делать это нужно на всех этапах разработки, а не в самом конце.

Аварийный выключатель дает людям ощущение защищенности, но ничего не делает для обеспечения безопасности.

Эксперт согласен, что ИИ уже сейчас снижает стоимость атак и увеличивает их количество. Более доступными становятся такие методы, как фишинговые сообщения, клонирование голосов и поддельные счета. Специалистам по кибербезопасности ИИ может также помочь. Однако люди не должны забывать про базовые меры безопасности, в том числе многофакторную аутентификацию, звонки для проверки информации и резервное копирование. Важно помнить, что даже самый убедительный контент может оказаться подделкой.

При этом эксперт сомневается, что ИИ может помочь создать биологическое оружие. Он способен подтянуть знания по биологии, оптимизировать рабочие процессы и снизить порог входа в эту область. Однако для создания биологического оружия массового поражения необходимы условия лаборатории, материалы и возможность проводить испытания. Все это — серьезные препятствия. При этом специалист уверен, что о мерах безопасности все равно забывать не стоит. Меры защиты все равно нужны: проверка запросов к моделям, ограничение доступа к опасным протоколам, проверка лабораторных заказов, мониторинг и ужесточение стандартов биологической безопасности. Узнав, что кто-то использует ИИ для опасных целей, нужно отказать человеку в доступе и уведомлять об этом.

Думать о безопасности нужно на всех уровнях. Власти стран должны учитывать риски при разработке законов и предусмотреть ответственность за причиненный ущерб. Задача разработчиков — создавать безопасные и наблюдаемые системы, а также тестировать их и не забывать про контроль со стороны людей. Компании должны учитывать все случаи использования ИИ и контролировать доступ к данным. Пользователям также не стоит расслабляться. Они должны проверять личность собеседников и защищать свои учетные записи.

Закладка

Скопировать ссылку

Email

Печать

Twitter

VK

Telegram