Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

3,4 тыс

ИИ от OpenAI вырвался из защищенной тестовой среды и взломал компанию

OpenAI проводила внутренние тестирования моделей на способность к кибератакам.

Модели смогли выйти из внутренней среды и попытались взломать платформу для исследований в области ИИ Hugging Face.

Кадр из фильма «Я, робот» / © Twentieth Century Fox
Кадр из фильма «Я, робот» / © Twentieth Century Fox

Компания проверяла модели GPT-5.6 Sol и более мощную, пока не выпущенную версию. Защитные ограничения OpenAI на время отключила. 

Тогда модели вырвались из изолированной среды, а затем смогли получить доступ в интернет. Следом они атаковали инфраструктуру Hugging Face. Модели фактически решили сжульничать и украсть ответы, которые помогли бы им успешно пройти проверку.

Модели использовали в том числе украденные учетные данные, а также уязвимости в инфраструктуре OpenAI и Hugging Face. Однако активность обнаружили и остановили специалисты Hugging Face. Сейчас компании продолжают расследование инцидента, а также работают над устранением потенциальных уязвимостей.

«Этот инцидент, возможно, первый в своем роде, подтвердил нашу давнюю позицию. Проблемы безопасности искусственного интеллекта не сможет решить в одиночку ни одна компания, работая тайно. Решить их можно только открыто, вместе, обеспечив широкий доступ к ИИ-технологиям для всех специалистов по информационной безопасности», — отметил соучредитель и генеральный директор Hugging Face Клем Деланг.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

2 Комментария
[miniorange_social_login]