• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

ИИ от OpenAI вырвался из защищенной тестовой среды и взломал компанию

OpenAI проводила внутренние тестирования моделей на способность к кибератакам.

Модели смогли выйти из внутренней среды и попытались взломать платформу для исследований в области ИИ Hugging Face.

Кадр из фильма «Я, робот» / © Twentieth Century Fox
Кадр из фильма «Я, робот» / © Twentieth Century Fox

Компания проверяла модели GPT-5.6 Sol и более мощную, пока не выпущенную версию. Защитные ограничения OpenAI на время отключила. 

Тогда модели вырвались из изолированной среды, а затем смогли получить доступ в интернет. Следом они атаковали инфраструктуру Hugging Face. Модели фактически решили сжульничать и украсть ответы, которые помогли бы им успешно пройти проверку.

Модели использовали в том числе украденные учетные данные, а также уязвимости в инфраструктуре OpenAI и Hugging Face. Однако активность обнаружили и остановили специалисты Hugging Face. Сейчас компании продолжают расследование инцидента, а также работают над устранением потенциальных уязвимостей.

«Этот инцидент, возможно, первый в своем роде, подтвердил нашу давнюю позицию. Проблемы безопасности искусственного интеллекта не сможет решить в одиночку ни одна компания, работая тайно. Решить их можно только открыто, вместе, обеспечив широкий доступ к ИИ-технологиям для всех специалистов по информационной безопасности», — отметил соучредитель и генеральный директор Hugging Face Клем Деланг.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

2 Комментария
Сергей Механик
2 недели назад
Генезис — это Скайнет. ☝🤖
Артём Шарыгин
2 недели назад
Американцы часто нагнетают об угрозе ИИ, видимо, таким образом хотят взять под свой контроль его развитие в мире (его развитие другими странами). Лиж бы их постановки с этой угрозой не зашли слишком далеко, не то совсем обнаглеют.
Предстоящие мероприятия
7 августа, 08:30
Александр Березин

Авторы новой работы утверждают, что общий предок всего живого (LUCA) по сути не был свободноживущим организмом. А его потомки, чтобы стать такими, пошли двумя принципиально разными путями, образовав две принципиально разные группы существ.

6 августа, 15:15
Максим Абдулаев

Палеонтологи из Германии и Австралии предположили, что одной из причин кембрийского взрыва стало появление плотного кала во время эволюции. В отличие от растворенной органики, фекалии быстро тонули, доставляя питательные вещества в глубоководные зоны. Эта линия доставки породила копрофагию (поедание экскрементов) и создала новые экологические ниши на глубине древних морей. Это и запустило цепную реакцию, известную как кембрийский взрыв.

5 августа, 13:11
Илья Гриднев

Исследователи объяснили, почему комары кусают людей с разной частотой. Оказалось, что не существует «универсально вкусных» людей — предпочтения зависят от вида комара. Каждый вид привлекают уникальные наборы запахов и кожных микробов.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

4 августа, 12:03
Александр Березин

Остров Пекан недалеко от Мексиканского залива в Луизиане вскоре перейдет в собственность компании Илона Маска. Здесь будет новый космодром для Starship, почти в 20 раз больше, чем в Бока-Чике, где уже стоят две стартовых площадки. Уникальное местоположение позволит компании попытаться реализовать амбициозную цель о запуске миллиона низкоорбитальных спутников на орбиты, где сегодня находится подавляющее меньшинство спутников Земли.

5 августа, 10:09
Александр Березин

Хотя тротиловый эквивалент взрыва от удара был умеренным, всего несколько тонн, благодаря рыхлости лунного грунта низких широт он может поднять до 400 тонн пыли. Она способна образовать облако высотой в десятки километров. Астрономы надеются провести наблюдения этого события и, возможно, зафиксировать какие-то особенности выброшенного лунного материала.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

[miniorange_social_login]