• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

ИИ от OpenAI вырвался из защищенной тестовой среды и взломал компанию

OpenAI проводила внутренние тестирования моделей на способность к кибератакам.

Модели смогли выйти из внутренней среды и попытались взломать платформу для исследований в области ИИ Hugging Face.

Кадр из фильма «Я, робот» / © Twentieth Century Fox
Кадр из фильма «Я, робот» / © Twentieth Century Fox

Компания проверяла модели GPT-5.6 Sol и более мощную, пока не выпущенную версию. Защитные ограничения OpenAI на время отключила. 

Тогда модели вырвались из изолированной среды, а затем смогли получить доступ в интернет. Следом они атаковали инфраструктуру Hugging Face. Модели фактически решили сжульничать и украсть ответы, которые помогли бы им успешно пройти проверку.

Модели использовали в том числе украденные учетные данные, а также уязвимости в инфраструктуре OpenAI и Hugging Face. Однако активность обнаружили и остановили специалисты Hugging Face. Сейчас компании продолжают расследование инцидента, а также работают над устранением потенциальных уязвимостей.

«Этот инцидент, возможно, первый в своем роде, подтвердил нашу давнюю позицию. Проблемы безопасности искусственного интеллекта не сможет решить в одиночку ни одна компания, работая тайно. Решить их можно только открыто, вместе, обеспечив широкий доступ к ИИ-технологиям для всех специалистов по информационной безопасности», — отметил соучредитель и генеральный директор Hugging Face Клем Деланг.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

2 Комментария
Сергей Механик
3 часа назад
Генезис — это Скайнет. ☝🤖
Артём Шарыгин
3 часа назад
Американцы часто нагнетают об угрозе ИИ, видимо, таким образом хотят взять под свой контроль его развитие в мире (его развитие другими странами). Лиж бы их постановки с этой угрозой не зашли слишком далеко, не то совсем обнаглеют.
Предстоящие мероприятия
20 июля, 14:11
Татьяна Зайцева

В позднеантичном Риме императорским указом мужчинам запретили носить длинные волосы. Автор нового исследования пришел к выводу, что введение этого запрета объяснялось необходимостью сохранения римской идентичности в условиях усиливающегося распада империи и нарастающего торжества варваров.

22 июля, 06:33
Мария Азарова

Популярные пестициды могут помогать клещам захватывать новые территории с более суровым климатом. Как выяснили американские ученые, воздействие сублетальных доз двух акарицидов повышает устойчивость этих паразитов к холоду и их шансы пережить зиму.

22 июля, 08:00
Evgenia Vavilova

Человеческий организм чрезвычайно сложен, и некоторые открытия о нем ученые совершают случайно. Так случилось с лекарством от стенокардии, которое стало виагрой. Специалисты обратили внимание на механизм его работы еще раз и нашли новое потенциальное использование.

19 июля, 20:09
Александр Березин

Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?

20 июля, 14:11
Татьяна Зайцева

В позднеантичном Риме императорским указом мужчинам запретили носить длинные волосы. Автор нового исследования пришел к выводу, что введение этого запрета объяснялось необходимостью сохранения римской идентичности в условиях усиливающегося распада империи и нарастающего торжества варваров.

20 июля, 11:30
Игорь Байдов

Авторы нового исследования выяснили, что жители каменного века начали целенаправленно менять окружающую среду в южной части Норвегии задолго до появления земледелия. Приблизительно 7000 лет назад они переселили рыбу в одно из горных озер и таким образом создали новый источник пищи, а затем построили сложную систему ловушек, которая прослужила не одно столетие.

25 июня, 16:20
Любовь С.

Вселенная может оказаться «замкнутой» глобальной структурой, где свет от далеких галактик способен возвращаться к наблюдателю с разных направлений. Именно такой сценарий не удалось исключить авторам нового масштабного обзора. Проверить его предсказания астрономы смогут уже в ближайшие годы.

25 июня, 15:09
Марк Чернов

Ученые впервые на молекулярном уровне доказали, что обычная вода одновременно состоит из двух разных жидких состояний — более плотного и менее плотного, которые непрерывно сменяют друг друга. Раз молекулярная «двойственность» действительно существует, это подтверждает спорную 30-летнюю гипотезу. Новое открытие поможет, наконец, объяснить десятки «странных» физических аномалий воды, включая ее расширение при замерзании и парадоксальное изменение вязкости под давлением.

9 июля, 13:06
Редакция Naked Science

Видеосервисы стали неотъемлемой частью жизни россиян. В 2026 году охваты большинства платформ продолжают расти, в том числе YouTube.

[miniorange_social_login]