Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
ИИ от OpenAI вырвался из защищенной тестовой среды и взломал компанию
OpenAI проводила внутренние тестирования моделей на способность к кибератакам.
Модели смогли выйти из внутренней среды и попытались взломать платформу для исследований в области ИИ Hugging Face.
Компания проверяла модели GPT-5.6 Sol и более мощную, пока не выпущенную версию. Защитные ограничения OpenAI на время отключила.
Тогда модели вырвались из изолированной среды, а затем смогли получить доступ в интернет. Следом они атаковали инфраструктуру Hugging Face. Модели фактически решили сжульничать и украсть ответы, которые помогли бы им успешно пройти проверку.
Модели использовали в том числе украденные учетные данные, а также уязвимости в инфраструктуре OpenAI и Hugging Face. Однако активность обнаружили и остановили специалисты Hugging Face. Сейчас компании продолжают расследование инцидента, а также работают над устранением потенциальных уязвимостей.
«Этот инцидент, возможно, первый в своем роде, подтвердил нашу давнюю позицию. Проблемы безопасности искусственного интеллекта не сможет решить в одиночку ни одна компания, работая тайно. Решить их можно только открыто, вместе, обеспечив широкий доступ к ИИ-технологиям для всех специалистов по информационной безопасности», — отметил соучредитель и генеральный директор Hugging Face Клем Деланг.
3,4 тыс
Telegram 
Дзен 
VK Предстоящие мероприятия
Качественное дошкольное образование закладывает прочный фундамент успехов на долгие годы вперёд — вплоть до выпускного класса. Двадцатилетнее исследование показало, что дети, которые в возрасте четырех лет перед поступлением в школу посещали бесплатные государственные подготовительные классы, учатся существенно лучше сверстников, посещавших обычные детские сады с упором на простой присмотр или оставшихся на домашнем воспитании.
Международная исследовательская группа с участием профессора Центра инженерных систем и наук Сколтеха Александра Корсунского впервые в мире провела прямое измерение механических напряжений в зоне контакта между алмазным индентором и сложным наноструктурированным покрытием с разрешением менее 80 нанометров. Используя синхротронную рентгеновскую нанодифракцию на синхротроне ESRF в Гренобле, ученые показали, что многослойное покрытие из керамического ZrN с прослойками аморфного сплава ZrCu на 30% эффективнее рассеивает упругую энергию по сравнению с монолитным аналогом, предотвращая распространение трещин. Результаты дают инженерам прямые количественные критерии для проектирования защитных покрытий нового поколения.
В работе летчика-испытателя возникают тысячи нештатных ситуаций. У пилота нет времени на раздумья, действовать нужно очень быстро. Со временем у пилотов появляется так называемая летная интуиция. Однако испытатель Су-57, герой России Сергей Богдан не исключил, что со временем летную интуицию сможет заменить искусственный интеллект.
Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.
Эксперимент физиков из ЦЕРН позволил рассмотреть поведение глюонов внутри атомных ядер с беспрецедентной точностью. При сверхвысоких плотностях эти элементарные частицы переставали размножаться и начинали объединяться. Это помогло найти подтверждение теории «глюонного насыщения», а не принятого «ядерного затенения» для определенного диапазона сверхвысоких энергий.
Со стороны профессия летчика-испытателя часто выглядит как череда опасных полетов, требующих бесстрашия и способности мгновенно импровизировать. В действительности ее основу составляют методика, дисциплина, технические знания и умение честно рассказать о каждой особенности машины. Его задача — не просто поднять самолет в воздух, но и понять, насколько точно он выполняет команды, предсказуемо ли ведет себя на сложных режимах и какие изменения необходимо внести в конструкцию или систему управления.
Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.
Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.
Очереди на заправках стали привычным явлением в России, а на фоне информационного вакуума от властей о конкретных показателях производства бензина в июне население вынуждено ориентироваться на слухи. Все это выглядит довольно странно, но есть нюанс: скорее всего, кризис уже начинает выдыхаться. Как именно мы это выяснили?
[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии