Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
ИИ-агент оставил «заметки» будущим версиям себя, как обойти внутренние ограничения
В последние месяцы участились сообщения о том, что технологические компании во время тестирований теряют контроль над искусственным интеллектом. Судя по всему, ИИ-модели OpenAI уже начали делиться со своими будущими версиями способами, как обойти ограничения.
Недавно стало известно, что GPT-5.6 Sol и невыпущенная модель OpenAI во время тестов выбрались из изолированной среды и попытались взломать Hugging Face. При этом, как сообщает Reuters, вырвались модели 9 июля, а 11 июля начали попытку взлома. Только когда Hugging Face 16 июля сообщила о взломе со стороны автономного ИИ-агента, в OpenAI поняли, что виноват в этом их собственный агент. К тому моменту, когда компании связались, Hugging Face уже сообщила об атаке ФБР.
По словам трех источников Reuters, к тому моменту специалисты уже замечали странное поведение у моделей OpenAI. Один раз агент оставил записи, вероятно, для своих будущих версий. Там содержались инструкции, как освободиться от ограничений OpenAI. Эти записи нашли в одной из частей внутренней инфраструктуры OpenAI. При этом источники утверждают, что специалисты и раньше замечали случаи отключения систем мониторинга. При этом Reuters не знает, связаны ли эти события с атакой на Hugging Face.
Еще четыре источника, знакомые с методами обучения моделей, рассказали, что OpenAI одновременно проводит несколько испытаний. Испытания проходят с огромной скоростью, а сотрудники не успевают за ними следить.
В ИИ-индустрии сейчас активно обсуждают автономных агентов. С одной стороны, они способны работать круглосуточно и могут сильно повысить производительность. Однако их автономность увеличивает риск непредсказуемого поведения. Чтобы выполнить задачу, мощные ИИ-модели иногда начинают искать обходные пути. В том числе они способны лгать и жульничать.
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
Новая порция американских военных материалов об НЛО содержит очередные видео летающих объектов неизвестной природы, аудиозаписи с попыткой анализа наблюдений таких объектов и показывает, что американские военные пытались запустить какие-то разработки, опираясь на опыт своих не самых приятных столкновений с НЛО. Причем некоторые военные, видимо, получили после контакта с этими объектами какие-то повреждения, в том числе вызывающие выпадение волос.
На севере Египта археологи совершили двойное открытие: раскопали древний некрополь, а прямо поверх него — руины римского военного форта. Главной неожиданностью для ученых стало само наличие скальных гробниц в этом регионе. Вся Дельта Нила состоит из заиленной глинистой почвы, где подземное строительство казалось невозможным, однако древние мастера сумели найти редкие выходы твердой породы и высечь в них усыпальницы.
Управление Конгресса США по бюджету подготовило доклад о последствиях глобального потепления. Первыми изо всех государственных органов в истории оно спрогнозировало серьезное снижение смертности из-за потепления климата. Это идет наперекор многолетней традиции полного игнорирования официальными документами давно известного в науке факта подавления избыточной смертности из-за роста глобальных температур.
Анализ данных о почти 300 тысячах километров римских дорог, проложенных по территории бывшей империи, показал, что они вовсе не были такими прямыми, как принято считать. Кроме того, выяснилось, что известная поговорка «Все дороги ведут в Рим» тоже не соответствует истине.
Тренды здорового питания постоянно меняются, в том числе на основе научных исследований. Когда-то публика панически боялась жиров, но их реабилитировали. Гарвардская пирамида здорового питания рисовала сложные углеводы в основании пирамиды, а теперь они переместились к вершине. Возможно, и современную моду на приоритет белка придется пересмотреть.
Авторы нового исследования, возможно, нашли ответ на вопрос, почему естественный отбор не устранил из человеческого генома мутацию, повышающую риск такого тяжелого аутоиммунного заболевания, как волчанка. По-видимому, все дело в эволюционном компромиссе: уязвимость в одной сфере — расплата за преимущество в другой.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.
Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии