Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
ИИ-агент случайно удалил всю базу данных компании. На это он потратил всего 9 секунд
ИИ агент на базе Claude удалил всю базу данных компании PocketOS за 9 секунд. Из-за сбоя исчезли данные пользователей за несколько месяцев, важные для самой компании и ее клиентов.
PocketOS — онлайн-сервис для компаний по аренде автомобилей. Компания использовала ИИ-агента Cursor, работающего на модели Claude Opus 4.6 от Anthropic. Также компания пользовалась услугами облачного провайдера Railway. Основатель PocketOS Джер Крейн считает, что именно это сочетание технологий привело к потере данных.
ИИ-агента запустили для выполнения рутинной задачи в тестовой среде. Столкнувшись с препятствием, ИИ-агент решил исправить проблему, удалив том Railway. Там хранилась не только база данных компании, но и резервные копии. На все ушло 9 секунд.
Крейн отметил, что ИИ-агент «понимал», что нарушил правила: сделал предположение вместо проверки, удалил все без запроса, а также не изучил документацию Railway.
Крейн считает, что в произошедшем есть вина и Railway. Он пояснил, что API позволяет выполнять уничтожение данных без подтверждения. Резервные копии хранятся на том же томе, что и основные данные. Если удаляется том, то вместе с ним исчезают и все копии.
Крейн пояснил, что Railway продвигает использование ИИ-агентов среди клиентов. Таким образом, использование Cursor в их инфраструктуре — случай не уникальный.
PocketOS повезло. У них была резервная копия трехмесячной давности. В итоге компания потеряла данные лишь за последний период. Сейчас Крейн вручную помогает клиентам восстанавливать данные, используя истории платежей, календари и подтверждения по электронной почте.
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
Совместная миссия Европейского космического агентства (ESA) и Японского агентства аэрокосмических исследований (JAXA) по исследованию Меркурия началась в 2018 году. На видео, созданном из кадров с бортовых камер, можно проследить восьмилетний путь зонда BepiColombo.
Тренды здорового питания постоянно меняются, в том числе на основе научных исследований. Когда-то публика панически боялась жиров, но их реабилитировали. Гарвардская пирамида здорового питания рисовала сложные углеводы в основании пирамиды, а теперь они переместились к вершине. Возможно, и современную моду на приоритет белка придется пересмотреть.
Оценив, смогут ли запасы водяного льда на Луне обеспечить будущие города с населением от сотен тысяч до миллиона человек, ученые выяснили, что даже при весьма оптимистичных условиях у заселения нашего спутника есть серьезные ограничения.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
Совместная миссия Европейского космического агентства (ESA) и Японского агентства аэрокосмических исследований (JAXA) по исследованию Меркурия началась в 2018 году. На видео, созданном из кадров с бортовых камер, можно проследить восьмилетний путь зонда BepiColombo.
Современная космология до недавнего времени опиралась на так называемый космологический принцип, по которому у Вселенной нет какого-то выделенного направления. И наблюдатель в любой ее точке должен видеть однородную в этом смысле картину. Астроном из Северокавказской астрофизической обсерватории показал, что это не так даже для очень древней Вселенной.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.
После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии