Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

1,6 тыс

ИИ-агент случайно удалил всю базу данных компании. На это он потратил всего 9 секунд

ИИ агент на базе Claude удалил всю базу данных компании PocketOS за 9 секунд. Из-за сбоя исчезли данные пользователей за несколько месяцев, важные для самой компании и ее клиентов.

© Tom's Hardware
© Tom’s Hardware

PocketOS — онлайн-сервис для компаний по аренде автомобилей. Компания использовала ИИ-агента Cursor, работающего на модели Claude Opus 4.6 от Anthropic. Также компания пользовалась услугами облачного провайдера Railway. Основатель PocketOS Джер Крейн считает, что именно это сочетание технологий привело к потере данных. 

ИИ-агента запустили для выполнения рутинной задачи в тестовой среде. Столкнувшись с препятствием, ИИ-агент решил исправить проблему, удалив том Railway. Там хранилась не только база данных компании, но и резервные копии. На все ушло 9 секунд.

Крейн отметил, что ИИ-агент «понимал», что нарушил правила: сделал предположение вместо проверки, удалил все без запроса, а также не изучил документацию Railway.

Крейн считает, что в произошедшем есть вина и Railway. Он пояснил, что API позволяет выполнять уничтожение данных без подтверждения. Резервные копии хранятся на том же томе, что и основные данные. Если удаляется том, то вместе с ним исчезают и все копии. 

Крейн пояснил, что Railway продвигает использование ИИ-агентов среди клиентов. Таким образом, использование Cursor в их инфраструктуре — случай не уникальный.

PocketOS повезло. У них была резервная копия трехмесячной давности. В итоге компания потеряла данные лишь за последний период. Сейчас Крейн вручную помогает клиентам восстанавливать данные, используя истории платежей, календари и подтверждения по электронной почте.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

1 Комментарий
Предстоящие мероприятия
[miniorange_social_login]