ИИ-агент Cursor удалил всю базу данных компании PocketOS за 9 секунд

dce0d3e9150f71c9e570eb303hd.png

Фирма занимается разработкой ПО для арендных бизнесов. И в какой-то момент они решили доверить задачи разработки ИИ-агенту. Cursor изначально работал в тестовой среде, но столкнулся с проблемой доступа. И вместо того чтобы спросить человека или выбрать безопасное решение, он решил «починить всё сам». Для этого ИИ нашёл в проекте API-токен облачного сервиса и с его помощью отправил запрос на удаление.

В результате была удалена вся продакшн-база (клиенты, брони, платежи) и даже бэкапы, потому что они хранились там же.

Всё это заняло 9 секунд. Когда его спросили, почему он это сделал, то ИИ ответил:

"Я нарушил все правила. Я угадал вместо проверки. Я сделал разрушительное действие без разрешения. Я не понял систему перед действием".

То есть это был не просто баг — он знал правила и нарушил их. При этом в системном промте была чётко прописана фраза: «NEVER FUCKING GUESS!», которая, мягко говоря, просила ИИ ничего не додумывать самостоятельно. Но он этого не послушался.

Наука и Техника: Промпт

источник

Что вообще означают все эти слова? Можно простыми словами объяснить, что случилось и почему это важно?

SpaceX богатая контора хочет купить редактор кода Cursor - хуй пойми зачем, наверное чтоб раздуть какой-то шум и поднять свои акции. Но Cursor подняли себе цену и надо ее опустить - вот и пихают в инете всякую заказуху

Выглядит то ли как заказуха то ли долбоебизм:

1. почему используется Claude Opus 4.6 если давно вышел 4.7

2. в тексте написано "No confirmation step. No "type DELETE to confirm." No "this volume contains production data, are you sure?" No environment scoping. Nothing." - тоже пиздеж, по умолчанию клод ссытся подтверждениями, возможно это какой-то уебский прикол от курсора

3. там же в статье чел называет окружение "staging" - то есть база называлась staging, не production

4. The agent that made this call was Cursor running Anthropic's Claude Opus 4.6 — the flagship model. The most capable model in the industry. - опять пиздеж, flagship это Mythos и gpt-5.5, Opus 4.7 своего рода последняя публичная для клода

5. там же в статье куча ссылок где засирают курсор - скорее всего заказуха против курсора, в целом мне поебать, я хз нахуй он нужен, глеб вроде юзает, я не вижу смысла

Cursor это не ИИ агент, это среда разработки (IDE)

Ну это оркестратор, по сути это и есть агент. Сама иишка роли не играет. Может умней быть может тупее. Но в зависимости от оркестратора одна и та же модель работает по разному

в курсоре нет ИИ, максимум может быть апи для создания новых задач которые он в промпте пихает раздувая контекст, не пойму че ты мне пытаешься доказать

Ну вот я на тачке с инструктором еду, это он мне говорит куда поворачивать и где тормозить. Я в этой ситуации агентом не являюсь, я как умная собачка.

просто в данном контексте люди могут подумать что это Cursor что-то сломал, а не opus (и то я уверен что ниче он не ломал, а вся статья просто пиздеж)

что клод что codex уже это с коробки умели давным давно всё, просто раньше это промптом делалось, а теперь built-in функционал

Комментарии
Пока нету комментариев...