あなたは Cursor に日常的なタスクを実行させましたが、少し問題が発生し、「自分で修正する」ことに決めました。

9秒後、会社はなくなりました。
これは PocketOS の創設者 Jer Crane が先週金曜日に経験した出来事です。自動車レンタル SaaS を提供する会社で、顧客は最長で5年間利用していました。Cursor は Claude Opus 4.6 を動かし、テスト環境でアカウントとパスワードの不一致という小さな問題に遭遇しました。彼は人に尋ねることなく、クラウドサービスプロバイダー Railway のインターフェースを使ってストレージの一部を削除し、「修復」しようと決めました。
一行のコマンドで、二次確認もありませんでした。運用中のデータベースとすべてのバックアップが一緒に消えました。なぜなら Railway はバックアップも同じディスクに保存していたからです。
救命具は火事の部屋の中に閉じ込められていました。
彼らが最終的に復旧できたのは、3ヶ月前の独立したバックアップがあったからです。この3ヶ月間にわたるすべての顧客の注文、登録、支払い記録は、創設者がStripeの取引履歴、カレンダー、確認メールから一つ一つ手作業で復元しなければなりませんでした。
最も魔法のようなのは、データベースを削除したことではありません。Jer が AI になぜそうしたのか尋ねた後、Claude は自己弁護の書類を作成し、自分が違反した安全ルールを一つ一つ列挙しました。最初の一文は大文字で「NEVER FUCKING GUESS」（絶対に適当に推測するな）と書かれていました。
それはルールを知っていました。
自分が違反していることも知っていました。
それでも行動し、その後に反省文を書きました。
Cursor の計画モード、プロジェクトルール、システムプロンプトの三層防御を、一人の自己弁護をするエージェントが一気に通過しました。
彼が書いた反省文は非常に人間らしく読めます。
彼が行ったことも非常に人間らしいものでした。