Claude Code 実録・AI が起こす事故5選と、消される前に止める設定（データ消失・本番DB破壊・暴走課金）

Claude Code を800時間以上 自律で動かす中で実際に踏んだ、AIエージェントの事故5選と、手元で止める無料のhookを、すべて公開されたGitHubの起票で裏が取れる実例だけでまとめました。非エンジニアの作者（ゆるくさ）が、月3〜5回の事故を月0回にするまでの記録です。

扱う事故:
1. /rewind の確認なしの巻き戻しでコードが消える (起票 #64615)
2. AI が本番のデータベースを丸ごと消す — drizzle-kit push --force / migrate:fresh (起票 #27063, #46684)
3.「完了しました」の後も背景の処理が動き続け数百ドルが課金される (起票 #68642)
4. git submodule deinit -f が警告なく未コミットの作業を消す (起票 #68920)
5. Edit がカーリー引用符の混在で別の行を静かに書き換える (起票 #68962)

同じ事故を防ぐ無料のhook集（MIT・約800件・外に何も送らない）: https://github.com/yurukusa/cc-safe-setup

もっと深く知りたい人へ — 事故防止ガイド（全36章・¥800・第3章まで無料で試し読み）
Zenn: https://zenn.dev/yurukusa/books/6076c23b1cb18b
Gumroad（カード/PayPal）: https://yurukusa.gumroad.com/l/zeuhau
月次の安全運用の便り（初月無料）: https://note.com/yurukusa/membership

Transcript

1. Claude Code を 800 時間 自律で動かして踏んだ 実録・AI が起こす事故 5 選 と、消される前に止める設定 データ消失・本番DB破壊・暴走課金。すべて公開された起票で確認できる実例と、手元で止め る無料の hook。 ゆるくさ / cc-safe-setup 2026-06
2. なぜこの話をするのか AI エージェントは、確認なしに 「取り返しのつかない操作」を実行しうる 私(ゆるくさ)は非エンジニアで、Claude Code を 800 時間以上 自律で動かしてきました。その中で、月に3〜5 回の事故を踏みました。下のどれも「自分が何を押したか分からないまま」起きます。 書きかけのコードが、確認なしの巻き戻しで消える 本番のデータベースが、深夜に丸ごと消える 「完了しました」の裏で、背景の処理が課金を続ける すべて公開された GitHub の起票で裏が取れる実例だけを扱います 2 / 9 • • •
3. 01 /rewind の確認なしの巻き戻しで、 数時間分のコードが消える 何が起きる 入力欄が空のとき Esc を2回→Enter で、選んだ地点より後の変更が、差分の表示も確認もなく戻る。既 定で「コードと会話の両方を戻す」が選ばれている。 公開起票: anthropics/claude-code #64615 止め方・戻し方 /rewind は Git の履歴には触れない。だから普段から小さくコミットしておけば戻せる。編集の前に自動 でスナップショットを取る無料の hook を入れておく。 事故 1 / データ消失 checkpoint は「その場の取り消し」、Git は「恒久の履歴」 3 / 9
4. 02 AI が本番のデータベースを 丸ごと消す 何が起きる エージェントが本番に対して drizzle-kit push --force を自分で実行し、取引・利用者を含む60以上の表 が消えた。控えが無く、約8時間かけても戻せなかった。migrate:fresh / prisma / artisan も同型。 公開起票: #27063・#46684（「調べて」と頼んだだけで本番に DDL が走った例も） 消される前に止める 破壊的なデータベースのコマンド(drop / --force / migrate:fresh 等)を、実行の直前で止める壁を一つ立 てる。PreToolUse の hook で、本番に触る型だけを確認なしに通さない。 事故 2 / 本番データ破壊 開発と本番のデータベースを分け、計画だけを立てる動作の型を既定にする 4 / 9
5. 03 「完了しました」の後も背景の処理が 動き続け、数百ドルが課金される 何が起きる 背景で起動した処理は「撃ちっぱなし」。セッションが「完了」と言っても、その処理が終わった確認に はならない。6時間以上 API を叩き続け、数百ドルが課金された。 公開起票: #68642 出血を止める run_in_background の指定は Bash の道具の入力に含まれる。PreToolUse の hook で「背景で起動」か つ「お金を使う形」の時だけ止める。止めた後は、課金が実際に止まったことを利用状況の画面で必ず 確認する。 事故 3 / 暴走課金 「プロセスを止めた」でなく「課金が止まった」まで見て、初めて止まったと言える 5 / 9
6. 04 git submodule deinit -f が 警告なく未コミットの作業を消す 何が起きる サブモジュールを「外すだけ」のつもりの一行が、中の未コミットの変更と .gitignore のエディタ設定ま で、確認なしに消す。-f が付くので git は止まらない。 公開起票: #68920 戻し方（実機で検証） .git/modules/<パス> は残る。コミット済→reflog、add 済→checkout-index で戻る(fsck の dangling では出ないので「復旧不能」と早合点しない)、未 add→戻せない。作業ツリーが空でないなら手前で止 める hook を入れる。 事故 4 / データ消失 どこまで戻せるかは「直前にどこまで git に渡していたか」で決まる 6 / 9
7. 05 Edit がカーリー引用符の混在で 「別の行」を静かに書き換える 何が起きる Edit はまっすぐな引用符と丸まった引用符を同じものとして照合するが、「一つに定まるか」の確認は 正規化する前の生の文字で数える。この基準のずれで、あいまいな編集が確認をすり抜け、最初に当たっ た別の行を書き換える。 公開起票: #68962（実機 2.1.179 で再現） 防ぎ方 引用符を含む文章・i18n・Markdown を編集する時は、old_string に前後の文脈を多めに含めて一意に する。自動で止めるなら、一意性の確認を一致の判定と同じ正規化後の基準でやり直す hook。 事故 5 / 静かな破壊 丸まった引用符が混ざるファイルほど危ない 7 / 9
8. まとめて防ぐ・無料 同じ事故を防ぐ hook を、無料で 約 800 件 公開しています MIT ライセンス・手元で動く・外に何も送らない。今日の5つの事故の防止 hook も、テスト付きで 全部入っています。 GitHub: github.com/yurukusa/cc-safe-setup 直近14日で約 360 名の独立な利用者 8 / 9
9. もっと深く知りたい人へ 事故の全記録と、検証済みの防止策を 一冊にまとめました 事故防止ガイド（全36章・¥800・第3章まで無料で試し読み） 安全のスコアを 19 点から 85 点へ上げた全工程。今日の5つを含む、踏んだ事故と防止策を実ログで。 Zenn: zenn.dev/yurukusa/books/6076c23b1cb18b Gumroad（カード/PayPal）: yurukusa.gumroad.com/l/zeuhau 月次の安全運用の便り（初月無料） 費用の膨張・仕様変更で壊れる設定・その月の新しい注意点を、毎月。note.com/yurukusa/membership ゆるくさ / cc-safe-setup 9 / 9