AI時代の凡事徹底～真夏の夜のセキュリティ～

2026年7月31日 VS AI ― 攻撃するAIから守るプロダクトセキュリティ登壇資料です
https://forkwell.connpass.com/event/399251/

Transcript

2. 自己紹介 野溝のみぞう 合同会社SecuLeap 代表 趣味でセキュリティをやっている者です。 普段はセキュリティコンサルや本を書いたり登壇したりしてい ます。犬と謎解きが好き。 「7日間でハッキングをはじめる本」著者 2
3. 今日伝えたいこと なんでもないような当たり前のことを徹底的に行うこと ぼんじてってい 凡事徹底 新規性のない話をします webilio辞書：凡事徹底 https://www.weblio.jp/content/%E5%87%A1%E4%BA%8B%E5%BE%B9%E5%BA%95 3
4. vs AIで最近色んな事いわれてる 正直もうお腹いっぱいです サイバー攻撃最速27秒、AIが『弱点』突き速度3倍 社内にも潜む脅威(2026/7/19) https://www.nikkei.com/article/DGXZQOUE084MP0Y6A600C2000000/ 中国ハッカー集団、AIで自動サイバー攻撃 米社技術利用、作業8～9割をAIが実行(2025/11/15) https://www.nikkei.com/article/DGXZQOGN14DFX0U5A111C2000000/ サイバー攻撃、生成AIは自律的な『実行主体』に 米グーグル報告書(2026/5/11) https://www.asahi.com/articles/ASV5C2DYDV5CSFVU10ZM.html 4
5. vs AI（セキュリティ編）にも色んな立場があると思うので前提整理したい AIサービスを使う人 脆弱性診断やペネトレーションテストなどにAIを利用する人 AI利用者 （AIを使った）攻撃から（AIを使って）会社やビジネスを守りたい人 システム開発で安全にAIを使いたい人 ↑今日はこの2つの領域の方向けの話をしています AI事業者 AIサービスを作る人 AI開発者 AIそのものを開発する人 分類の出典→総務省 経済産業省：AI事業者ガイドライン（第1.2版）（2026/3/31） https://www.soumu.go.jp/main_content/001064279.pdf 5
6. ①AIを使った攻撃から守る人
7. 守る側の動きの例 Project YATA-Shield→「フロンティア AI による脅威変化を踏まえた金融機関等の短期的な対応」 に係る要請について 優先的に対応すべきサービス／ITシステム を能動的に停止させざるを得ない場合につ いても、経営トップはあらかじめ選択肢と して検討しておくべき 金融庁：「フロンティアAIによる脅威変化を踏まえた金融機関等の短期的な対応」に係る要請について(2026/5/22) https://www.fsa.go.jp/news/r7/sonota/20260522-5/20260522.html 7
8. 何が変わるのか 直接Mythosに攻撃されるというよりも、同じような能力をもつAIやツールが広がる 攻撃者側の調査、検証スピードが上がる • 脆弱性の報告件数が増加 • 悪用までの期間短縮 • 自動化された攻撃やゼロデイのリスク増加 日経新聞：サイバー攻撃最速27秒、AIが『弱点』突き速度3倍 社内にも潜む脅威(2026/7/19) https://www.nikkei.com/article/DGXZQOUE084MP0Y6A600C2000000/ 8
9. 攻撃側の視点でみると AIが既に自動化されている初期侵入フェーズを大規模化・効率化する点よりも、 従来は人的な熟練度に依存していた侵入後の横展開等の攻撃フェーズを大規模化しうる • • • • • 侵入済みの環境から認証情報を収 集する 取得した認証情報でどのサーバー やサービスに入れるかを調べる それぞれの権限とアクセス範囲を 整理する 利用可能な認証情報を使って別の 端末・サーバーへ移る さらに強い権限や、重要データへ の経路を探す 観察→仮説→試行→結果の解釈ができるようになってきた 「この端末は管理用かもしれない」 「このアカウントなら別のサーバーへ進めそう」 「この操作は監視に引っかかりやすいので別ルートにしよう」とかとか →作業の記録や他の担当者への引継ぎ NIDS防衛研究所：高度なサイバー攻撃キャンペーンにおけるAI悪用によるスケール化のインパクトと対策(2026/5/19) https://www.nids.mod.go.jp/publication/commentary/commentary434.html 9
10. 凡事徹底な考え方 1. 守る対象を知っておくこと 2. 判断を早くすること 3. 広がらないようにすること 4. 訓練をしておくこと 10
11. 守る対象を知っておくこと 知らないものは守れない ASM 資産管理 (Attack Surface Management) • 公式ドメイン • グローバルIP • 会社名、旧社名、ブランド名 • 証明書透明性ログ（CTログ） • DNS情報 • 検索サービス（Shodan/Censys等） • ハードウェア資産（所有者・設 置場所・稼働状況など） • どのサービスに誰のアカウントが あるか • ソフトウェア資産（OS・アプ リ・ライブラリ/バージョン/ライ センスなど） • 誰が管理者権限を持っているか • 入社・異動・退職時の発行、権限 変更、停止 • MFAやSSOを必須にする仕組み • APIキー・秘密鍵の発行ルールと保 管場所 • 漏えい時に失効・再発行できる責 任者と手順 • 共有アカウントや放置アカウント の棚卸し • • など 認証情報 SaaS・クラウドサービス台帳 （サービス名・管理者・扱う情 報・認証情報・外部共有・利用 状況など） 情報資産台帳（情報の種類/何に 使うか/管理責任者/CIA/保存先 など） など など 11
12. 判断を早くすること CVSS基本値だけではなく蓋然性を持った判断ができるようにする（SSVCなどが助けになる） ローカル 観測されていない どれくらい大事か？ （資産管理が役立つ） 脆弱性の 悪用状況 制限された ネットワーク PoC公開 非効率 低い 中程度 組織への 影響度 高い 非常に高い 悪用を観測 システムの アクセス制限 低い 公開 KEVに載っているか PoCあるか 攻撃の 有用性や効率性 効率的 組織への 影響度 高い 非常に高い インターネットに露 出しているか (ASMが役立つ) 効率性はCVSS 4.0 補足評価基準の 自動化可能性が役立つ 中程度 低い 中程度 非常に効率的 組織への 影響度 高い 非常に高い 定期メンテ時に対応 • 自組織への影響を判断して 「今すぐやる/早めにやる/計 画的にやる/様子見」を決め る • ツールではなく意思決定の枠 組み。基準を先に決めること が大事 • 運用にのったら人間が見るの も辛いのでAIに評価させる 定期メンテ時に対応 計画外で対応 すぐに対応 定期メンテ時に対応 計画外で対応 すぐに対応 すぐに対応 計画外で対応 計画外で対応 すぐに対応 すぐに対応 Carnegie Mellon University: SSVC: Stakeholder-Specific Vulnerability Categorization https://certcc.github.io/SSVC/ CISA：Known Exploited Vulnerabilities Catalog https://www.cisa.gov/known-exploited-vulnerabilities-catalog 12
13. 広がらないようにすること 事例：岡山県精神科医療センター（2024年5月） 攻撃の流れ ① 保守用SSL-VPNから侵入（5/13） ② 内部ネットワークを探索 ③ バックアップを探索・破壊 ④ 共通の管理者資格情報を窃取 ⑤ SMBの管理共有経由で水平展開 ⑥ 電子カルテなどを暗号化（5/19） 侵入から暗号化まで6日間 セグメントが分かれていた医療機器制御端末では暗号化 被害なし 電子カルテ系と医療機器系は別セグメント ※報告書も「セグメントが異なっていたためか」と推定 事後の再発防止策 ・システムごとにVLANでマイクロセグメント化 ・FWで通信制限、ログ集約、権限見直し 地方独立行政法人 岡山県精神科医療センター：ランサムウェア事案調査報告書について(2025/2/13) https://www.okayama-pmc.jp/home/consultation/er9dkox7/lromw3x9/ 13
14. 訓練をしておくこと 手順書があっても、初めての事象では動けない • 停止、復旧を「やったことがある」状態に する • 止める判断は訓練していないとできない • 能動的なサービス停止を選択肢に、という要請 ともつながる話 Hardening Project提供 • Hardening競技会：守り切ることを競う 実践型の競技イベント • 攻撃を受け続ける環境で、判断と手当てを時間 内に回す経験ができる • 今ちょうど参加者募集期間中です（10月5日～8 日/函館） Hardening Project：開催概要/募集要項 – Hardening 2026 Agentic Collapse https://wasforum.jp/hardening-project/hardening-2026-agentic-collapse/ 14
15. ②AIを使って開発をする人
16. 凡事徹底な考え方 1. ベースラインのセキュリティチェック 2.固有の脅威を洗い出してリスク分析 3.エージェントを堅牢に使う 16
17. ベースラインのセキュリティチェックの例 ASVS v5.0.0（OWASP Application Security Verification Standard） Webアプリ版のセキュリティ要求事項チェックリスト L1～L3の積み上げ式（L2はL1を含む） まず全サービスでL1、決済・個人情報を扱うところだけL2 公式でCSVが配られている＝そのままチェックリストにできる レベルと章で絞り、担当者・合否・エビデンスの列を足せば運用が回る AIにセキュリティチェックをやらせてみる 判断基準（ASVSのどの要件か）を先に渡すと精度が上がる 脆弱性診断とかと同じで確認は人間の仕事ですが…… OWASP:OWASP Application Security Verification Standard (ASVS) https://owasp.org/www-project-application-security-verification-standard/ 17
18. 固有の脅威を洗い出してリスク分析 脅威モデリング：「なにをされたら困るか」をAIと一緒にみんなで考える • ベースラインで拾えな い固有の脅威を検討す る • 企画・CS・法務など、 エンジニア以外も巻き 込めるとよい • AIと一緒にアイデア出 し • 出てきた脅威を一覧に して優先度決め ↓こういう付箋を貼っていく 誰が： ・ライバル企業から依頼された(?)攻撃者が 何が困る： ・企業レピュテーションの低下 ・攻撃元IPアドレスとして 当局の取り調べを受ける 影響度 リスク 値 大 中 小 高 S A C 中 A B D 低 C D E 発生可能性 どのように： ・放置されて残っていた過去サイトの 脆弱性を悪用し公開サーバの特権を取得し ボットネットに参加させる悪用 リスクの考え方 18
19. エージェントを堅牢に使う AIエージェントが構造的に脆くなる3つの条件：致命的三要素（Lethal Trifecta）という考え方 • エージェントも人間みたいに管理がいるのかも（認証・権限・ログ） • 実装の参考になるチートシート →Claude Code Hardening Cheatsheet（サンドボックス/パーミッション/Hooks/ログ） https://github.com/okdt/claude-code-hardening-cheatsheet 出典：Simon Willison “The lethal trifecta for AI agents: private data, untrusted content, and external communication“ https://simonwillison.net/2025/Jun/16/the-lethal-trifecta/ 画像引用元：https://note.com/kenichiro/n/na49db8fe163c 西岡賢一郎氏Note AIエージェントが「構造的に脆くなる」3つの条件— 致命的三要素（Lethal Trifecta）という考え方 19
20. まとめ
21. 今日伝えたかったこと（再掲） ぼんじてってい 凡事徹底 なんでもないような当たり前のことを徹底的に行うこと 多分結構難しい 高度な対策もあるけどまずはここから webilio辞書：凡事徹底 https://www.weblio.jp/content/%E5%87%A1%E4%BA%8B%E5%BE%B9%E5%BA%95 21
22. 今日の種明かし 真夏の夜の夢 シェイクスピア四大喜劇のひとつ AI 我ら役者は影法師 皆様方のお目がもしお気に召さずば ただ夢を見たと思ってお許しを。 AIが全てを解決してくれる ……わけでもなさそう（多分） 夢から覚めても私たちには現実が残る だからこそ凡事徹底やっていきましょう！ 新訳 夏の夜の夢 (角川文庫) https://www.amazon.co.jp/dp/4041010497 22
23. ところで人間の堅牢化の方が必要かもしれないと思い始めた AI疲れ・AIうつも深刻らしいのでみなさんご自愛ください AI疲れの正体は「意思決定コストの増大」です。手を動かす 疲れが、考え続ける疲れに置き換わった、と言ってもよいで しょう。実際、AIを使うほど人が思考を外部化し、批判的思 考や記憶保持の力が弱まりかねないという研究上の指摘も出 てきています。 過程に喜びを感じてきた人ほど、AIによってその源泉を失い、 「楽しくなくなった」と感じやすい。 「生成AIで仕事が楽に」のはずが……IT現場を蝕む“AI疲れ・AIうつ”の正体(2026/7/24) https://news.yahoo.co.jp/articles/6f4bd8ff27f4aa675f56b43b5a6a136b1d528f4d 23