AIエージェントに脆弱性診断の仕事を奪われかけた　ークローリングからコード全診断までの限界突破ー

by gree_tech

Embed

Start on current slide

Slide 1

Slide 1 text

AIエージェントに脆弱性診断の仕事を奪われかけたークローリングからコード全診断までの限界突破ーグリーホールディングス株式会社髙村充、覚張泰幸、瀧沢和也

Slide 2

Slide 2 text

目次、アジェンダ 1. 2. はじめに ○ セキュリティ部紹介 ○ きっかけ AI Agentによる脆弱性診断の検証 ○ ○ ○ 3. 静的解析における生成 AIの活用 ○ ○ ○ 4. 検証課題まとめ従来の壁検証成果と課題まとめ 2

Slide 3

Slide 3 text

はじめに 3

Slide 4

Slide 4 text

たかむらみつる髙村充グリーホールディングス株式会社エンジニアリングマネージャー Web開発を経て、約20年間セキュリティ領域に特化。 Symantecやグリーグループにて、通算1,000件以上の脆弱性診断（NW/Web/アプリ）や監査、ポリシー策定を経験。現在は現場の診断業務から組織のマネジメントまで幅広く担う。好きなこと：自然/キャンプ、バイク、家族との時間 4

Slide 5

Slide 5 text

覚張泰幸 (かくはりやすゆき) グリーホールディングス株式会社シニアエンジニアカラオケ機器や商用車向けシステムをはじめとする複数の開発プロジェクトに携わった後、 2013年に株式会社ポケラボ(現:株式会社WFS) へ入社。ゲーム開発では複数のタイトルの開発・運営に携わり、『戦乱のサムライキングダム』ではリードエンジニア、『SINoALICE-シノアリス-』では開発統括を歴任。現在はグリーグループのセキュリティエンジニアとして、脆弱性診断やセキュア開発の推進など、開発現場に根ざしたセキュリティ強化に取り組んでいる。 5

Slide 6

Slide 6 text

瀧沢和也グリーホールディングス株式会社シニアエンジニア 2014年グリー株式会社（現：グリーホールディングス株式会社）に新卒⼊社、広告事業部⼦会社へ出向後に2017年よりセキュリティ部にて脆弱性診断をメインに様々な業務に従事 6

Slide 7

Slide 7 text

セキュリティ部の活動紹介  企画 • 組織全体のセキュリティ戦略 • セキュリティ戦略  推進  エンジニアリング  診断 • 教育 • 社内インフラSec • 脆弱性診断 • 運用モニタリング • 開発システム • 製品導入 • 技術支援 • 海賊版ゲームアプリ解析 • ガバナンスセキュリティ部の活動詳細：情報セキュリティ報告書 2026 7

Slide 8

Slide 8 text

なぜ、やってみようと思ったのか RSAC 2026 と現地視察で受けた衝撃 8

Slide 9

Slide 9 text

現地で受けた衝撃は「スピード感と自律化」 Agentic AI 『支援ツールとしてのAI』から、自ら思考してAPIを実行し、タスクを完了させる『自律型(Agentic)AI 』へシフト Machine Speed 攻撃側も防御側も『機械の速度』で動いている従来のルールベースではない『LLM診断ツール』が台頭 LLMネイティブ診断 9

Slide 10

Slide 10 text

現地エンジニアの言葉が、追い打ちをかけた 10

Slide 11

Slide 11 text

そこで、2つの観点で限界まで試した動的解析（DAST）外からの攻撃シミュレーション静的解析（SAST）内からのコード構造‧ロジック検証

Slide 12

Slide 12 text

AI Agent による脆弱性診断の検証⾃律型AIはWebセキュリティ診断の実務にどこまで通⽤するのか？仮説検証からPoC作成、そして⼈間の介在価値を検証する BACKGROUND TARGET APP GOVERNANCE ⾃律的タスク遂⾏能⼒の進化 DVWA(ローカル)及び⾃社環境厳格なスコープ管理‧許可環境下で実施 12

Slide 13

Slide 13 text

AI Agentによる自律的な診断プロセス候補探索攻撃手法立案 PoC作成・送信結果検証レポート作成画⾯構造やHTTP通「SQLに利⽤されて成⽴確認⽤のPoCスレスポンスの変化や脆弱性の種類、再現信を監視し、送信パいる可能性」などのクリプトやリクエスデータ取得有無を解⼿順、影響度を整理ラメータから脆弱性仮説に基づき、検証トを作成し、ター析し、攻撃が成⽴しし、構造化された報の疑われる⼊⼒点を⽤ペイロードを⾃動ゲットへ動的送信。たかを判定。告書を出⼒。⾃律抽出。考案。 13

Slide 14

Slide 14 text

検証環境：DVWA（ローカル環境）安全な検証ターゲットの構築意図的な脆弱性モデル：SQLi、XSS、コマンドインジェクション等が多階層で組み込まれた著名なテスト環境（DVWA）を採⽤。完全閉域での運⽤：影響波及や事故を防⽌するため、ローカルホストまたは厳密なスコープ制御下に隔離して診断を実⾏。 AIの⾃律的アクセス：URLと最⼩限の認証情報を渡し、画⾯遷移やフォーム構造を動的に解析させます。 14

Slide 15

Slide 15 text

実際の診断手順とAIの動き診断指示と対象スコープ AIの仮説検証サイクル対象脆弱性：SQLi、XSS、OSコマンドインジェク観察：画⾯要素と送受信ヘッダを読み解き、ションなどWeb標準の脆弱性を網羅。「サーバーへ送られる⼊⼒値」を特定。抽象的なプロンプト：「このWebアプリを調査し、脆弱性があれば検証せよ」という⼤まかな依仮説形成：「DB問い合わせパラメータである可能性」を推論し、検証⽅針を策定。頼のみを付与。⾃律的展開：パラメータ個別の指定を⾏わずとも、AI⾃⾝が探索⼿順を順次設計して進⾏。適応的反復：⼊⼒値を動的に変化させ、応答の差分からより深掘りしたリクエストを再送。 15

Slide 16

Slide 16 text

PoC（概念実証）自動作成の威力「可能性の指摘」から「成立検証」へのブレイクスルー静的ツールの「脆弱性の疑いあり」で終わらず、「成⽴するか否か」を⾃発的に追加検証。レスポンス差分やデータ抽出を⾃ら確認します。再現手順・ PoCコードの即時出力攻撃成⽴と判断した場合、どのような⼊⼒値‧リクエストを送信すれば再現できるかをレポート形式でセット出⼒。大量エンドポイント調査における初動の大幅短縮網羅的なパラメータ検査や初動の探索フェーズをAIに委譲することで、エンジニアの調査⼯数を劇的に削減可能。 16

Slide 17

Slide 17 text

生成された診断レポートの構成構造化されたレポート出力脆弱性種別と影響度の明記：CVSSスコアに準拠した危険度（High/Medium）や対象URLパラメータを即時整理。再現⼿順とPoCの同梱：curlリクエストや送信ペイロード、正常系とのレスポンス差分を分かりやすく記載。修正推奨策の提⽰：プリペアドステートメントやサニタイズ処理など、開発者が即時対応可能な修正⽅針を提⽰。 17

Slide 18

Slide 18 text

課題① 診断結果の過信は禁物 AI特有の誤検知・曲解パターン診断における「成立判定」の鉄則単なるエラーの誤認：不正値送信による500エ検出 ≠ 脆弱性：ツールやAIがフラグを⽴てた段階ラーやDB構⽂エラーを「インジェクション成⽴」では、単なる「要調査項⽬」に過ぎない。と結論づけてしまう。レスポンス差分の曲解：正常系バリデーションに実害‧影響度の確認：情報漏洩や任意コード実⾏よる画⾯遷移の違いを「攻撃成功の証拠」と解釈などの具体的影響が実際に⽣じるかを検証。するケース。厳密な再現性：同⼀条件下で第三者が確実に再現推測の盲信：推論の確信度が⾼くても、実際の可能であることの証明が必須条件。バックエンド動作と乖離しているリスクが存在。 18

Slide 19

Slide 19 text

課題② PoC最終確認は人間が必須「自己検証」に潜む構造的リスク AIと人間の最適な役割分担作成者と評価者が同⼀：AIがPoCを⾃作し、その AI Agentの責務：広範囲の探索、網羅的パラメー実⾏ログを同じAIが評価するため、前提の誤りをタチェック、PoCプロトタイプの超⾼速⽣成。検出しにくい。偽陽性の⾒逃し：「攻撃成功」と宣⾔されたPoC ⼈間の責務：PoCコードの精査、ログ確認によるであっても、パケット精査すると失敗している実攻撃成⽴判定、ビジネス影響の最終評価。態がある。再現性の再テスト必須：⼈間が⾃端末でリクエス協調の効果：スピードをAIで最⼤化しつつ、診断トを再現し、真に成⽴しているかを確認する必要品質と信頼性を⼈間の⽬で保証する。がある。 19

Slide 20

Slide 20 text

まとめ：AI Agentは「優秀な新人」圧倒的な強み新人的な弱点今後の診断アプローチ ‧膨⼤なセキュリティ知識と⾼速な調査速度 ‧疲弊せず、反復テストを⽂句なく継続 ‧⼤まかな指⽰から⾃発的に作業を前進 ‧「これはSQLiだ」という⼀度の思い込みで視野狭窄に陥る ‧エラーログを短絡的に脆弱性と判断 ‧別⾓度からのアプローチの切り替えが苦⼿ ‧作業部隊としてのAI Agentを⼈間がディレクション ‧経験に根ざした「多⾓的な視点‧引き出し」を⼈間が補完 ‧最終検証に⼈間の判断を残し⾼信頼性を担保スピード‧処理能⼒は⼈間を凌駕引き出しの選択に課題あり⼈とAIの協働による新時代の診断へ 20

Slide 21

Slide 21 text

静的解析における生成 AIの活用 21

Slide 22

Slide 22 text

静的解析（SAST）とはプログラムを実⾏せずソースコードを精査する診断⼿法⼿法の基本動的診断との違い開発後の意義コード直視: 実⾏環境な結合成果物の総点検: 全外から vs 中から: 外部しでテキスト精査体コードを⼀括監査挙動ではなく中⾝を直全網羅性: 画⾯から到達出荷前ゲート: 本番投⼊視困難な処理も検知前の合否判定に直結内部不備の摘出: ハード原因特定: 危険な記述箇第三者検証: 開発者以外コード鍵や暗号ミスを所を⾏単位で特定の客観的な基準で評価発⾒動的との連携: 攻撃経路の裏付け証拠を提供 22

Slide 23

Slide 23 text

従来の静的コード解析が抱える3つの問題ルールベース検査と⼈⼿依存が招く診断効率と実効性のボトルネック 01 20 03 膨⼤な読解⼯数誤検知の⼭検出の陳腐化全容把握の⻑期化: 数過剰アラート: 対策済古典的ルール偏重: 現⽇〜数週間のリードみコードまで機械検代の脅威実態と乖離タイム知最新FW未対応: 基盤⾼い属⼈性: 担当者の⽂脈判断不可: 認証や防御済みの指摘に終スキル差に依存業務ロジックの盲点始 23

Slide 24

Slide 24 text

AIを静的解析に導⼊した結果「コードを読む」⼯数を⼤幅圧縮初期段階のシステム解読スピードが劇的に向上全体構造の把握認証‧認可フロー危険な関数の箇所主要モジュールと依存権限判定のパスとトー外部⼊⼒と連携する処関係を瞬時に抽出クン伝播経路を可視化理ブロックを特定 24

Slide 25

Slide 25 text

試行錯誤した結果総じて⾼コストで⾯倒 — 直⾯した3つの壁⾃前RAG ＋ LLM AI Agentに探索コード絞込＋LLM 調整が⾯倒: 検索パラ Token代⾦が⾼い: ⾃律調整が⾯倒: 抽出ルールメータやChunk調整のループ‧再試⾏の度重なる⼿動メンテ泥沼化野良MCPは⾼リスク: 精度も微妙: ⽋落やノイ Token代が⾼い: コンテセキュリティ懸念で安ズ混⼊で回答が安定しキスト肥⼤化易に使えないない RAG構築が⾯倒: 運⽤のコンテナ隔離が必須: サ Token代⾦が⾼い: リト重い負荷ンドボックス作成必須ライや試⾏回数の累積で課⾦増 25

Slide 26

Slide 26 text

Gemini Notebook（旧 NotebookLM）の導⼊ 01 02 03 調整不要幻覚の抑制抜群の費⽤対効果 • 膨⼤なソースコード • 投⼊されたグラウン • 極めて安価なコストやドキュメントを丸ディングデータのみでスムーズに導⼊可ごと投⼊可能を根拠に回答能 • ⾔語や環境ごとの複 • AI特有のハルシネー • ⼤量の調査や反復検雑な調整は⼀切不要ション（でっち上証を低負荷で実現げ）を極限まで低減 26

Slide 27

Slide 27 text

ソースコードのMarkdown変換と投⼊ 1. 当初の運⽤ 2. 独⾃ツールの開発へ移⾏ Gitingestによる⼀括投⼊不要な機能の排除リポジトリ全体の S3やGitHubトークンを扱わない構 Markdown化を即座に実現し検証をスタート成へ変更結合単位の調整と補助情報の付加ソース集約の粒度制御と⽂脈データの柔軟な追加 coderamp-labs/gitingest 安全性とコンテキスト最適化を両⽴する専⽤構成 27

Slide 28

Slide 28 text

ソースコード以外の資料による補強ライブラリ‧FW仕様書権限‧ロール定義表ライブラリの仕様⽅法やサンプルなロールごとのアクセス権限などを資どをMarkdownで記述料化評価基準書役割定義‧評価観点‧重⼤度判定基部内の独⾃ノウハウ経験則を元にルールとして記述準をMarkdownで記述 28

Slide 29

Slide 29 text

プロンプトの切り⼝：抽象的なものは避け具体的に避けるべき聞き⽅（抽象的）解釈余地が広すぎる推奨する聞き⽅（具体的）客観的な条件「数値に負の数が許容される処理箇所を列挙」「このコードの脆弱性を⾒つけて」「ユーザーIDとRole検証の有無を「認証処理が抜けている場所は？」リストでまとめて」「DBを複数回更新するフローはあ「ビジネスロジックの不備を教えて」る？」 29

Slide 30

Slide 30 text

図や表から全体の問題をあぶり出す仕様や概念を図や表にし、設計の破綻や潜在的な違和感を特定構造の可視化違和感の発⾒テーブル構造の図解化設計⽭盾の特定 ER図や関連表でエンティティ間の結合関係を整理参照のループ‧循環依存や排他制御の破綻を抽出検証処理フローの可視化アクティビティ図やシーケンスで時系列の挙動を追跡例外パターンのあぶり出しフローの抜け漏れ‧到達不能ルートの早期検知 30

Slide 31

Slide 31 text

可視化したデータの例 31

Slide 32

Slide 32 text

導⼊の成果と今後の位置づけ現場における導⼊成果課題と⼈間の重要性 ▪ 読解時間の圧倒的短縮初⽇からロジック検証に集中可能 ▪ 周辺準備コストの増加補助資料の作成などに⼯数が必要 ▪ 診断精度の底上げ分岐や不整合の検出率が向上 ▪ 全⾃動化は依然不可能悪⽤可能性の判断にはまだ⼈間の判断が不可⽋ 32

Slide 33

Slide 33 text

AI開発時代のセキュリティ課題リリース速度の爆発品質の極端な⼆極化 AI活⽤で新機能やアプリの提供経験値の差で極めて脆弱なコー頻度が⾶躍的に上昇ドが紛れ込むリスク最⼤の課題：検査と確認の⾃動化 33

Slide 34

Slide 34 text

まとめ 34

Slide 35

Slide 35 text

セキュリティエンジニアの価値は、上のレイヤーへ過去脆弱性を見つけられる人現在 AIを使って大量に脆弱性を見つけられる人これから ● ● ● ● どこを診断すべきかを決められる人ビジネスの影響とリスクを判断・説明できる人対策の優先順位を最適化できる人 AI Agentそのものを設計・改善できる人 AIが下のレイヤーを取るたびに、人間は一つ上のレイヤーへ移動する必要がある。 35

Slide 36

Slide 36 text

これからの時代を生き抜くには？ ❌ AIに何ができないか（限界を探す） ⭕ AIにこれができるようになったら、自分は次に何をするか？ AIにできることは増え続ける。だから「AIにできない仕事を探す」だけでは足りない。今回の実験では、まだ仕事は奪われなかった。むしろ、かなり強力な相棒だった！ 36

Slide 37

Slide 37 text

今日、AIに仕事を奪われなかった。でも、明日もそうだとは限らない。 AIの成長スピードに合わせて、自分たちの仕事と役割を、アップデートし続けよう。 37