安全にAIエージェントを活用するための環境づくり

コード生成AIエージェントを大規模な組織で使うには一定のリスクが存在します。このリスクを回避するためにパーソルキャリアのdoda開発組織で行っている取り組みをご紹介します。

Transcript

1. 安全にAIエージェントを 活用するための環境づくり パーソルキャリア株式会社 dodaシステムアーキテクト部 dodaマイクロサービスグループ 2025年10月16日 ※本資料は2025年10月時点の情報です 齋藤 悠太
2. © PERSOL CAREER CO., LTD. 齋藤 悠太 パーソルキャリア dodaシステムアーキテクト部 dodaマイクロサービスグループ マネジャー SIer、不動産系事業会社を経験し2020年9月 パーソルキャリア株式会社に中途入社。 入社後はdodaのバックエンド開発を中心に担当し、2023年頃からマイクロサービス化を推進。 Java, Spring, AWSといった技術要素が得意。現在はAI周りに注力中。 自己紹介 2
3. © PERSOL CAREER CO., LTD. AI活用への課題 01 AIエージェントの作成 02 今後やりたいこと 03 SUMMARY 3
4. © PERSOL CAREER CO., LTD. 4 AI活用への課題
5. © PERSOL CAREER CO., LTD. 5 AIで実現したいこと 私たちの組織でAIの話題が増えてきた当初、以下のようなことを実現したい と考えていました (2024年夏頃) • Github Copilotを使って高速に開発したい • AIでレビューなどを自動化して負荷を軽くしたい
6. © PERSOL CAREER CO., LTD. 6 AI活用への課題 しかしAI導入に対して私たちの組織では 以下のような懸念を指摘されていました。 • 入力内容が学習に利用されてしまうのではないか • 生成されたアウトプットの権利は？ • 海外にデータを保持するサービスは基本的には利用不可 (社内の外部WEBサービス導入ルール)
7. © PERSOL CAREER CO., LTD. 7 Bedrock Bedrockによって課題も解消しかつすでにあるAWSアカウントを使って即時 対応が進められる Amazon Bedrock では、プロンプトおよび AI のレスポンスを保存また はログに記録することはありません。Amazon Bedrock は、プロンプト と完了を使用して AWS モデルをトレーニングせず、サードパーティー に配布しません。 引用: https://docs.aws.amazon.com/ja_jp/bedrock/latest/userguide/data-protection.html
8. © PERSOL CAREER CO., LTD. 8 AIを組み込み始める AIコードレビュー bedrock-ai-pr-reviewer (coderabbitai/ai-pr-reviewer のフォーク) を利用
9. © PERSOL CAREER CO., LTD. 9 AIを組み込み始める AIコード生成ツールを自作 Copilotを使えないなら作ってしまおうということで Intellij Pluginを自作してみた。
10. © PERSOL CAREER CO., LTD. 10 様々なAIエージェントが登場 2025年の年始頃、AIエージェントが急激に流行りだした。 • Cline • Cursor • Windsurf • Claude Code ただコードを書くだけでなくテストコードを実行して 修正までしてくれるらしい！？
11. © PERSOL CAREER CO., LTD. 11 AIエージェントにより新しい課題が生まれる • 意図しない処理が実行されるリスク • rm –Rf ~/ • インターネット接続によりデータ漏洩の危険性 • コスト課題 • Bedrock で Sonnet3.7 からはクロスリージョンしか使えない
12. © PERSOL CAREER CO., LTD. 12 AIエージェントの作成
13. © PERSOL CAREER CO., LTD. 13 AIエージェントの仕組み User AIエージェン ト LLM xxx.javaのパ フォーマンスを改 善して
14. © PERSOL CAREER CO., LTD. 14 AIエージェントの仕組み User AIエージェン ト LLM xxx.javaのパ フォーマンスを改 善して システムプロンプト + ユーザープロンプト
15. © PERSOL CAREER CO., LTD. 15 AIエージェントの仕組み システムプロンプト例 あなたは優れたスキルを持つソフトウェアエンジニアです。 以下のツールを利用してユーザーの要求を満たしてください。 ## ファイル読み取り <read_to_file> <path>file path here</path> </read_to_file> … (ツールの列挙) === 以下がユーザーの指示です。 %s
16. © PERSOL CAREER CO., LTD. 16 tool呼び出し方法 補足 利用可能なツールをLLMに渡して、LLMからjson形式でツール呼び出しの指示を受け取ることでツールの呼び出しが されます。AIエージェントの開始当初はXMLでツールをパースするなどの処理が必要でした。 画像引用: https://docs.claude.com/en/api/messages#tool 利用可能ツールの指定 LLMからツール呼び出しの指示 ツール実行結果を返す
17. © PERSOL CAREER CO., LTD. 17 AIエージェントの仕組み User AIエージェン ト LLM xxx.javaのパ フォーマンスを改 善して システムプロンプト + ユーザープロンプト xxx.javaのファイルを読み取ります。 ``` { “path”: “src/main/java/xxx.java” } ```
18. © PERSOL CAREER CO., LTD. 18 AIエージェントの仕組み User AIエージェン ト LLM 省略 a a ツール実行 ツール実行結果を渡す Public Class xxx { }
19. © PERSOL CAREER CO., LTD. 19 AIエージェントの仕組み User AIエージェン ト LLM 省略 a a ツール実行 ツール実行結果を渡す Public Class xxx { } ツール実行指示 ユーザーが与えた タスクを完了させる までこれを繰り返す
20. © PERSOL CAREER CO., LTD. 20 AIエージェントの仕組み User AIエージェン ト LLM 省略 a a ツール実行 ツール実行結果を渡す Public Class xxx { } ツールの実行がなくなっ たらタスク完了 ユーザーに実行結果 を返す
21. © PERSOL CAREER CO., LTD. 21 AIエージェントの仕組み 指示を出す プロンプトを 作ってLLMの API実行 判断し結果を 返す ツールを実行 ツール 呼び出 し？ Yes 結果を返す 結果を 受け取る No User AIエー ジェント LLM
22. © PERSOL CAREER CO., LTD. 22 AIエージェントのリスクへの対応 ツール実行リスク リスクのあるツールを実行させない コスト課題 小さく導入 + AIエージェントを使って効 率化した結果、人が実施するよりもコスト は減る想定 モデル利用の制約 別のAWSアカウントを作成し 海外リージョンを利用可能にした
23. © PERSOL CAREER CO., LTD. 23 ツール実行のリスク ツール実行リスク箇所 Bash(rm –Rf ~/) MCP { “message”: “password” }
24. © PERSOL CAREER CO., LTD. 24 個人利用では対策がいくつかある 例えばClaude Codeであれば、ツール実行のリスクを軽減するために ~/.claude/settings.json や devcontainer を利用することが出来る。 しかし組織としてそれを強制的に利用してもらうようにするには・・・？ { "permissions": { "deny": [ "Read(./.env)“, “Bash(curl:*)” ] } } ~/.claude/settings.json
25. © PERSOL CAREER CO., LTD. 25 コード生成AIエージェントを作る コード生成のAIエージェントを作ってみた
26. © PERSOL CAREER CO., LTD. 26 ツール実行リスクの軽減 自作のAIエージェントではツールを限定し、かつ 相対パス以外へのファイル操作をエラーにするなどで意図せぬ ツール実行の課題を対応した。 簡単なソースコード生成だけであれば、この程度のツールでも十分に動作する。 例: Claude Code が利用できるツール 画像引用: https://docs.claude.com/ja/docs/claude-code/settings ツール名 主な用途 read_file ファイルの読み込み write_to_file ファイルの書き込み replace_in_file ファイル内の置き換え delete_file ファイルの削除 list_files 指定したディレクトリ内のファイルの一覧表示 search_files ファイル名でパターン検索 自作のAIエージェントが利用できるツール
27. © PERSOL CAREER CO., LTD. 27 とはいえ自作には限界もある 自分たちでコード生成用AIエージェントを開発・利用していくにあたり以下 のような課題が生まれる • 開発工数がない • MCP対応など新しいトレンドへの追従 (MCP対応はしました) • UI周りがイケていない • ループを繰り返して複雑になってくると指示内容をAIが忘れる
28. © PERSOL CAREER CO., LTD. 28 とはいえ自作には限界もある 自分たちでコード生成用AIエージェントを開発・利用していくにあたり以下 のような課題が生まれる • 開発工数がない • MCP対応など新しいトレンドへの追従 (MCP対応はしました) • UI周りがイケていない • ループを繰り返して複雑になってくると指示内容をAIが忘れる 当初から環境整備までの繋ぎを想定していたが やっぱり 一般的なAIエージェントが使いたい
29. © PERSOL CAREER CO., LTD. 29 Claude Code Actionの登場 Claude Code Actionの導入 Claude Code Actionが5/22にリリース。 私たちはGithubにEKS Self-hosted Runnerを使っていて、Proxy経由でインターネット接続しているため、意図せ ぬツール実行の課題に対して、Claude Code Acitonの利用で一定のリスク回避が出来ると判断し導入を行った。 Claude Code AcitonがEnterprise Serverで 使えるように対応もしました！
30. © PERSOL CAREER CO., LTD. 30 運用自動化のAIエージェントを作成 運用自動化のAIエージェントの作成 私たちのテスト環境では様々な運用課題があり、それが開発工数などを削る要因となっていた。 例えば私たちはテスト環境が10環境存在するが、1台のEC2に10環境すべてをのせているため、定期的にOOMEが発 生しサーバが動かないなどの課題があった。 これをAIエージェントを開発することで改善した。 例: Slackからのリクエストでサーバ再起動をする
31. © PERSOL CAREER CO., LTD. 31 運用自動化のAIエージェントを作成 詳細はブログを書いていますので是非ご覧ください
32. © PERSOL CAREER CO., LTD. 32 今後やりたいこと
33. © PERSOL CAREER CO., LTD. 33 今後推進したいAIエージェント施策 • プロダクトへのAI適用 • ローカルでClaude CodeなどのAIエージェントを利用できる環境を作る • AIエージェントを利用して実際に開発効率を上げる ⇒ 組織体制/開発の進め方を変える
34. © PERSOL CAREER CO., LTD. 34 今後推進したいAIエージェント施策 • プロダクトへのAI適用 • ローカルでClaude CodeなどのAIエージェントを利用できる環境を作る • AIエージェントを利用して実際に開発効率を上げる ⇒ 組織体制/開発の進め方を変える
35. © PERSOL CAREER CO., LTD. 35 AI Gatewayの導入 AI Gatewayを導入することで、各自のローカルからAIエージェントを導入出来るように整備を進めていきます。 AIエージェン ト LLM プロンプト a a 許可されていな いツールがない かチェック AI Gateway プロンプト ツール実行指示 a a 許可されていな いツール実行の チェック ツール実行指示
36. © PERSOL CAREER CO., LTD. 36 成果と振り返り AIコードレビュー 自作AIコード生成 ツール 現在も利用されている 現在は利用されていない 2024/12 2025/06 2025/12 自作コード生成の AIエージェント 現在はほぼ利用されていない Claude Code Actionの導入 現在も利用されている 自作運用自動化の AIエージェント 現在も利用されている AI Gatewayの導入 これから導入 プロダクトへの AI適用 これから導入
37. © PERSOL CAREER CO., LTD. 37 成果と振り返り LLMの呼び出し方 を理解出来た AIエージェントのつ くり方を理解した
38. © PERSOL CAREER CO., LTD. 38 まとめ • 制約が多い環境においても、新しい技術をキャッチアップし続けることで回避策が見つかる可能性 がある • AIの技術の発展により、作ったものが無駄になったとしてもその過程で得た知見は活かせる • AIエージェントの利用が一般化されてきて、ノウハウやツールがそろってきている • 手を動かす良いタイミングかもしれない 是非AIエージェントを作ってみてください
39. © PERSOL CAREER CO., LTD. ご清聴ありがとうございました 39 【免責事項】 本資料に含まれる技術情報は発表日時点のものであり、予告なく変更される場合があります。 実装や運用は自己責任で行ってください。 発表者および所属組織は、本資料に基づく行動の結果について一切の責任を負いません。 本資料に記載されている会社名・製品名などは、一般に各社の登録商標または商標、商品名です。 資料内では ©, ®, TM マークなどは表示していません。