安全にAIエージェントを活用するための環境づくり

Slide 1

Slide 1 text

安全にAIエージェントを活用するための環境づくりパーソルキャリア株式会社 dodaシステムアーキテクト部 dodaマイクロサービスグループ 2025年10月16日 ※本資料は2025年10月時点の情報です齋藤悠太

Slide 2

Slide 2 text

© PERSOL CAREER CO., LTD. 齋藤悠太パーソルキャリア dodaシステムアーキテクト部 dodaマイクロサービスグループマネジャー SIer、不動産系事業会社を経験し2020年9月パーソルキャリア株式会社に中途入社。入社後はdodaのバックエンド開発を中心に担当し、2023年頃からマイクロサービス化を推進。 Java, Spring, AWSといった技術要素が得意。現在はAI周りに注力中。自己紹介 2

Slide 3

Slide 3 text

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

© PERSOL CAREER CO., LTD. 7 Bedrock Bedrockによって課題も解消しかつすでにあるAWSアカウントを使って即時対応が進められる Amazon Bedrock では、プロンプトおよび AI のレスポンスを保存またはログに記録することはありません。Amazon Bedrock は、プロンプトと完了を使用して AWS モデルをトレーニングせず、サードパーティーに配布しません。引用: https://docs.aws.amazon.com/ja_jp/bedrock/latest/userguide/data-protection.html

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Slide 15

Slide 15 text

Slide 16

Slide 16 text

© PERSOL CAREER CO., LTD. 16 tool呼び出し方法補足利用可能なツールをLLMに渡して、LLMからjson形式でツール呼び出しの指示を受け取ることでツールの呼び出しがされます。AIエージェントの開始当初はXMLでツールをパースするなどの処理が必要でした。画像引用: https://docs.claude.com/en/api/messages#tool 利用可能ツールの指定 LLMからツール呼び出しの指示ツール実行結果を返す

Slide 17

Slide 17 text

Slide 18

Slide 18 text

Slide 19

Slide 19 text

Slide 20

Slide 20 text

Slide 21

Slide 21 text

Slide 22

Slide 22 text

Slide 23

Slide 23 text

Slide 24

Slide 24 text

© PERSOL CAREER CO., LTD. 24 個人利用では対策がいくつかある例えばClaude Codeであれば、ツール実行のリスクを軽減するために ~/.claude/settings.json や devcontainer を利用することが出来る。しかし組織としてそれを強制的に利用してもらうようにするには・・・？ { "permissions": { "deny": [ "Read(./.env)“, “Bash(curl:*)” ] } } ~/.claude/settings.json

Slide 25

Slide 25 text

Slide 26

Slide 26 text

© PERSOL CAREER CO., LTD. 26 ツール実行リスクの軽減自作のAIエージェントではツールを限定し、かつ相対パス以外へのファイル操作をエラーにするなどで意図せぬツール実行の課題を対応した。簡単なソースコード生成だけであれば、この程度のツールでも十分に動作する。例: Claude Code が利用できるツール画像引用: https://docs.claude.com/ja/docs/claude-code/settings ツール名主な用途 read_file ファイルの読み込み write_to_file ファイルの書き込み replace_in_file ファイル内の置き換え delete_file ファイルの削除 list_files 指定したディレクトリ内のファイルの一覧表示 search_files ファイル名でパターン検索自作のAIエージェントが利用できるツール

Slide 27

Slide 27 text

Slide 28

Slide 28 text

© PERSOL CAREER CO., LTD. 28 とはいえ自作には限界もある自分たちでコード生成用AIエージェントを開発・利用していくにあたり以下のような課題が生まれる • 開発工数がない • MCP対応など新しいトレンドへの追従 (MCP対応はしました) • UI周りがイケていない • ループを繰り返して複雑になってくると指示内容をAIが忘れる当初から環境整備までの繋ぎを想定していたがやっぱり一般的なAIエージェントが使いたい

Slide 29

Slide 29 text

© PERSOL CAREER CO., LTD. 29 Claude Code Actionの登場 Claude Code Actionの導入 Claude Code Actionが5/22にリリース。私たちはGithubにEKS Self-hosted Runnerを使っていて、Proxy経由でインターネット接続しているため、意図せぬツール実行の課題に対して、Claude Code Acitonの利用で一定のリスク回避が出来ると判断し導入を行った。 Claude Code AcitonがEnterprise Serverで使えるように対応もしました！

Slide 30

Slide 30 text

© PERSOL CAREER CO., LTD. 30 運用自動化のAIエージェントを作成運用自動化のAIエージェントの作成私たちのテスト環境では様々な運用課題があり、それが開発工数などを削る要因となっていた。例えば私たちはテスト環境が10環境存在するが、1台のEC2に10環境すべてをのせているため、定期的にOOMEが発生しサーバが動かないなどの課題があった。これをAIエージェントを開発することで改善した。例: Slackからのリクエストでサーバ再起動をする

Slide 31

Slide 31 text

Slide 32

Slide 32 text

Slide 33

Slide 33 text

Slide 34

Slide 34 text

Slide 35

Slide 35 text

Slide 36

Slide 36 text

© PERSOL CAREER CO., LTD. 36 成果と振り返り AIコードレビュー自作AIコード生成ツール現在も利用されている現在は利用されていない 2024/12 2025/06 2025/12 自作コード生成の AIエージェント現在はほぼ利用されていない Claude Code Actionの導入現在も利用されている自作運用自動化の AIエージェント現在も利用されている AI Gatewayの導入これから導入プロダクトへの AI適用これから導入

Slide 37

Slide 37 text

Slide 38

Slide 38 text

© PERSOL CAREER CO., LTD. 38 まとめ • 制約が多い環境においても、新しい技術をキャッチアップし続けることで回避策が見つかる可能性がある • AIの技術の発展により、作ったものが無駄になったとしてもその過程で得た知見は活かせる • AIエージェントの利用が一般化されてきて、ノウハウやツールがそろってきている • 手を動かす良いタイミングかもしれない是非AIエージェントを作ってみてください

Slide 39

Slide 39 text

© PERSOL CAREER CO., LTD. ご清聴ありがとうございました 39 【免責事項】本資料に含まれる技術情報は発表日時点のものであり、予告なく変更される場合があります。実装や運用は自己責任で行ってください。発表者および所属組織は、本資料に基づく行動の結果について一切の責任を負いません。本資料に記載されている会社名・製品名などは、一般に各社の登録商標または商標、商品名です。資料内では ©, ®, TM マークなどは表示していません。