生成AI時代のクラウドネイティブを考える / Exploring Cloud Native for the Generative AI Era

生成AI時代にクラウドネイティブな開発手法・アプリケーションはどう変わっていくのか。変わるもの、変わらないものを整理し考察する

Jagu'e'r Cloud Native #22 ハイブリッド Meetup
「0ベースから学ぶ、クラウドネイティブの春！」

https://jaguer-cloud-native.connpass.com/event/387350/

での登壇

Transcript

1. 生成AI時代の クラウドネイティブを考える Jagu’e’r クラウドネイティブ分科会 Masaki Kato 2026.04.14
2. 自己紹介 Masaki Kato データベースとクラウドをこよなく愛するAIアーキテクト。 MasakiもKatoもよく被ります。会社では3人目のMasaki Kato ▪所属 • アクセンチュア株式会社 ストラテジーコンサルティング本部 • 最近はデータ基盤作ってます • Google Cloud Partner Top Engineer 2024-2025 • Jagu’e’r (Google Cloud User Community) エバンジェリスト • Jagu’e’r クラウドネイティブ分科会、月末Tech Lunch 運営 ▪趣味 • マラソン - 去年走れなかったので今年はフルマラソン走りたい • プログラミング - OpenClawを動かすために自宅サーバーをセットアップ
3. まとめ 生成AIによって、開発プロセス・設計判断といったベストプラクティスは変わっていく。 それでも、ビジネス目標に根ざしたクラウドネイティブの原則は変わらない。
4. 生成AI時代 の クラウドネイティブ
5. 生成AI時代 の クラウドネイティブ
6. クラウドネイティブとは クラウドのポテンシャルを最大限に引き出した堅牢かつスケーラブルなシステムを高速に開発し、ビジネスのスピードと信 頼性を最大化するための手法（プラクティス）のこと This presentation makes reference to marks owned by third parties. Unless otherwise noted, all such third-party marks are the property of their respective owners. No sponsorship, endorsement or approval of this content by the owners of such marks is intended, expressed or implied. User Service Cloud Load Balancing Cloud Pub/Sub クラウドネイティブなアプリケーションの例 Cloud Run Google Kubernetes Engine Cloud Spanner Product Service Firestore 技術 • マイクロサービス • コンテナ • オーケストレーション • 宣言的API • オブザーバビリティ 開発手法 • DevOps • CI/CD • IaC クラウドネイティブを表すキーワード ユーザー 開発者 Cloud Build Artifact Registry Cloud Deploy Terraform クラウドネイティブには技術に加えて開発手法も含まれる Google Cloud
7. クラウドネイティブとは クラウドネイティブな 技術・開発手法 • マイクロサービス • コンテナ、オーケストレー ション • DevOps • 宣言的API • CI/CD • IaC 前提となるクラウドの特徴 • リソースの弾力・柔軟性 • 従量課金 • マネージドサービス • 他拠点の冗長化 品質特性 • スケーラビリティ • 可用性/信頼性 • ポータビリティ • 回復力 • 保守性 ビジネス目標 ・ユーザーに価値 を迅速に届ける ・障害の少ないシ ステム クラウドに適した設計 （ベストプラクティス） • ステートレス • サーバーレス/FaaS • イミュータブルなインフラ • オブザーバビリティ • 疎結合 クラウドネイティブなプラクティスはあくまで手段である。クラウドネイティブの目的は、クラウドのポテンシャルを最大限に 引き出すことでビジネスのスピードと信頼性を最大化すること。
8. 生成AI時代 の クラウドネイティブ
9. 生成AIとクラウドネイティブの関係性 生成AI クラウドネイティブ
10. 生成AIとクラウドネイティブの関係性 生成AI クラウドネイティブ つかう 生成AIを活用した クラウドネイティブ開発 つくる クラウドネイティブな 生成AIサービス
11. 生成AIとクラウドネイティブの関係性 生成AI クラウドネイティブ つかう 生成AIを活用した クラウドネイティブ開発 つくる クラウドネイティブな 生成AIサービス
12. 生成AIを活用したクラウドネイティブ開発 生成AIツール・エージェントを使うことでアプリケーションの開発・運用を加速・効率化する。オブザーバビリティやIaCに よる生成AIへのコンテキスト供給やCI/CDによるエラーの早期検知の重要度も増している。 生成AIをつかう Devの支援 • コード・ドキュメント生成 • コードレビュー • バグ修正 Opsの支援 • 設計書の逆生成 • 障害の原因分析・修正 • コスト最適化 • セキュリティ異常検知 生成AIで開発サイクル全体を支援
13. 生成AIをより良くつかう - ハーネスエンジニアリング 生成AI = LLM + ハーネス。ハーネスをチューニングすることで、AIエージェントを安全に精度よく使うことを目指す 「ハーネスエンジニアリング」。クラウドネイティブな開発とも相性が良さそう。 生成AIをつかう ガイド (Feed Forward) センサー (Feed Back) 計算的 推論的 • ランゲージサーバー • CLI、スクリプト • コード自動変換 • 静的解析 • ログ • AGENTS.md • スキル • 開発規約 • 意味解析 • AIコードレビュー ハーネスエンジニアリングのアプローチ クラウドネイティブな開発による影響 • AIの行動を誘導する「ガイド」と結果をAIにフィードバックし 誤った動作を修正する「センサー」にアプローチを分類。 • そのなかでも機械的に実施可能かどうかで分類される。 • クラウドネイティブな開発手法を取り入れることで複雑なシ ステムを比較的楽に更新することが可能。ハーネスエンジニ アリングにおけるセンサーになると考えられる。 変更の影響を限定 • マイクロサービス • 疎結合なシステム • ステートレス 変更の影響を観測 • CI/CD • オブザーバビリティ • IaC
14. 生成AIとクラウドネイティブの関係性 生成AI クラウドネイティブ つかう 生成AIを活用した クラウドネイティブ開発 つくる クラウドネイティブな 生成AIサービス
15. (余談) ADKを使ったAIエージェント開発 gcloud CLIを使ったGoogle Cloud Runへのデプロイと、 Agent Development Kit (ADK) によるAIエージェ ントのデプロイで開発者体験が非常に近い。クラウドのメリットを最大限に生かした設計。 生成AIをつくる スケーラブルなアプリケーションを 1コマンドで簡単にデプロイ 開発環境のアプリを簡単に本番環境にデプロイできるクラウドネイティブならではの開発者体験 ADKはその体験をAIエージェント開発にそのまま適用 スケーラブルなAIエージェントを 1コマンドで簡単にデプロイ ADKを使ったAIエージェント開発 Cloud Runを使ったアプリ開発 gcloud run deploy --source . adk web agent_engine Cloud Run Agent Engine ローカルPC ローカルPC This presentation makes reference to marks owned by third parties. Unless otherwise noted, all such third-party marks are the property of their respective owners. No sponsorship, endorsement or approval of this content by the owners of such marks is intended, expressed or implied. Google Cloud Google Cloud Agent Development Kit (ADK) - Agent Development Kit (ADK)
16. 生成AIエージェント特有の実行時特性 ビジネス目標や品質特性は同じでも、生成AIエージェントには特有の実行時特性がある。前提が変わるため、ベスト プラクティスをそのまま適用できない場面が生まれる。 生成AIをつくる セッション単位での権限制御 • ユーザーが本来アクセスできないデータ へAIエージェント経由でがアクセスするこ とを避けるため、アプリケーション単位で はなくセッション単位での権限制御が必 要な場合も発生 ステートフルなワークロード • セッション内での記憶の保持や応答 生成中に追加でのテキスト送信等、 ステートレスなアプリケーションでは実 現が難しい機能が発生 達成したいビジネスゴールや品質特性は同じでも、 前提が変わるためベストプラクティスがそのまま利用できない場合が生まれる レイテンシ特性の変化 • LLM推論時間が支配的になり、数秒 から多段ツール呼び出しで数十秒単位 のレスポンスタイムへ 非決定性と副作用の不可逆性 • 同じ入力でも結果が変わるため、冪等 性の保証が原理的に難しい • ファイル削除・外部API呼び出しなど取り 消せない操作をエージェントが自律的に 行う 課金体系の変化 • コスト構造がCPU・メモリ中心からAI API呼び出し (トークン) 中心にシフト • 1リクエストのコストが従来より桁違い に大きくなるケースがある
17. 生成AIサービスの例：Jules Google製のWebブラウザからアクセス可能なコーディングエージェント。Web UI上でタスクを依頼するとコーディング エージェントが起動し開発タスクを遂行してくれる。 生成AIをつくる https://jules.google/ This presentation makes reference to marks owned by third parties. Unless otherwise noted, all such third-party marks are the property of their respective owners. No sponsorship, endorsement or approval of this content by the owners of such marks is intended, expressed or implied.
18. Julesのアーキテクチャ考察 AIエージェントがファイルを編集しコマンドを実行するというアプリケーションの特性上、典型的な クラウドネイティブWebアプリケーションのアーキテクチャではこのサービスを実現するのは難しいはず。 生成AIをつくる Jules Service Cloud Load Balancing GKE ユーザー Pod Pod Vertex AI (Gemini) Jules アーキテクチャイメージ 設計ポイント2 ワークロード単位の認証では 他ユーザーのリポジトリを参照 できてしまうが制御したい 設計ポイント1 ・自分の編集中ファイルを持っているコン テナに接続するように制御したい ・また、他ユーザーが編集しているファイ ルにアクセスできてしまうことを避けたい This presentation makes reference to marks owned by third parties. Unless otherwise noted, all such third-party marks are the property of their respective owners. No sponsorship, endorsement or approval of this content by the owners of such marks is intended, expressed or implied. Google Cloud
19. Julesの実現方法 Julesはセッション開始する際に専用のVMを作成、終了後に破棄する構成をとる。典型的な構成ではないものの水 平スケールが可能でクラウドネイティブの原則に沿っていることが分かる。 生成AIをつくる GW Service ユーザー Vertex AI (Gemini) Cloud Run Jules Service Jules アーキテクチャイメージ 設計ポイント1 ・セッション開始時にエフェメラルな VM起動、終了後に破棄する構成 設計ポイント2 VM単位でトークンを設定して いるか、プロキシを配置して制 御していると推測 This presentation makes reference to marks owned by third parties. Unless otherwise noted, all such third-party marks are the property of their respective owners. No sponsorship, endorsement or approval of this content by the owners of such marks is intended, expressed or implied. Google Cloud
20. Julesはクラウドネイティブか？ 生成AIの特徴という追加の制約下において、ビジネス目標を達成するためのスケーラビリティを獲得している。問題が 変わっているため解き方が変わっているだけで、クラウドネイティブな構成といえそう。 生成AIをつくる クラウドネイティブな 技術・開発手法 • マイクロサービス • コンテナ、オーケストレー ション • DevOps • 宣言的API • CI/CD • IaC 品質特性 • スケーラビリティ • 可用性/信頼性 • ポータビリティ • 回復力 • 保守性 ビジネス目標 ・ユーザーに価値 を迅速に届ける ・障害の少ないシ ステム • コスト構造の変化 • 長時間接続 • ステートフル クラウドに適した設計 （ベストプラクティス） • ステートレス • サーバーレス/FaaS • イミュータブルなインフラ • オブザーバビリティ • 疎結合 前提となるクラウド+生成AIの特徴 • リソースの弾力・柔軟性 • 従量課金 • マネージドサービス • 他拠点の冗長化
21. まとめ • 生成AIによって、開発プロセス・AIワークロード設計といったベストプラクティスは変わっていく。 • それでも、ビジネス目標に根ざしたクラウドネイティブの原則は変わらない。 生成AIをつくる クラウドネイティブな 技術・開発手法 • マイクロサービス • コンテナ、オーケストレー ション • DevOps • 宣言的API • CI/CD • IaC 品質特性 • スケーラビリティ • 可用性/信頼性 • ポータビリティ • 回復力 • 保守性 ビジネス目標 ・ユーザーに価値 を迅速に届ける ・障害の少ないシ ステム • コスト構造の変化 • 長時間接続 • ステートフル クラウドに適した設計 （ベストプラクティス） • ステートレス • サーバーレス/FaaS • イミュータブルなインフラ • オブザーバビリティ • 疎結合 前提となるクラウド+生成AIの特徴 • リソースの弾力・柔軟性 • 従量課金 • マネージドサービス • 他拠点の冗長化
22. 参考文献 • CNCF Cloud Native Definition v1.0 • CNCF Cloud Native Definition v1.1 • What Is Cloud Native | Google Cloud • What is Cloud Native? - Cloud Native Architecture Explained - AWS • Harness engineering for coding agent users • Agent Development Kit (ADK) - Agent Development Kit (ADK)
23. Thank you