Cloud Runの最新アップデートや 機能の活用例をご紹介！

社外向け NEXT recap オンラインセミナー

Transcript

1. 田村 直樹 DX開発事業部　バックエンドエンジニア Cloud Runの最新アップデートや 機能の活用例をご紹介！ Google Cloud Next Tokyo ’24 Recap
2. 01 02 03 04 05 06 アジェンダ 自己紹介 Cloud Runについて アップデート情報 機能の活用例 印象に残った言葉 さいごに
3. 自己紹介
4. Google Cloud Next Tokyo ’24 Recap 田村 直樹 2023年3月　前職では金融系 SEとして開発に従事 2023年4月　アイレット株式会社に入社 2023年5月　Google Cloud案件に携わる 2024年3月　Geminiを使う生成AIに参画 2024年4月　Google Next in Las Vegasに現地参加 た　む　ら な　お　き 経歴 アイレット株式会社 DX開発事業部　バックエンドエンジニア
5. Cloud Runについて
6. Google Cloud Next Tokyo ’24 Recap Cloud Runについて 特徴 Cloud RunサービスはGoogle Cloudが提供するマネージドなコンテナコンピューティングのプラットフォームです。 Cloud Runとは 開発体験 ランタイム コスト効率 シンプルな機能ですぐに使用することができ 数秒でデプロイ からURL付与まで可能 言語やライブラリの制約なしに使用でき インフラ管理が不要 でコード開発に集中可能 従量課金のためアプリが 稼働した分のみの課金体系 で毎月の無料枠や確約利用割引が使える
7. アップデート情報
8. Google Cloud Next Tokyo ’24 Recap • Direct VPC Egress • ボリュームマウント • App Hosting 連携 • 自動セキュリティアップデート • マルチリージョン ロードバランシング • Application Canvas アップデート情報 今回は6つの機能アップデートがありました！
9. Google Cloud Next Tokyo ’24 Recap アップデート情報 メリット Cloud RunからVPC内のリソースにアクセスする際に、 Serverless VPC Access Connectorを作成せず接続することが可能 になりました。 リリース状況：GA Direct VPC Egress • VPCコネクタの管理が不要になり、運用コストの削減 • ネットワークのボトルネックの可能性を削減 • レイテンシの削減やスループットの向上
10. Google Cloud Next Tokyo ’24 Recap アップデート情報 Direct VPC Egressの比較 項目 Direct VPC Egress Serverless VPC Access Connector レイテンシ 低い 高い スループット 高速 低速 コスト インスタンス料金が不要 インスタンス料金が発生 IP割り当て 多くのケースで使用する IPアドレスが増える 使用するIPアドレスが少なくすむ スケーリング速度 急なスケーリング時に遅延が懸念される スケーリング速度への影響はなし https://cloud.google.com/run/docs/configuring/connecting-vpc
11. Google Cloud Next Tokyo ’24 Recap アップデート情報 ユースケース Cloud Run上にCloud StorageやNFSをマウントしてアクセスする機能 がGAされました。 リリース状況：GA ボリュームマウント機能 • 構成ファイルの保存 • イベント駆動型 Cloud Storageハンドラ • 静的コンテンツの配信
12. Google Cloud Next Tokyo ’24 Recap アップデート情報 メリット SSRを簡単にホスティングするための機能が Firebaseで提供されます。 App Hosting 連携 • SSRに必要となる Cloud BuildやCloud Run、 　Secret Managerなどのコンポーネントを 　自動プロビジョニング可能です。
13. Google Cloud Next Tokyo ’24 Recap アップデート情報 メリット Cloud RunにデプロイされたイメージのベースイメージをGoogleが自動更新するようになります。 リリース状況：Private Preview 自動セキュリティアップデート • 開発者側でのベースイメージの運用負荷を軽減 • ダウンタイム、再ビルド無しでアップデートが可能
14. Google Cloud Next Tokyo ’24 Recap アップデート情報 メリット クライアントに最も近いリージョンにルーティングできるグローバルエンドポイントを公開できます。 リリース状況：Private Preview マルチリージョンロードバランシング • 外れ値検出によりリージョン障害からの回復を強化 • gcloudコマンド1つで作成できる
15. Google Cloud Next Tokyo ’24 Recap アップデート情報 メリット Geminiを活用して自然言語からCloud Runのアーキテクチャを生成 できるようになります。 リリース状況：Private Preview Application Canvas • アーキテクチャのビジュアライズが可能 • 関連リソースもまとめてデプロイすることができる ◦ Firestore ◦ Memorystore ◦ Cloud SQL
16. 機能の活用例
17. Google Cloud Next Tokyo ’24 Recap 機能の活用例 ユースケース Cloud Runに複数のコンテナを持たせて分離させたい時に活用が推奨されます。 サイドカーコンテナを活用する • アプリケーション用のコンテナを持ちつつ、オブザーバビリティを高 めるために OpenTelemetry Collectorといったアプリケーションを 補助するイメージを含める • 既存イメージを使っている場合にサイドカーとして Envoyを入れてお くことで、デプロイ対象に手を入れることなく Cloud Runサービスを 拡張できる（認証認可を追加したい場合など）
18. 印象に残った言葉
19. Google Cloud Next Tokyo ’24 Recap 印象に残った言葉 “私たちは代替手段を調査しましたが、 Cloud Runがアプリを本番環境で実行する 最も簡単かつ最速の方法です ” by Nuno Campos, founding engineers, LangChain
20. Google Cloud Next Tokyo ’24 Recap 印象に残った言葉 Cloud Runを使用するメリット • コンテナをデプロイするだけで外部からの到達可能な URLが発行されるため容 易に公開が可能 • 0~Nへトラフィックに応じて高速にスケーリングできる • イベント駆動で処理を実行できるため、トリガーに合わせてデータの取り込み が可能 • 高度なトラフィック管理が可能なため、トラフィックの量を調整しながらテストや リリースが可能
21. Google Cloud Next Tokyo ’24 Recap 印象に残った言葉 “生成AIアプリは、従来の開発の延長線 フィードバックループを含めた プラットフォームの開発
22. Google Cloud Next Tokyo ’24 Recap 印象に残った言葉 アプリ開発のループに生成 AIの機能を追加する 従来のアプリの開発フロー 1. 業務オペレーションやシステム的に データを生成してストレージに格納 2. イベントをトリガーにデータを抽出し、 変換処理を加えて DBに登録 3. エンドユーザにデータを返す 4. エンドユーザのリクエストを保存する 5. データを分析して可視化などに活用する AI機能を考える 1. 入力データの解析 →Document AIサービス 2. ベクトルデータの生成 →Vertex AI Embedding for text 3. 入力データの要約 →Vertex AI Multimodal Prompt 4. ベクトルデータの保持 →AlloyDBなどのDBサービス
23. Google Cloud Next Tokyo ’24 Recap 印象に残った言葉 生成AIアプリの改善ループを考える • 生成AIアプリにおいては LLMモデルに回答してもらうだけでも良いが、そこから 改善ループ を考えていく ◦ 回答の質を向上させるために RAGを活用する ◦ ユーザフィードバックを通し、評価と改善を行う ◦ 生成AIモデルのファインチューニングや回答を評価する仕組み ユーザのニーズや新技術に対応できるようにプラットフォームとしての設計が求められる
24. Google Cloud Next Tokyo ’24 Recap 印象に残った言葉 LLMによる回答を LLMで評価 • LLMの回答を定量的に評価するために 「評価用プロンプト」 を用意して 　分析結果を反映することで改善サイクルを効率よく回すことができる。 • 評価指標 ◦ タスク：生成 AIモデルに与えたタスクを明確に記述 ◦ 評価基準：出力の評価基準を定義（正確性、関連性、網羅性など） ◦ 期待される出力：理想的な出力例を提示することで、評価者が判断しやすい ◦ 評価方法：どのような観点で評価すべきか（５段階評価、 Yes/No評価）
25. Google Cloud Next Tokyo ’24 Recap 印象に残った言葉 評価をデータやプロンプトに反映 LLMによる評価から • ドキュメント内容の改善や必要な情報 の追加 • プロンプトの構成、テンプレートの改善 • 正確性、網羅性を上げるために保持 データ項目の追加 評価 正確性： 4 流暢さ： 5 関連性： 5 網羅性： 4 コメント 回答は業務内容を概ね正確に、かつ自然な日本語で要約しており、 関連性も高いです。特に、出荷準備から配送、売上計上、顧客対 応、アフターフォローまで、一連の流れを整理して説明している点は 評価できます。 ただし、網羅性においては、一部改善の余地があります。 具体的な業務内容：「ピッキングリストの作成」や「梱包」など、具体 的な作業内容をもう少し詳しく記述することで、より理解しやすくなり ます。 システム連携： WMSや会計システムへの連携など、システム面での 連携について言及すると、業務フローの理解が深まります。 業務担当者：それぞれの業務を誰が担当するのか、といった情報が あると、より具体的なイメージが湧きます。
26. さいごに
27. Google Cloud Next Tokyo ’24 Recap さいごに • 今回のNextではCloud Runをテーマに色々セッションを拝聴しましたが、セキュ リティ強化や他サービスとの連携強化、運用負荷軽減など、より使いやすくする ためのアップデートが多かった • ご紹介のあった言葉の通り、 Cloud Runを使用すると簡単かつ最速に本番環境 で実行できる点は開発者や運用者にとって大きな魅力に感じる
28. Google Cloud Next Tokyo ’24 Recap さいごに 1. Sansan x Splunk:Cloud Run 環境のオブザーバビリティを高める方法 （Splunk Services Japan合同会社様、 Sansan 株式会社様） 2. Google Kubernetes Engine と Cloud Run 最新アップデートと 使い所を徹底解説 （Google Cloud様） 3. Cloud Run で構築する生成 AI アプリとRAG の実践（Google Cloud様） 4. 実践 Cloud Run（newmo 株式会社様） 参加したセッション https://iret.media/author/na-tamura
29. Google Cloud Next Tokyo ’24 Recap ご清聴ありがとうございました