サーバレス基盤で Gemini の性能を引きだすアーキテクトを構築した話

by Kei Kishimoto

Slide 1

Slide 1 text

｜　© Cloud Ace, Inc サーバレス基盤で Gemini の性能を引きだすアーキテクトを構築した話議事録生成から次の活用へ

Slide 2

Slide 2 text

｜　© Cloud Ace, Inc この講演で伝えたいメッセージ ● Google Cloud プロダクト間の連携が熱い ● Gemini も熱い

Slide 3

Slide 3 text

Slide 4

Slide 4 text

｜　© Cloud Ace, Inc 01 | はじめに

Slide 5

Slide 5 text

｜　© Cloud Ace, Inc 自己紹介 Kishimoto Kei (岸本桂) クラウドエース株式会社 SRE部所属 ● Google Cloud の設計支援 ● Google Cloud 歴 1 年弱 ● Google Cloud 認定資格全冠 Antonnion2024

Slide 6

Slide 6 text

｜　© Cloud Ace, Inc 02 | Issue の発見

Slide 7

Slide 7 text

｜　© Cloud Ace, Inc Issue の発見 ※ 画像はサンプルです

Slide 8

Slide 8 text

｜　© Cloud Ace, Inc Issue の発見お客様営業担当エンジニア 1 回目の会議 2 回目の会議 1 回目の会議にエンジニアは参加していない

Slide 9

Slide 9 text

｜　© Cloud Ace, Inc Issue の発見

Slide 10

Slide 10 text

｜　© Cloud Ace, Inc Issue の発見手書きなのかなぁ書き方に統一感ないなぁ

Slide 11

Slide 11 text

｜　© Cloud Ace, Inc Issue の発見営業の同期 OKD に相談してみよう !!! ←営業の同期 OKD

Slide 12

Slide 12 text

｜　© Cloud Ace, Inc Issue の発見お客様技術支援チャネルのメッセージって手打ち? みんな手打ちだよ。メッセージ作成するのどれくらいの時間かかるん？早くて 10 分~15 分くらいかな？大体そうだね。必要な情報て、会議議事録と企業情報くらい？営業の同期 OKD 私

Slide 13

Slide 13 text

｜　© Cloud Ace, Inc Issue の発見お客様技術支援チャネルのメッセージって手打ち? みんな手打ちだよ。メッセージ作成するのどれくらいの時間かかるん？早くて 10 分~15 分くらいかな？大体そうだね。必要な情報て、会議議事録と企業情報くらい？営業の同期 OKD 私大体 3 ステップでメッセージは作成されている

Slide 14

Slide 14 text

｜　© Cloud Ace, Inc Issue の発見 1. お客様との会議 3. エンジニア同行依頼 2. 議事録作成と整理

Slide 15

Slide 15 text

｜　© Cloud Ace, Inc Issue の発見これ生成 AI 使えそう。

Slide 16

Slide 16 text

｜　© Cloud Ace, Inc 03 | アーキテクチャの解説

Slide 17

Slide 17 text

｜　© Cloud Ace, Inc アーキテクチャの解説（概要） Gemini 1.5 動画選択リクエストリクエスト時

Slide 18

Slide 18 text

｜　© Cloud Ace, Inc アーキテクチャの解説（概要）レスポンスレスポンスレスポンス時動画の概要この動画は 5 分間男性が釣りをしている動画です。・・・ Gemini 1.5

Slide 19

Slide 19 text

｜　© Cloud Ace, Inc Google Cloud で構築してみた

Slide 20

Slide 20 text

｜　© Cloud Ace, Inc 利用したプロダクト説明実行環境 ● コンテナ化されたアプリケーションをサーバレスで実行。リクエストに応じて自動スケーリング。オブジェクトストレージ ● 非構造化データを保存するためのストレージ。保存できるデータ量は無制限。 Cloud Run Cloud Storage

Slide 21

Slide 21 text

｜　© Cloud Ace, Inc 利用したプロダクト説明負荷分散 ● ユーザーからのリクエストを複数のバックエンドに分散することで、アプリケーションに対するパフォーマンス低下のリスクを低減。アクセス制御 ● アカウントベースでアクセス制御が可能であり、ここでは Cloud Load Balancing に設定。 Cloud Load Balancing Identity Aware Proxy

Slide 22

Slide 22 text

｜　© Cloud Ace, Inc アーキテクチャ図 Cloud Run Cloud Load Balancing Cloud Storage Clients Identity-Aware Proxy

Slide 23

Slide 23 text

｜　© Cloud Ace, Inc アーキテクチャ図 Cloud Run Cloud Load Balancing Cloud Storage Clients Identity-Aware Proxy アカウントで認証録画とプロンプトを Gemini 1.5 にリクエスト録画とプロンプトを Gemini 1.5 にリクエスト Cloud Storage に録画を保存リクエスト時

Slide 24

Slide 24 text

｜　© Cloud Ace, Inc アーキテクチャ図 Cloud Run Cloud Load Balancing Cloud Storage Clients Identity-Aware Proxy レスポンス表示 Gemini 1.5 からのレスポンスレスポンス時

Slide 25

Slide 25 text

｜　© Cloud Ace, Inc 04 | リクエスト上限の回避策

Slide 26

Slide 26 text

｜　© Cloud Ace, Inc リクエスト上限の回避策 Gemini 1.5 Cloud Run ブラウザアプリサーバ ❌ リクエスト上限 Cloud Storage 容量が大きい動画をリクエストすることができない（32 MB まで）課題

Slide 27

Slide 27 text

｜　© Cloud Ace, Inc リクエスト上限の回避策 Gemini 1.5 Cloud Run ブラウザアプリサーバ Cloud Storage 署名付き URL : リクエスト時に限定された権限と有効期限が設定された URL のこと解決① ①署名付き URL ②動画アップロード

Slide 28

Slide 28 text

｜　© Cloud Ace, Inc リクエスト上限の回避策 Gemini 1.5 Cloud Run ブラウザアプリサーバ Cloud Storage 署名付き URL : リクエスト時に限定された権限と有効期限が設定されたURLのこと解決① ③リクエスト ③リクエスト ④参照

Slide 29

Slide 29 text

｜　© Cloud Ace, Inc リクエスト上限の回避策 Gemini 1.5 ブラウザアプリサーバ Cloud Storage HTTP/2 : Cloud Run では HTTP/2 を使用する場合、リクエスト上限は無制限解決② Cloud Run HTTP/2 HTTP/1 Nginx App

Slide 30

Slide 30 text

｜　© Cloud Ace, Inc リクエスト上限の回避策署名付き URL HTTP/2 通信 27 分（317 MB）の動画アップロード速度約 28 秒約 27 秒必要な設定署名付き URL の処理必要 Cloud Run の設定変更必要

Slide 31

Slide 31 text

Slide 32

Slide 32 text

Slide 33

Slide 33 text

Slide 34

Slide 34 text

Slide 35

Slide 35 text

Slide 36

Slide 36 text

｜　© Cloud Ace, Inc 今後の活用時刻出来事 0:10 - 0:15 男性が立ち上がり、周りを見渡しています。 1:05 - 1:12 小さなアタリがあったが、すぐに外れました。 2:30 - 2:34 海面がざわつき、風が強くなる。 3:45 - 3:50 大きな波で船が揺れる。釣り竿が倒れそうになる。 4:45 - 4:55 大きな魚がかかるが、船が揺れて失敗する。利用者：動画編集をしている方利用方法：長時間の動画からイベントのみ動画を切り取らせる Ex 釣りをしている動画

Slide 37

Slide 37 text

｜　© Cloud Ace, Inc 今後の活用利用者：ペットホテルの運営会社利用方法：10 分に 1 回ペットの行動を観察しチャットにて報告 Ex ペットショップの監視カメラ水は何回飲みましたか？   ペットホテル 10 分間外を眺めています。   眠りにつきました。  既読 16:40 既読 16:30 2 回飲みました。  既読 16:50 既読 16:45

Slide 38

Slide 38 text

｜　© Cloud Ace, Inc 今後の活用利用者：動画からクリエイティブな記事や手順書を作成する方利用方法：元となる動画から叩き台となる文書の作成 Ex サッカーの試合、製品組み立て動画チーム A vs チーム B：白熱した攻防が織りなす 90 分の激闘 9 月 11 日、満員のスタジアムで行われたリーグ戦第 15 節、チーム A とチーム B が激突した。両チームとも今季絶好調であり、この試合は優勝争いを占う重要な一戦となった。・・・

Slide 39

Slide 39 text

Slide 40

Slide 40 text

｜　© Cloud Ace, Inc GPT-4o GPT-4o mini Gemini 1.5 Pro Gemini 1.5 Flash Claude 3.5 Sonnet 最大入力トークン数 128,000 128,000 2,097,152 1,048,576 200,000 最大出力トークン数 16,384 16,384 8,192 8,192 4,096 マルチモーダル対応画像画像動画・画像・音声動画・画像・音声画像入力費用 (ドル/ 100 万トークン ) 2.5 0.15 1.25 0.01875 3 出力費用 (ドル/ 100 万トークン ) 10 0.6 3.75 0.075 15 利用方法 API キー API キーサービスアカウントサービスアカウントサービスアカウント

Slide 41

Slide 41 text

Slide 42

Slide 42 text

｜　© Cloud Ace, Inc まとめ ● 動画や音声など生成 AI に与えられる情報が多くなったことで、組み合わせ次第では業務効率やユーザー体験向上が期待できる ● 今回のサーバレスサービスを用いた生成 AI 活用例を参考に、社内での活用をご検討いただければ幸いです ※Google Cloud、Gemini、Google Cloud Storage は Google LLC の商標です。 ※GPT-4o は OpenAI OpCo, LLC の商標です。