【令和最新版】【2023年最新】【最新アップデート版】 Coogle CloudのAI/ML関連サービスキャッチアップ 2023.09.04 Google Cloud Nextʼ23 Recap データアナリティクス事業本部 貞松 政史 1

2 スピーカー情報 ⽒名 貞松 政史 (サダマツ マサシ) 所属 データアナリティクス事業本部 インテグレーション部 機械学習チーム マネージャー

3 本セッションは… Google Cloud Nextʼ23で発表された AI/MLサービス関連の最新情報をお届け

4 現地参加はしていませんが… • Google Cloud Nextʼ23のOpening Keynoteで発表されたAI/MLサービス 関連トピックまとめ #GoogleCloudNext • https://dev.classmethod.jp/articles/google-cloud-next23-opening-keynote-ai-ml/

5 おしながき • 最近のAI/ML関連のトレンドについて • Google CloudのAI/MLサービスのおさらい • Google Cloud Nextʼ23で発表されたAI/ML関連の最新情報 • まとめ

6 最近のAI/ML関連のトレンドについて • 最近のAI/ML関連のトレンドについて • Google CloudのAI/MLサービスのおさらい • Google Cloud Nextʼ23で発表されたAI/ML関連の最新情報 • まとめ

7 最近のAI/ML関連のトレンドについて 基盤モデルの出現により、それらを活⽤した ⽣成AIモデルが登場 ⽣成AIモデルを組み込んだ新たなサービスが台頭 専⾨知識、技術なしに画像やテキスト、⾳声等の コンテンツを⽣成できるようになった ※もちろんツール、サービスの使いこなしは必要

8 基盤モデルと⽣成AIモデル 基盤モデル • ⼤量のデータを使ってトレーニング • 幅広い下流タスクに適応できるように再トレーニング • 1つの基盤モデルで多様なタスクに適応できる ⽣成AIモデル • テキスト、画像、動画、⾳楽、プログラムコードなどの新しいコンテンツを作成 • ⼤量のデータとコンピューティングパワーによる学習に基づく

9 PaLM 2 • Google製のLLM • https://japan.googleblog.com/2023/05/palm-2.html • Pathways Language Model (PaLM)の発展形 • PathwaysとはGoogleの提唱するAIアーキテクチャ • ⼀つのモデルに対して、新しいタスクを効率的に学習し、多少なタスクに適⽤できるようにする • https://blog.google/technology/ai/introducing-pathways-next-generation-ai-architecture/ • 多⾔語モデル (⽇本語にも対応) • Gecko、Otter、Bison、Unicornという4つのサイズがある • Geckoは⾮常に軽量でモバイル端末でも動作可能 • BardやDuet AIなど多数のGoogle製品に搭載 • 医療データやセキュリティ関連情報によりトレーニングされたMed-PaLM 2、 Sec-PaLMというドメイン特化のモデルも存在する

10 Google CloudのAI/MLサービスのおさらい • 最近のAI/ML関連のトレンドについて • Google CloudのAI/MLサービスのおさらい • Google Cloud Nextʼ23で発表されたAI/ML関連の最新情報 • まとめ

11 Google CloudのAI/MLサービス

12 特定の課題特化のSaaS • Cloud Natural Language API • ⾃然⾔語処理 • 構⽂解析、エンティティ分析、感情分析、コンテンツ分類 など • Cloud Vision API • 画像処理 • 分類、物体検出、⼿書き⽂字の読み取り など • Recommendations AI • Retail APIの⼀部 • ECサイトの商品推薦 Recommendations AI Cloud Translation API Video Intelligence API Cloud Vision API Cloud Natural Language API Text-to-Speech Speech-to-Text Document AI Retail API

13 AutoML • ノーコードで独⾃データによる機械学習モデルの作成が可能 • 対象となるデータソースや課題内容に応じて機能が⽤意されている • AutoML Natural Language • テキスト分類、エンティティ抽出、感情分析 • AutoML Tables • テーブルデータの分類、回帰、予測 • AutoML Translation • ⾔語を⾃動判別して翻訳 • AutoML Video Intelligence • 動画内のアクションを認識、分類、オブジェクトの追跡 • AutoML Vision • 画像分類、物体検出 AutoML AutoML Natural Language AutoML Tables AutoML Translation AutoML Video Intelligence AutoML Vision

14 Vertex AI • 旧AI Platform • AI/MLの開発に関するマネージドサービス • Workbench • Jupyter Notebookベースの開発環境 • MLOps • Feature Store • Pipelines • Testing • Model Registry …and more • Model Garden • 学習済みモデルを活⽤したJumpStart • Generative AI Studio • ⽣成AIの検証、カスタマイズ Vertex AI

15 BigQuery ML • BigQueryに統合された機械学習機能 • SQLクエリベースでモデルの学習や推論、Vertex AI Model Registryへのモデル登録、デプロイが可能 • BigQuery ML⾃体のビルトインアルゴリズムおよび Vertex AIのビルトインアルゴリズムを利⽤してモデ ルの学習を実⾏可能 • Vertex AIにリモートモデルを作成したり、外部の学 習済みモデルをインポートすることで、BigQuery上 のデータを⽤いた推論実⾏も可能 BigQuery

16 Google Cloud Nextʼ23で発表されたAI/ML関連の最新情報 • 最近のAI/ML関連のトレンドについて • Google CloudのAI/MLサービスのおさらい • Google Cloud Nextʼ23で発表されたAI/ML関連の最新情報 • まとめ

17 速報ブログ (再掲) • Google Cloud Nextʼ23のOpening Keynoteで発表されたAI/MLサービス 関連トピックまとめ #GoogleCloudNext • https://dev.classmethod.jp/articles/google-cloud-next23-opening-keynote-ai-ml/

18 3⾏まとめ Duet AIどこでも⼊ってる Palm 2を主軸にAIモデルを引き続き強化 データにまつわる全てをBigQueryに統合

19 AI/ML関連のトピック • Duet AI • WorkspaceのDuet AIがGAかつ新機能を追加 • Workspace以外のGoogle Cloud上のサービスに対してDuet AIを 拡張した機能を提供 • Vertex AI • Model Gardenに新たなLLMを追加 • 既存モデルに関するアップデート • Colab Enterpriseのプレビュー提供 • BigQuery • BigQuery Studioのプレビュー提供

20 Duet AI • Google Workspace向けのDuet AIの新機能 • Duet AI in Google Meet • Duet AI in Google Chat • Workspace以外のサービスに対するDuet AI • コード⽣成 (Visual Studio CodeのExtensionから利⽤ など) • Apigee • Cloud Monitoring • BigQuery • Cloud Spanner • セキュリティ関連サービス など

21 Vertex AI • Model Garden上の新しいLLM • Llama 2、Code Llama、Falcon LLMを追加 • Claude 2の追加予定 • 既存モデルのアップデートおよびモデルのチューニングに関するアップデート • Palm 2 (テキスト⽣成モデル) • 32kトークンのコンテキストウィンドウサポート • Codey (コード⽣成モデル) • コード⽣成とコードチャットでサポートされている主要⾔語で最⼤25%性能向上 • Imagen (画像⽣成モデル) • 画像編集、キャプション、視覚的な質疑応答などの機能を追加 • DeepMind SynthIDを利⽤した、実験的な電⼦透かし機能を発表

22 Vertex AI • Colab Enterprise (プレビュー) • Colabノートブックの使いやすさと、エンタープライズレベルの セキュリティおよびコンプライアンスサポート機能を組み合わせた マネージドサービス • Vertex AIの全機能へのアクセス • BigQueryと統合 (BigQuery Studio) • Duet AIによるコードの補完と⽣成

23 Vertex AI • Colab Enterpriseに関する注意事項 • 従来のGoogle Colabとは、主に管理⾯での差異がある

24 Vertex AI • Vertex AI Extensions (2023年後半に提供予定) • モデルをAPIに接続して、リアルタイムデータと現実世界のアクションを 実現する、拡張機能⽤のフルマネージド開発者ツールのセット • デジタルアシスタント、検索エンジン、⾃動ワークフローなどの 強⼒な⽣成AIアプリケーションを構築 • Vertex AI Search and Conversation （⼀般提供） • Vertex AI Search • 基盤モデルを活⽤したGoogle検索品質のマルチモーダル、マルチターン検索 アプリケーションをセットアップ • Vertex AI Conversation • 会話⾳声とテキストの両⽅をサポートする基礎モデルを活⽤して、⾃然な響きで⼈間の ようなチャットボットとボイスボットの作成をサポート

25 BigQuery • BigQuery Studio (プレビュー) • BigQueryの為の単⼀の統合インターフェース • データエンジニアリング、分析、予測分析を統合 • Colab EnterpriseやDuet AIと統合 https://dev.classmethod.jp/articles/next_generation_ data_analytics_with_bigquery_palm/

26 BigQuery • BigQuery DataFrames (⼀般提供) • PythonのBigFramesライブラリによる実現 • bigframes.Pandas • Pandas互換のAPI操作 • bigframes.ML • scikit-learn互換のAPI操作 • ML.GENERATE_TEXT関数 (⼀般提供) • Palm 2モデルの⼀つであるtext-bisonを使⽤して⾃然⾔語処理タスクを実⾏ • 分類、感情分析、エンティティ抽出、QA、要約 など • ML.GENERATE_TEXT_EMBEDDING (プレビュー) • ML.DISTANCEと組み合わせたベクトル検索

27 まとめ • 最近のAI/ML関連のトレンドについて • Google CloudのAI/MLサービスのおさらい • Google Cloud Nextʼ23で発表されたAI/ML関連の最新情報 • まとめ

28 まとめ • 基盤モデルの登場に端を発する⽣成AIモデルが台頭 • 各社既存のAI/MLサービスに加えて⽣成AIに関するサービスを多数ローンチ • Google Cloud Nextʼ23はOpening KeynoteからほぼAI/ML関連 トピックで埋め尽くされており、SpotlightやBreakout Sessionも AI/ML関連セッション満載 • Palm 2を軸とした独⾃モデルとそれを活⽤したサービス進化や 外部の既存モデルを活⽤した開発についても⼿厚くサポート • ⼤体BigQuery (Studio)に統合される • 現在はプレビュー以前のサービス、機能も多いが、近⽇中の ⼀般提供に期待が⾼まる

29