Upgrade to PRO for Only $50/Year—Limited-Time Offer! 🔥

20230904_GoogleCloudNext23_Recap_AI_ML

貞松政史
September 05, 2023

 20230904_GoogleCloudNext23_Recap_AI_ML

2023/09/04にクラスメソッド日比谷オフィスで開催されたGoogle Cloud Next’23 Recapの登壇資料。

## 概要
Google Cloud Next’23で発表されたAI/MLサービス関連の最新情報をお届け

## アジェンダ
- 最近のAI/ML関連のトレンドについて
- Google CloudのAI/MLサービスのおさらい
- Google Cloud Next’23で発表されたAI/ML関連の最新情報

貞松政史

September 05, 2023
Tweet

More Decks by 貞松政史

Other Decks in Technology

Transcript

  1. 8 基盤モデルと⽣成AIモデル 基盤モデル • ⼤量のデータを使ってトレーニング • 幅広い下流タスクに適応できるように再トレーニング • 1つの基盤モデルで多様なタスクに適応できる ⽣成AIモデル

    • テキスト、画像、動画、⾳楽、プログラムコードなどの新しいコンテンツを作成 • ⼤量のデータとコンピューティングパワーによる学習に基づく
  2. 9 PaLM 2 • Google製のLLM • https://japan.googleblog.com/2023/05/palm-2.html • Pathways Language

    Model (PaLM)の発展形 • PathwaysとはGoogleの提唱するAIアーキテクチャ • ⼀つのモデルに対して、新しいタスクを効率的に学習し、多少なタスクに適⽤できるようにする • https://blog.google/technology/ai/introducing-pathways-next-generation-ai-architecture/ • 多⾔語モデル (⽇本語にも対応) • Gecko、Otter、Bison、Unicornという4つのサイズがある • Geckoは⾮常に軽量でモバイル端末でも動作可能 • BardやDuet AIなど多数のGoogle製品に搭載 • 医療データやセキュリティ関連情報によりトレーニングされたMed-PaLM 2、 Sec-PaLMというドメイン特化のモデルも存在する
  3. 12 特定の課題特化のSaaS • Cloud Natural Language API • ⾃然⾔語処理 •

    構⽂解析、エンティティ分析、感情分析、コンテンツ分類 など • Cloud Vision API • 画像処理 • 分類、物体検出、⼿書き⽂字の読み取り など • Recommendations AI • Retail APIの⼀部 • ECサイトの商品推薦 Recommendations AI Cloud Translation API Video Intelligence API Cloud Vision API Cloud Natural Language API Text-to-Speech Speech-to-Text Document AI Retail API
  4. 13 AutoML • ノーコードで独⾃データによる機械学習モデルの作成が可能 • 対象となるデータソースや課題内容に応じて機能が⽤意されている • AutoML Natural Language

    • テキスト分類、エンティティ抽出、感情分析 • AutoML Tables • テーブルデータの分類、回帰、予測 • AutoML Translation • ⾔語を⾃動判別して翻訳 • AutoML Video Intelligence • 動画内のアクションを認識、分類、オブジェクトの追跡 • AutoML Vision • 画像分類、物体検出 AutoML AutoML Natural Language AutoML Tables AutoML Translation AutoML Video Intelligence AutoML Vision
  5. 14 Vertex AI • 旧AI Platform • AI/MLの開発に関するマネージドサービス • Workbench

    • Jupyter Notebookベースの開発環境 • MLOps • Feature Store • Pipelines • Testing • Model Registry …and more • Model Garden • 学習済みモデルを活⽤したJumpStart • Generative AI Studio • ⽣成AIの検証、カスタマイズ Vertex AI
  6. 15 BigQuery ML • BigQueryに統合された機械学習機能 • SQLクエリベースでモデルの学習や推論、Vertex AI Model Registryへのモデル登録、デプロイが可能

    • BigQuery ML⾃体のビルトインアルゴリズムおよび Vertex AIのビルトインアルゴリズムを利⽤してモデ ルの学習を実⾏可能 • Vertex AIにリモートモデルを作成したり、外部の学 習済みモデルをインポートすることで、BigQuery上 のデータを⽤いた推論実⾏も可能 BigQuery
  7. 19 AI/ML関連のトピック • Duet AI • WorkspaceのDuet AIがGAかつ新機能を追加 • Workspace以外のGoogle

    Cloud上のサービスに対してDuet AIを 拡張した機能を提供 • Vertex AI • Model Gardenに新たなLLMを追加 • 既存モデルに関するアップデート • Colab Enterpriseのプレビュー提供 • BigQuery • BigQuery Studioのプレビュー提供
  8. 20 Duet AI • Google Workspace向けのDuet AIの新機能 • Duet AI

    in Google Meet • Duet AI in Google Chat • Workspace以外のサービスに対するDuet AI • コード⽣成 (Visual Studio CodeのExtensionから利⽤ など) • Apigee • Cloud Monitoring • BigQuery • Cloud Spanner • セキュリティ関連サービス など
  9. 21 Vertex AI • Model Garden上の新しいLLM • Llama 2、Code Llama、Falcon

    LLMを追加 • Claude 2の追加予定 • 既存モデルのアップデートおよびモデルのチューニングに関するアップデート • Palm 2 (テキスト⽣成モデル) • 32kトークンのコンテキストウィンドウサポート • Codey (コード⽣成モデル) • コード⽣成とコードチャットでサポートされている主要⾔語で最⼤25%性能向上 • Imagen (画像⽣成モデル) • 画像編集、キャプション、視覚的な質疑応答などの機能を追加 • DeepMind SynthIDを利⽤した、実験的な電⼦透かし機能を発表
  10. 22 Vertex AI • Colab Enterprise (プレビュー) • Colabノートブックの使いやすさと、エンタープライズレベルの セキュリティおよびコンプライアンスサポート機能を組み合わせた

    マネージドサービス • Vertex AIの全機能へのアクセス • BigQueryと統合 (BigQuery Studio) • Duet AIによるコードの補完と⽣成
  11. 24 Vertex AI • Vertex AI Extensions (2023年後半に提供予定) • モデルをAPIに接続して、リアルタイムデータと現実世界のアクションを

    実現する、拡張機能⽤のフルマネージド開発者ツールのセット • デジタルアシスタント、検索エンジン、⾃動ワークフローなどの 強⼒な⽣成AIアプリケーションを構築 • Vertex AI Search and Conversation (⼀般提供) • Vertex AI Search • 基盤モデルを活⽤したGoogle検索品質のマルチモーダル、マルチターン検索 アプリケーションをセットアップ • Vertex AI Conversation • 会話⾳声とテキストの両⽅をサポートする基礎モデルを活⽤して、⾃然な響きで⼈間の ようなチャットボットとボイスボットの作成をサポート
  12. 25 BigQuery • BigQuery Studio (プレビュー) • BigQueryの為の単⼀の統合インターフェース • データエンジニアリング、分析、予測分析を統合

    • Colab EnterpriseやDuet AIと統合 https://dev.classmethod.jp/articles/next_generation_ data_analytics_with_bigquery_palm/
  13. 26 BigQuery • BigQuery DataFrames (⼀般提供) • PythonのBigFramesライブラリによる実現 • bigframes.Pandas

    • Pandas互換のAPI操作 • bigframes.ML • scikit-learn互換のAPI操作 • ML.GENERATE_TEXT関数 (⼀般提供) • Palm 2モデルの⼀つであるtext-bisonを使⽤して⾃然⾔語処理タスクを実⾏ • 分類、感情分析、エンティティ抽出、QA、要約 など • ML.GENERATE_TEXT_EMBEDDING (プレビュー) • ML.DISTANCEと組み合わせたベクトル検索
  14. 28 まとめ • 基盤モデルの登場に端を発する⽣成AIモデルが台頭 • 各社既存のAI/MLサービスに加えて⽣成AIに関するサービスを多数ローンチ • Google Cloud Nextʼ23はOpening

    KeynoteからほぼAI/ML関連 トピックで埋め尽くされており、SpotlightやBreakout Sessionも AI/ML関連セッション満載 • Palm 2を軸とした独⾃モデルとそれを活⽤したサービス進化や 外部の既存モデルを活⽤した開発についても⼿厚くサポート • ⼤体BigQuery (Studio)に統合される • 現在はプレビュー以前のサービス、機能も多いが、近⽇中の ⼀般提供に期待が⾼まる
  15. 29