地方中小企業オンプレ環境からクラウドAIを導入するチュートリアル

レガシー環境にてクラウド環境やMLOPsを導入するとなった際のチュートリアル資料

Transcript

1. GCP vertex利用法 オンプレレガシーからクラウドAIを導入する
2. 自己紹介 島方皇成(しまかたきみなり ) データサイエンティスト・機械学習エンジニア フリーランスのウェブコーダーとして 個人事業主のサイト制作の マーケティング施策や顧客折衝を経験。 リスキリングを経て中小製造業の機械学習エンジニア として開発に従事。ＡＩベンチャーにスカウトされ データサイエンティストを経験。
3. 初めてのクラウドにてチャットモデルを利用する • クラウドでチャットボットを使いたい • どのようなモデルを使っていきたいか不明 • プロンプトでどのような設定をしたいか不明
4. モデルガーデンとは？ モデルガーデンとはさまざまな機械学習モデルを提供するためのプラットフォームです。 モデルガーデンには多数のAIもでるが用意されており、それらを利用するための機能を 提供しております。 • google製とオープンソースが中心 • モデルごとに利用方法が説明 • 利用方法はモデルごとによる
5. モデルガーデンのフィルター モダリティ タスク 言語 ビジョン 表現式 ドキュメント 音声 動画 生成 翻訳 分類 埋め込み 検出 セグメンテーショ ン 抽出 取得 認知 追跡
6. PaLM2を利用する 特徴 • 大規模なパラメーター数 • 多様なデータセット • 高いパフォーマンス
7. PaLM2 for Chatによるチャット利用 PaLM2にはテキストチャット機能があります。チャットのモデルは「ChatModel」というク ラスとして用意されています。開発導入の前に効果検証として「メッセージを送って受け 取る」を実施してどのような結果か検証していきます。