Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ジェネレーティブAIとの共創

 ジェネレーティブAIとの共創

『MetaAI、Databricks、Avanade社員が語る自社LLM開発の最新状況とその活用』
https://dllab.connpass.com/event/283199/
ジェネレーティブAIのLLMの中で特にChatGPT(Azure OpenAI Service)について、改めて理解した上で、現在どのように人と共創していくべきか、前回登壇で好評いただいた「AIとAIの共創アプリ」にも簡単に触れつつ、もう少し深堀した内容として、ChatGPTのまだ不得意な部分を補う方法を紹介します。

アバナード株式会社
Regional Innovation DX/AI Lead
Yuya Kakizaki

Yuya Kakizaki

May 30, 2023
Tweet

Other Decks in Technology

Transcript

  1. ©2023 Avanade Inc. All Rights Reserved. 2 自己紹介 柿崎 裕也(かきざき

    ゆうや) ❑ Regional Innovation DX/AI Lead Software Engineering ❑ 主に製造DXプロジェクトをリード (Smart Factoryなど) ❑ メンター活動(IDEACTIVE JAPANなど) ❑ 製造DXセミナー登壇 ❑ 4/27(木)第1回Generative AI勉強会登壇 (タイトル:AIとAIの共創アプリ) ※本日のセミナー内容は 個人の見解となります。 [email protected]
  2. ©2023 Avanade Inc. All Rights Reserved. 8 AIとAIの共創アプリ AI自身に考えてもらうことで、プロンプトに依存せずに理解を深めたり、抜け漏れを防ぐことができます。 AIとAIの共創

    ヒューマンデジタルツイン 議題 サマリー 質疑応答ChatGPT 賛成反対ChatGPT 「デモアプリ」 Azure OpenAI Service Temperature:07 ※Temperature設定によって、 回答のばらつきが異なります。 Azure OpenAI Serviceの ChatGPT3/9(木)リリース後作成 理解を深めることが できる 何がわからないのか、 わからない人などにも 向いている バイアス・抜け漏れ防 止をすることができる 多角的に考えたいと きなどにも向いている 役割を適切に与えること で、より目的に向けた効 果が出る可能性が高い デモ動画 デモ動画
  3. ©2023 Avanade Inc. All Rights Reserved. 9 AIとAIの共創アプリ AI自身に考えてもらうことで、プロンプトに依存せずに理解を深めたり、抜け漏れを防ぐことができます。 AIとAIの共創

    ヒューマンデジタルツイン 議題 サマリー 質疑応答ChatGPT 賛成反対ChatGPT 「デモアプリ」 Azure OpenAI Service Temperature:07 ※Temperature設定によって、 回答のばらつきが異なります。 Azure OpenAI Serviceの ChatGPT3/9(木)リリース後作成 理解を深めることが できる 何がわからないのか、 わからない人などにも 向いている バイアス・抜け漏れ防 止をすることができる 多角的に考えたいと きなどにも向いている 役割を適切に与えること で、より目的に向けた効 果が出る可能性が高い 質問者を法律家にした場合 ※回答内容はあっていない可能性があります。
  4. ©2023 Avanade Inc. All Rights Reserved. 10 ジェネレーティブAI(LLM:GPT) LLMの代表であるChatGPTに得意不得意があります。ただし改善するための方法も出てきています。 2021年9月

    2021年 2022年 2023年 Webサイト 英語:過半数 日本語:数% 学 習 GPT(+ Codex) ChatGPT RLHF Transformer ▪記憶 ・トークン数に依存 ※トークンは会話をやり取りするための単語の断片 ※英語の方が節約できる ※API利用では従量課金がかかる GPT3.5:約4000トークン(約3000語) GPT4:約32000トークン(約30000語) ▪回答内容 ・単語予測器 ※モデルとなっているTransformerは翻訳のために出てきた 日本の 首都は 〇〇 ※誤りは元データが誤っている、学習データ量が足りてないなど
  5. ©2023 Avanade Inc. All Rights Reserved. 11 人とジェネレーティブAI(LLM)の関係 人の価値やジェネレーティブAI(LLM)を改めて理解して、共創していくことが大切だと考えています。 データ

    AI 人(の価値) 教える (未取得情報/ 定性的情報など) 感情(欲望など) 倫理・モラル 動作 五感 依頼 確認 理解 回答 プロンプト 返答 著作権 誤情報・安全性 バイアス 情報漏洩 セキュリティリスク 中央値 創造性 トレードオフ? 創造性 Temperature調整 状況を教える/理解する 必要がある Webデータ 書籍 記事 QA ・・・ RLHF 体験 ※GPT4トレーニング データ非公開 ※人からのデータに基づい ているので、オリジナル性 に乏しい場合がある RCI
  6. ©2023 Avanade Inc. All Rights Reserved. 13 ChatGPTの不得意を補う方法 ChatGPTの回答精度を向上させるために、以下の方法があります。 プロンプト

    回答 1. Embedding 2. ファインチューニング 3. ReAct 学習済み知識 専門知識 微調整 プロンプト 推測/Act 外部ツール 外部 データ ・コスト、時間が結構かかる ・プロンプト負担減、トークン数減 ・精度向上、リクエストレイテンシ減 学習データの質依存 データ量に対して直線的に性能向上の傾向あり 学習 専門情報 プロンプト 独自データ (ベクトル化) 独自情報 質問内容 (ベクトル化) 「〇〇はXXですか?」 類似度の高い 内容取得 取得内容を参照して 質問の回答依頼
  7. ©2023 Avanade Inc. All Rights Reserved. 14 参考:アイデア共創利用例 アイデア内容に対して、ChatGPTから質問や助言など実施してもらい、ブラッシュアップします。 ※Innovate

    Contest 2020 柿崎参加チーム内容 アイデア内容 Embedding (ベクトル化) ※アイデア情報をChatGPTに投げかけても問題ないか合意の上、 必要な場合に取り組んでいます。 トレーニングデータとしては利用されない仕組みです。 LlamaIndex(旧GPT Index) OpenAI Embeddings API Tutorial LangChain Embeddings Azure OpenAI Service ChatGPT ▪多角的助言 ▪専門的助言 ▪類似アイデア確認 ・・・ 共創
  8. ©2023 Avanade Inc. All Rights Reserved. 15 参考:ChatGPT プラグイン/ブラウジング ChatGPTの回答精度を向上させるために、プラグインやブラウジング機能が使えるようになりました。

    ❑ プラグイン/ブラウジング利用方法 ➢ ChatGPT Plus(有料版:月額20ドル) 登録 ➢ GPT4のみ有効 ➢ プラグインの同時利用は3つまで 別のプラグイン利用時は新規Chat作成必要 有効化 ・プラグインとは
  9. 17 ©2023 Avanade Inc. All Rights Reserved. アバナード株式会社 会社名 アバナード株式会社

    代表取締役 鈴木 淳一(すずき じゅんいち) 日本法人設立 2005年7月 創業 2000年4月(米国ワシントン州シアトル) 本社所在地 東京都港区六本木1-6-1 泉ガーデンタワー9階 電話番号 03-6234-0150 従業員数 約1,000名(2023年4月現在) 事業内容 テクノロジーサービス (コンサルティング、システムインテグレーション) ウェブサイト http://www.avanade.com/ja-jp