GPT技術活用イベント in 沖縄 - Tomo

Transcript

1. OpenAI APIを使った 業務改善について考える EC-GAIN 友利 裕貴 2023/04/14
2. アジェンダ ・自己紹介 ・OpenAI APIの概要 ・やりたいこと ・LangChainとLlamaIndexの紹介 ・活用案 ・まとめ 2
3. 自己紹介 3
4. 自己紹介 株式会社プロトソリューション 2015年~ 　フロントエンドエンジニア 株式会社EC-GAIN　2022年~ 　主にフロントをメインにバックエンドなど 趣味：コンシューマーゲーム、アニメ 4 友利 裕貴（トモリユウキ）
5. OpenAI APIの概要 アプリケーションやシステムに統合ができる。 これにより、独自のユースケースや業務フローに合わせてカスタマイズが可能。 今回はライブラリを活用するために使用します。 新規で登録してから3ヶ月の間は18$まで無料枠があります。 https://openai.com/product 5
6. OpenAI APIの概要 OpenAI APIで利用できるモデル 6 ・GPT3.5、4 自然言語処理モデルを使用して、質 問応答、要約、翻訳など会話型のタ スクを処理する ・davinci, curie, babbage, ada テキスト生成タスクに特化 ・embeddings テキストデータの埋め込み表現を生 成したり、テキスト検索を行う
7. やりたいこと 7
8. やりたいこと • 以下の開発フローを自動化したい！ ◦ 要件定義 ◦ DB設計 ◦ API設計 ◦ 実装 ◦ テスト実行 8
9. やりたいこと GPTを特定の目的に特化させたい場合は主に下記の方法が考えられる。 ・Fine-tuning モデル自体をさらに学習させる ・In-Context Learning モデルへの入力を工夫する 外部から新しいデータを与える 9 🦜🔗 LangChain
10. LangChainとLlamaIndexの紹介 LangChainとは？ GPTのような大規模言語モデル（LLM）を利用してサービスの開発をしたいときに便利 に使えるライブラリ 10 🦜🔗 LangChain https://python.langchain.com/en/latest/
11. LangChainとLlamaIndexの紹介 以下のような機能があります。 ・LLMs LLMのモデルを指定してAPIを利用する 11 ※実行環境はGoogle ColabでPythonを実行
12. LangChainとLlamaIndexの紹介 ・プロンプトテンプレート 命令文をフォーマットとしてリクエストする 12
13. LangChainとLlamaIndexの紹介 ・メモリ ChatGPTと同じような、 過去の会話のやり取りを記憶するチャットサービスを実現します 13
14. LangChainとLlamaIndexの紹介 ・ドキュメントローダー さまざまなドキュメントを読み込むことができる。対応してるものは以下参照。 https://python.langchain.com/en/latest/modules/indexes/document_loaders.html 14
15. LangChainとLlamaIndexの紹介 LlamaIndexとは？ 外部のデータ（仕様書、レポート、ブログ記事）などをインデックス化し、ChatGPTに質問 することによって、データを元にした回答をさせることができる。 15 出典：Llamaindex を用いた社内文書の ChatGPT QA ツールをチューニングする
16. LangChainとLlamaIndexの紹介 ・WEBのURLからドキュメントを取得してインデックスを作成し、GPTに質問を投げる 16 対象URL：https://www.nijisanji.jp/talents/l/kuzuha
17. LangChainとLlamaIndexの紹介 17 ドキュメントのインデックスされたデータに ついて、保存して確認すると右のような データになります。
18. 活用案 主にLlamaIndexでドキュメントを読み込めば以下のことができそう ・サービス概要をインデックス化し、要件定義をしてもらう ・DBの設計を読み込み、SQLを作成してもらう ・画像もインデックス化できるようなので、マークアップをしてもらう 等 18
19. ライブラリを使うことによってさまざまな外部データをドキュメントとして埋め込めるので、 うまく活用することで期待しているアウトプットを出すよう目指すことができる。 アウトプット精度についてはチューニングする必要がある。 LLMについて以下のドキュメントが分かりやすくまとまってるのでご参考に。 https://book.st-hakky.com/docs/llms-overview/ まとめ 19