GPT技術活用イベント in 沖縄 - Tomo

OpenAI APIを使った業務改善について考える EC-GAIN 友利裕貴 2023/04/14

アジェンダ・自己紹介・OpenAI APIの概要・やりたいこと・LangChainとLlamaIndexの紹介・活用案・まとめ 2

自己紹介 3

自己紹介株式会社プロトソリューション 2015年~ 　フロントエンドエンジニア株式会社EC-GAIN　2022年~ 　主にフロントをメインにバックエンドなど趣味：コンシューマーゲーム、アニメ 4 友利裕貴（トモリユウキ）

OpenAI APIの概要アプリケーションやシステムに統合ができる。これにより、独自のユースケースや業務フローに合わせてカスタマイズが可能。今回はライブラリを活用するために使用します。新規で登録してから3ヶ月の間は18$まで無料枠があります。 https://openai.com/product 5

OpenAI APIの概要 OpenAI APIで利用できるモデル 6 ・GPT3.5、4 自然言語処理モデルを使用して、質問応答、要約、翻訳など会話型のタスクを処理する・davinci,
curie, babbage, ada テキスト生成タスクに特化・embeddings テキストデータの埋め込み表現を生成したり、テキスト検索を行う

やりたいこと 7

やりたいこと • 以下の開発フローを自動化したい！ ◦ 要件定義 ◦ DB設計 ◦ API設計 ◦
実装 ◦ テスト実行 8

やりたいこと GPTを特定の目的に特化させたい場合は主に下記の方法が考えられる。・Fine-tuning モデル自体をさらに学習させる・In-Context Learning モデルへの入力を工夫する外部から新しいデータを与える 9 🦜🔗
LangChain

LangChainとLlamaIndexの紹介 LangChainとは？ GPTのような大規模言語モデル（LLM）を利用してサービスの開発をしたいときに便利に使えるライブラリ 10 🦜🔗 LangChain https://python.langchain.com/en/latest/

LangChainとLlamaIndexの紹介以下のような機能があります。・LLMs LLMのモデルを指定してAPIを利用する 11 ※実行環境はGoogle ColabでPythonを実行

LangChainとLlamaIndexの紹介・プロンプトテンプレート命令文をフォーマットとしてリクエストする 12

LangChainとLlamaIndexの紹介・メモリ ChatGPTと同じような、過去の会話のやり取りを記憶するチャットサービスを実現します 13

LangChainとLlamaIndexの紹介・ドキュメントローダーさまざまなドキュメントを読み込むことができる。対応してるものは以下参照。 https://python.langchain.com/en/latest/modules/indexes/document_loaders.html 14

LangChainとLlamaIndexの紹介 LlamaIndexとは？外部のデータ（仕様書、レポート、ブログ記事）などをインデックス化し、ChatGPTに質問することによって、データを元にした回答をさせることができる。 15 出典：Llamaindex を用いた社内文書の ChatGPT QA ツールをチューニングする

LangChainとLlamaIndexの紹介・WEBのURLからドキュメントを取得してインデックスを作成し、GPTに質問を投げる 16 対象URL：https://www.nijisanji.jp/talents/l/kuzuha

LangChainとLlamaIndexの紹介 17 ドキュメントのインデックスされたデータについて、保存して確認すると右のようなデータになります。

活用案主にLlamaIndexでドキュメントを読み込めば以下のことができそう・サービス概要をインデックス化し、要件定義をしてもらう・DBの設計を読み込み、SQLを作成してもらう・画像もインデックス化できるようなので、マークアップをしてもらう等 18

ライブラリを使うことによってさまざまな外部データをドキュメントとして埋め込めるので、うまく活用することで期待しているアウトプットを出すよう目指すことができる。アウトプット精度についてはチューニングする必要がある。 LLMについて以下のドキュメントが分かりやすくまとまってるのでご参考に。 https://book.st-hakky.com/docs/llms-overview/ まとめ 19

GPT技術活用イベント in 沖縄 - Tomo

GPT技術活用イベント in 沖縄 - Tomo

y_tomo

Featured

Transcript

OpenAI APIを使った業務改善について考える EC-GAIN 友利裕貴 2023/04/14

アジェンダ・自己紹介・OpenAI APIの概要・やりたいこと・LangChainとLlamaIndexの紹介・活用案・まとめ 2

自己紹介 3

自己紹介株式会社プロトソリューション 2015年~ 　フロントエンドエンジニア株式会社EC-GAIN　2022年~ 　主にフロントをメインにバックエンドなど趣味：コンシューマーゲーム、アニメ 4 友利裕貴（トモリユウキ）

OpenAI APIの概要 OpenAI APIで利用できるモデル 6 ・GPT3.5、4 自然言語処理モデルを使用して、質問応答、要約、翻訳など会話型のタスクを処理する・davinci,

やりたいこと 7

やりたいこと • 以下の開発フローを自動化したい！ ◦ 要件定義 ◦ DB設計 ◦ API設計 ◦

やりたいこと GPTを特定の目的に特化させたい場合は主に下記の方法が考えられる。・Fine-tuning モデル自体をさらに学習させる・In-Context Learning モデルへの入力を工夫する外部から新しいデータを与える 9 🦜🔗

LangChainとLlamaIndexの紹介 LangChainとは？ GPTのような大規模言語モデル（LLM）を利用してサービスの開発をしたいときに便利に使えるライブラリ 10 🦜🔗 LangChain https://python.langchain.com/en/latest/

LangChainとLlamaIndexの紹介以下のような機能があります。・LLMs LLMのモデルを指定してAPIを利用する 11 ※実行環境はGoogle ColabでPythonを実行

LangChainとLlamaIndexの紹介・プロンプトテンプレート命令文をフォーマットとしてリクエストする 12

LangChainとLlamaIndexの紹介・メモリ ChatGPTと同じような、過去の会話のやり取りを記憶するチャットサービスを実現します 13

LangChainとLlamaIndexの紹介・ドキュメントローダーさまざまなドキュメントを読み込むことができる。対応してるものは以下参照。 https://python.langchain.com/en/latest/modules/indexes/document_loaders.html 14

LangChainとLlamaIndexの紹介・WEBのURLからドキュメントを取得してインデックスを作成し、GPTに質問を投げる 16 対象URL：https://www.nijisanji.jp/talents/l/kuzuha

LangChainとLlamaIndexの紹介 17 ドキュメントのインデックスされたデータについて、保存して確認すると右のようなデータになります。