{{guidance}}のガイダンス / Guidance of guidance

Transcript

1. {{guidance}}のガイダンス
   機械学習の社会実装勉強会第24回
   Henry
   2023/6/24
   

   View Slide

2. 背景
   ■ LLM (Large Language Model、大規模言語モデル)は世界を
   席巻している
   ■ OpenAIのChatGPT等だけでなく、オープンソースのLLMも含
   めて、より効率的に扱うためのライブラリ guidance がマイクロ
   ソフトが先日リリース
   ■ langchainとsemantic-kernelがすでにある中で、guidanceに
   ついて見ていく
   2
   

   View Slide

3. 内容
   ■ テンプレート言語
   ■ 基本文法
   ■ gen関数
   3
   

   View Slide

4. テンプレート言語
   ■ guidanceはHandlebarsというテンプレート言語を採用してい
   ます
   ● しかし文法は完全に一致しているわけでもない
   ■ Handlebarsは元々HTMLなどを構成するためのフロントエンド
   で使われるテンプレート言語
   ● https://handlebarsjs.com/guide/#what-is-handlebars
   4
   

   View Slide

5. 基本文法
   ■ どのLLMを使うかを先に指定
   ● 後で引数として渡せるが、事前に指定したほうがわかりやすい
   ■ テンプレートの文字列を渡して、オブジェクトを定義
   ● ここの自由度が高い
   ● 入出力とgen関数
   ■ 呼び出して実行する
   5
   

   View Slide

6. gen関数
   ■ gen関数に色々な引数が渡せる
   ● name
   ● stop
   ● n
   ● temperature
   ● max_tokens
   ● …
   6
   

   View Slide

7. まとめ
   ■ LLMを扱うライブラリ guidance の紹介
   ■ 基本文法と肝心な関数の基本的な紹介
   ■ guidance の他の便利な機能やより高度な使い方も紹介した
   い
   7
   

   View Slide