{{guidance}}のガイダンス 機械学習の社会実装勉強会第24回 Henry 2023/6/24 

背景 ■ LLM (Large Language Model、大規模言語モデル)は世界を 席巻している ■ OpenAIのChatGPT等だけでなく、オープンソースのLLMも含 めて、より効率的に扱うためのライブラリ guidance がマイクロ ソフトが先日リリース ■ langchainとsemantic-kernelがすでにある中で、guidanceに ついて見ていく 2 

内容 ■ テンプレート言語 ■ 基本文法 ■ gen関数 3 

テンプレート言語 ■ guidanceはHandlebarsというテンプレート言語を採用してい ます ● しかし文法は完全に一致しているわけでもない ■ Handlebarsは元々HTMLなどを構成するためのフロントエンド で使われるテンプレート言語 ● https://handlebarsjs.com/guide/#what-is-handlebars 4 

基本文法 ■ どのLLMを使うかを先に指定 ● 後で引数として渡せるが、事前に指定したほうがわかりやすい ■ テンプレートの文字列を渡して、オブジェクトを定義 ● ここの自由度が高い ● 入出力とgen関数 ■ 呼び出して実行する 5 

gen関数 ■ gen関数に色々な引数が渡せる ● name ● stop ● n ● temperature ● max_tokens ● … 6 

まとめ ■ LLMを扱うライブラリ guidance の紹介 ■ 基本文法と肝心な関数の基本的な紹介 ■ guidance の他の便利な機能やより高度な使い方も紹介した い 7