{{guidance}}のガイダンス機械学習の社会実装勉強会第24回Henry2023/6/24
View Slide
背景■ LLM (Large Language Model、大規模言語モデル)は世界を席巻している■ OpenAIのChatGPT等だけでなく、オープンソースのLLMも含めて、より効率的に扱うためのライブラリ guidance がマイクロソフトが先日リリース■ langchainとsemantic-kernelがすでにある中で、guidanceについて見ていく2
内容■ テンプレート言語■ 基本文法■ gen関数3
テンプレート言語■ guidanceはHandlebarsというテンプレート言語を採用しています● しかし文法は完全に一致しているわけでもない■ Handlebarsは元々HTMLなどを構成するためのフロントエンドで使われるテンプレート言語● https://handlebarsjs.com/guide/#what-is-handlebars4
基本文法■ どのLLMを使うかを先に指定● 後で引数として渡せるが、事前に指定したほうがわかりやすい■ テンプレートの文字列を渡して、オブジェクトを定義● ここの自由度が高い● 入出力とgen関数■ 呼び出して実行する5
gen関数■ gen関数に色々な引数が渡せる● name● stop● n● temperature● max_tokens● …6
まとめ■ LLMを扱うライブラリ guidance の紹介■ 基本文法と肝心な関数の基本的な紹介■ guidance の他の便利な機能やより高度な使い方も紹介したい7