{{guidance}}のガイダンス / Guidance of guidance

{{guidance}}のガイダンス機械学習の社会実装勉強会第24回 Henry 2023/6/24

背景 ▪ LLM (Large Language Model、大規模言語モデル)は世界を席巻している ▪ OpenAIのChatGPT等だけでなく、オープンソースのLLMも含めて、より効率的に扱うためのライブラリ
guidance がマイクロソフトが先日リリース ▪ langchainとsemantic-kernelがすでにある中で、guidanceについて見ていく 2

内容 ▪ テンプレート言語 ▪ 基本文法 ▪ gen関数 3

テンプレート言語 ▪ guidanceはHandlebarsというテンプレート言語を採用しています • しかし文法は完全に一致しているわけでもない ▪ Handlebarsは元々HTMLなどを構成するためのフロントエンドで使われるテンプレート言語 •
https://handlebarsjs.com/guide/#what-is-handlebars 4

基本文法 ▪ どのLLMを使うかを先に指定 • 後で引数として渡せるが、事前に指定したほうがわかりやすい ▪ テンプレートの文字列を渡して、オブジェクトを定義 • ここの自由度が高い •
入出力とgen関数 ▪ 呼び出して実行する 5

gen関数 ▪ gen関数に色々な引数が渡せる • name • stop • n •
temperature • max_tokens • … 6

まとめ ▪ LLMを扱うライブラリ guidance の紹介 ▪ 基本文法と肝心な関数の基本的な紹介 ▪ guidance の他の便利な機能やより高度な使い方も紹介した
い 7

{{guidance}}のガイダンス / Guidance of guidance

{{guidance}}のガイダンス / Guidance of guidance

Henry Cui

More Decks by Henry Cui

Other Decks in Programming

Featured

Transcript

{{guidance}}のガイダンス機械学習の社会実装勉強会第24回 Henry 2023/6/24

背景 ▪ LLM (Large Language Model、大規模言語モデル)は世界を席巻している ▪ OpenAIのChatGPT等だけでなく、オープンソースのLLMも含めて、より効率的に扱うためのライブラリ

内容 ▪ テンプレート言語 ▪ 基本文法 ▪ gen関数 3

テンプレート言語 ▪ guidanceはHandlebarsというテンプレート言語を採用しています • しかし文法は完全に一致しているわけでもない ▪ Handlebarsは元々HTMLなどを構成するためのフロントエンドで使われるテンプレート言語 •

基本文法 ▪ どのLLMを使うかを先に指定 • 後で引数として渡せるが、事前に指定したほうがわかりやすい ▪ テンプレートの文字列を渡して、オブジェクトを定義 • ここの自由度が高い •

gen関数 ▪ gen関数に色々な引数が渡せる • name • stop • n •

まとめ ▪ LLMを扱うライブラリ guidance の紹介 ▪ 基本文法と肝心な関数の基本的な紹介 ▪ guidance の他の便利な機能やより高度な使い方も紹介した