$30 off During Our Annual Pro Sale. View Details »

{{guidance}}のガイダンス / Guidance of guidance

{{guidance}}のガイダンス / Guidance of guidance

Henry Cui

June 24, 2023
Tweet

More Decks by Henry Cui

Other Decks in Programming

Transcript

  1. {{guidance}}のガイダンス
    機械学習の社会実装勉強会第24回
    Henry
    2023/6/24

    View Slide

  2. 背景
    ■ LLM (Large Language Model、大規模言語モデル)は世界を
    席巻している
    ■ OpenAIのChatGPT等だけでなく、オープンソースのLLMも含
    めて、より効率的に扱うためのライブラリ guidance がマイクロ
    ソフトが先日リリース
    ■ langchainとsemantic-kernelがすでにある中で、guidanceに
    ついて見ていく
    2

    View Slide

  3. 内容
    ■ テンプレート言語
    ■ 基本文法
    ■ gen関数
    3

    View Slide

  4. テンプレート言語
    ■ guidanceはHandlebarsというテンプレート言語を採用してい
    ます
    ● しかし文法は完全に一致しているわけでもない
    ■ Handlebarsは元々HTMLなどを構成するためのフロントエンド
    で使われるテンプレート言語
    ● https://handlebarsjs.com/guide/#what-is-handlebars
    4

    View Slide

  5. 基本文法
    ■ どのLLMを使うかを先に指定
    ● 後で引数として渡せるが、事前に指定したほうがわかりやすい
    ■ テンプレートの文字列を渡して、オブジェクトを定義
    ● ここの自由度が高い
    ● 入出力とgen関数
    ■ 呼び出して実行する
    5

    View Slide

  6. gen関数
    ■ gen関数に色々な引数が渡せる
    ● name
    ● stop
    ● n
    ● temperature
    ● max_tokens
    ● …
    6

    View Slide

  7. まとめ
    ■ LLMを扱うライブラリ guidance の紹介
    ■ 基本文法と肝心な関数の基本的な紹介
    ■ guidance の他の便利な機能やより高度な使い方も紹介した

    7

    View Slide