$30 off During Our Annual Pro Sale. View Details »

Go with the Prompt Flow

Henry Cui
November 25, 2023

Go with the Prompt Flow

Henry Cui

November 25, 2023
Tweet

More Decks by Henry Cui

Other Decks in Programming

Transcript

  1. 内容 ▪ Azure Machine Learning Prompt FlowというLLM開発全サ イクルをサポートするツールが先日MITライセンスで公開され た •

    https://github.com/microsoft/promptflow ▪ Prompt Flowがもたらす開発の効率向上 • フローで速いプロトタイピング • テストと評価 • デプロイ 2
  2. Prompt Flowの基本概念 ▪ Flow:Toolの有向グラフ ▪ Tool:LLM | Python | Prompt

    ▪ Variants:LLM Toolの違うバージョン ▪ Connections:外部認証データの保存 3
  3. Flowの構成 ▪ 公式レポジトリの examples/flows/standard/web-classification を例に ▪ 主なファイル • flow.dag.yaml:flowを定義するファイル ←

    主に見ていく • requirements.txt:ライブラリ依存 • pyファイル:Python関数の定義ファイル ▪ 書き方に従う必要がある • jinja2ファイル:プロンプトのテンプレートファイル 4
  4. PromptのTestとRun ▪ フォルダ内に以下のコマンドでテスト • pf flow test --flow . •

    pf flow test --flow . --inputs url='https://www.youtube.com/watch?v=kYqRtjDBci8' ▪ フォルダ内に以下のコマンでRun • run_name="classification_accuracy_"$(openssl rand -hex 12) • pf run create --file run.yml --stream --name $run_name • run visualize --name $run_name ▪ 可視化用のhtmlファイルを生成 6