Go with the Prompt Flow 機械学習の社会実装勉強会第29回 Henry 2023/11/25 

内容 ■ Azure Machine Learning Prompt FlowというLLM開発全サ イクルをサポートするツールが先日MITライセンスで公開され た ● https://github.com/microsoft/promptflow ■ Prompt Flowがもたらす開発の効率向上 ● フローで速いプロトタイピング ● テストと評価 ● デプロイ 2 

Prompt Flowの基本概念 ■ Flow：Toolの有向グラフ ■ Tool：LLM | Python | Prompt ■ Variants：LLM Toolの違うバージョン ■ Connections：外部認証データの保存 3 

Flowの構成 ■ 公式レポジトリの examples/flows/standard/web-classification を例に ■ 主なファイル ● flow.dag.yaml：flowを定義するファイル ← 主に見ていく ● requirements.txt：ライブラリ依存 ● pyファイル：Python関数の定義ファイル ■ 書き方に従う必要がある ● jinja2ファイル：プロンプトのテンプレートファイル 4 

Flowをローカルに動かす ■ Connectionを作る必要がある ■ 今回はAzureじゃないOpenAIのほうを使う ● connection.yamlを用意 ● Ubuntu等の場合はpip install keyrings.alt 5 

PromptのTestとRun ■ フォルダ内に以下のコマンドでテスト ● pf flow test --flow . ● pf flow test --flow . --inputs url='https://www.youtube.com/watch?v=kYqRtjDBci8' ■ フォルダ内に以下のコマンでRun ● run_name="classification_accuracy_"$(openssl rand -hex 12) ● pf run create --file run.yml --stream --name $run_name ● run visualize --name $run_name ■ 可視化用のhtmlファイルを生成 6 

まとめ ■ Prompt Flowの基本概念 ■ Prompt Flowをローカルで動かした 7