DSPy入門 - Speaker Deck

DSPy入門

by TomuHirata

Embed

Start on current slide

Slide 1

Slide 1 text

Slide 2

Slide 2 text

©2025 Databricks Inc. — All rights reserved DSPyとは？ 🧩 シンプルで堅牢な言語モデルとの対話 ● プロンプトなしで言語モデルとの対話を簡素化 ● 高いメンテナンス性 🛠 柔軟なモジュール ● 統一されたインターフェース ● 様々なビルトインモジュール 🔧 自動最適化 ● プロンプトの最適化 ● 言語モデルの重みのファインチューニング 🚀 本番環境対応 ● ストリーミング、非同期処理などを標準搭載 2 DSPyはLLMを従来のプログラミング手法通りに扱えるようにし、モジュラーなAIアプリケーションを作るためのフレームワークです Programming — not prompting — Language Models

Slide 3

Slide 3 text

“DatabricksとDSPyを活用することで、 JetBlueは高度なLLMソリューションをスケールさせ、新たな可能性を切り拓いています。 ” 3 —JetBlue “わずか100件のテストサンプルと 100件の最適化サンプルがあれば、 DSPyに標準搭載されている自動最適化機能を使用して、より高いパフォーマンスを実現できます。” —VMware

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

©2025 Databricks Inc. — All rights reserved プロンプトエンジニアリングはめんどくさい ❌ プロンプトエンジニアリングは時間がかかる ● 文字列の調整による試行錯誤が必要 ● どの変更が実際に効果があるのか不明確 🔁 高いメンテナンスコスト ● タスクごとに多数のプロンプトバリエーション ● プロンプトが数千語に及ぶこともある 🎯 モデルのバイアスに脆弱 ● モデルを切り替える => プロンプトチューニングのやり直し 6 LLMアプリケーションのプロンプトフォルダ

Slide 7

Slide 7 text

©2025 Databricks Inc. — All rights reserved DSPyシグネチャを使いましょう 7 あなたは人間の言語を分析し、微妙な感情のニュアンスを検出するように訓練された高度な感情知能システムです。文章が与えられたら、表現されている主要な感情を特定してください。あなたの分類は、表面的なキーワードだけでなく、話者が伝える根底にある感情や情緒状態を反映する必要があります。文章全体の文脈とトーンに基づいて、以下の感情ラベルのいずれか一つを選択する必要があります：悲しみ、喜び、愛、怒り、恐れ、驚き話者がどのように感じているかを慎重に考慮してください。暗黙の感情的な手がかりや比喩的な表現も含めて判断してください。自信度は0から1で答えて下さい。文章："{sentence}" 予測される感情: 自信度: 感情分析を行うためのプロンプト感情分析を行うためのDSPyシグネチャ

Slide 8

Slide 8 text

©2025 Databricks Inc. — All rights reserved DSPy シグネチャの基本 DSPy Signatureは言語モデルとの対話の入力と出力を定義します。 ● 入力（dspy.InputField()） ● 出力（dspy.OutputField()） ● 型（Pythonのプリミティブ型、Pydanticモデル） ● タスク仕様（シグネチャの指示）フィールドの説明（desc キーワードを通じたフィールドに関する追加情報） 8 指示文フィールド名インプット、アウトプットフィールドの説明タイプヒント

Slide 9

Slide 9 text

Slide 10

Slide 10 text

DSPyアダプターの役割 10 DSPyアダプターはLLMのレスポンスをPythonオブジェクトに変換する明日の東京の天気と気温は何？明日の東京の天気は晴れ、気温は20度 Weather: “晴れ” Temperature: 20 City: “東京” Python インプット Python アウトプット LLM リクエスト LLM レスポンス

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

©2025 Databricks Inc. — All rights reserved DSPy モジュール DSPyモジュールはDSPyプログラムの中核となる構成要素です。 ● シグネチャ：DSPyモジュールは明確な入力と出力の定義を持つ ● 学習可能なパラメータ：DSPyモジュールは学習可能なパラメータを持つ ● 様々な組み込みモジュール：各組み込みモジュールは言語モデルの対話技術を抽象化する ● モジュール性：複数のモジュールを組み合わせてより大きなモジュールを構成できる 13 DSPyプログラムの例シグネチャビルトインモジュールコントロールフロー DSPyモジュール: https://dspy.ai/learn/programming/modules/

Slide 14

Slide 14 text

©2025 Databricks Inc. — All rights reserved ビルトインモジュール単一の言語モデル対話を抽象化する最もシンプルなDSPyモジュール Reasoningモードを使用した対話を実装するDSPyモジュール思考と行動を繰り返すReActパターンを実装するDSPyモジュール dspy.Predict dspy.ChainOfThought dspy.ReAct 14 DSPyは柔軟な開発を可能にする様々な組み込みモジュールを提供します

Slide 15

Slide 15 text

Slide 16

Slide 16 text

Slide 17

Slide 17 text

BootstrapFewshot “DSPY: COMPILING DECLARATIVE LANGUAGE MODEL CALLS INTO SELF-IMPROVING PIPELINES” Omar et al. ICLR 2024 17 最適な少数例を発見する最初のDSPyオプティマイザ最適な少数例を見つけるアルゴリズム (オリジナル論文より)

Slide 18

Slide 18 text

MIPRO “Optimizing Instructions and Demonstrations for Multi-Stage Language Model Programs” Krista and Michael et al. EMNLP 2024 18 ベイズ最適化を利用して最適な指示文と少数例を発見するオプティマイザ MIPROアルゴリズム(オリジナル論文より)

Slide 19

Slide 19 text

GEPA “GEPA: Reﬂective Prompt Evolution Can Outperform Reinforcement Learning” Lakshya et al. 2025 19 実行トレースを基にプロンプトを進化させていく最新オプティマイザ GEPAアルゴリズム(オリジナル論文より)

Slide 20

Slide 20 text

GRPO “DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models” Zhihong et al. 2024 20 GRPOアルゴリズムを利用したファインチューニングを実装 GRPOアルゴリズム(オリジナル論文より)

Slide 21

Slide 21 text

MLﬂowとの連携 21 MLﬂowと組み合わせることでより便利にDSPyを使えます DSPy エージェントの実行トレースプロンプト最適化のトラッキング

Slide 22

Slide 22 text

ご参加ありがとうございました! DSPyについてもっと知りたい方はぜひDSPy公式ドキュメントをご覧ください