Slide 1
Slide 1 text
Dify
基礎から最新アップデートまでをサラッと紹介
2024.07.10
戸塚 翔太
Slide 2
Slide 2 text
自己紹介
- 戸塚翔太（Blueish）
- Go, Rust, Python
- 生成AI, 機械学習
- 松尾研GENIAC開発メンバーとして参加
- 静岡県（浜松）に住んでます
- 近くの方がいれば、一緒に勉強会しましょう
- X: @totsumaru_dot
Slide 3
Slide 3 text
会社紹介
- 株式会社ブルーイッシュ
- Go, Rust, 生成AIエンジニア等募集中
- 興味があれば覗いていただけると嬉しいです
- https://www.blueish.co.jp
Slide 4
Slide 4 text
Agenda
1. Difyとは
2. 全体像
3. Difyでできること
4. デプロイ・ホスティング
5. 評価・ログ
6. 最近のアップデート
Slide 5
Slide 5 text
Agenda
1. Difyとは
2. 全体像
3. Difyでできること
4. デプロイ・ホスティング
5. 評価・ログ
6. 最近のアップデート
Slide 6
Slide 6 text
LLMを使ったアプリを簡単に作成
- OSSのLLMアプリケーション開発プラットフォーム
- 開発者が迅速に生成AIアプリケーションを構築できる
- Backend-as-a-ServiceとLLMOpsの理念を融合
- ワークフローやチャットbotをノーコード(ローコード)で作成
- モデル豊富(48時間以内に反映）
1. Difyとは
Tips
Difyという言葉は、Define + Modifyから来てお
り、あなたのAIアプリケーションを定義し、継続的
に改良することを指します。それはあなたのために
作られたものです（Do it for you）。
Slide 7
Slide 7 text
Agenda
1. Difyとは
2. 全体像
3. Difyでできること
4. デプロイ・ホスティング
5. 評価・ログ
6. 最近のアップデート
Slide 8
Slide 8 text
チャットボット or API
- 主にチャットUI（APIもあり）
- チャットボット
- チャットフロー
- エージェント
- APIエンドポイント（バッチ処理等）
- ワークフロー
※共通で使える機能も多くあります。
2. 全体像
Slide 9
Slide 9 text
2. 全体像
関係図
Slide 10
Slide 10 text
Agenda
1. Difyとは
2. 全体像
3. Difyでできること
4. デプロイ・ホスティング
5. 評価・ログ
6. 最近のアップデート
Slide 11
Slide 11 text
やろうと思えば大体何でもできる
3. Difyでできること
複雑なワークフローを組むことも可能
ただし、複雑にしたら...
Slide 12
Slide 12 text
ノード紹介
3. Difyでできること
Slide 13
Slide 13 text
ナレッジベース
- テキストファイルなどをアップロードし、外部情報の参照が可能（RAG）
- ベクトル検索・全文検索・ハイブリッド検索に対応
- Rerankにも対応
- Notionから同期
- ウェブサイトから同期 ← new!!
3. Difyでできること
Slide 14
Slide 14 text
ツール
- 外部サービスを簡単に使えるようにする機能
- ファーストパーティツール、カスタムツールの2 種類がある
- Slackへメッセージ送信, Google検索, YouTubeから統計取得...etc
- OpenAPI / Swaggerスキーマの登録で、カスタムツールを使用できる
3. Difyでできること
Slide 15
Slide 15 text
Agenda
1. Difyとは
2. 全体像
3. Difyでできること
4. デプロイ・ホスティング
5. 評価・ログ
6. 最近のアップデート
Slide 16
Slide 16 text
自前ホスト or Difyクラウド
- 自前ホスト（ローカル）
- git clone → docker composeですぐにlocalhostで起動
- AWS, VPSなど自分の好きな環境にホスト
- バージョンアップ対応など管理+サーバーなどの利用料金は発生するが、Difyへ
の直接課金は発生しない
- Difyクラウド
- Dify側で用意した環境ですぐに公開可能
- 各制限に応じて利用料金が発生
4. デプロイ・ホスティング
Slide 17
Slide 17 text
クラウド版料金
4. デプロイ・ホスティング
Slide 18
Slide 18 text
Agenda
1. Difyとは
2. 全体像
3. Difyでできること
4. デプロイ・ホスティング
5. 評価・ログ
6. 最近のアップデート
Slide 19
Slide 19 text
Dify UI上でログを一覧表示
- チャット、APIどちらもDifyのUI上でログを確認
- 消費トークン数や応答までにかかった時間なども記録
- 期間の分析も可能
- トータルメッセージ数
- アクティブユーザー数
- トークン使用量
- 平均ユーザーインタラクション数
5. 評価・ログ
Slide 20
Slide 20 text
LangSmith, Langfuse統合
- v0.6.12(2024.06.28)から導入
- LangSmith: パフォーマンスの監視
- Langfuse: コスト管理,セキュリティの強化
※各サービスの詳細は各自ご確認下さい
5. 評価・ログ
Slide 21
Slide 21 text
Agenda
1. Difyとは
2. 全体像
3. Difyでできること
4. デプロイ・ホスティング
5. 評価・ログ
6. 最近のアップデート
Slide 22
Slide 22 text
v0.6.11 ~ v0.6.13
- v0.6.11（2024.06.15）
- Webサイトから同期（Firecrawl）→ ナレッジ保存
- ワークフローにメモを追加
- 新モデル追加 …etc
- v0.6.12（2024.06.28）
- LangSmith, Langfuse統合
- Claude 3.5 Sonnetモデル追加
- その他機能強化 …etc
- v0.6.13（2024.07.09）
- パスワードリセット機能を追加
- NominatimによってLLMアプリケーションが地図データを処理可能に
- AWS BedrockのClaude 3 tool use使用可能 …etc
6. 最近のアップデート
Slide 23
Slide 23 text
ご清聴ありがとうございました。