Dify｜基礎から最新アップデートまでをサラッと紹介

Transcript

1. Dify 基礎から最新アップデートまでをサラッと紹介 2024.07.10 戸塚 翔太
2. 自己紹介 - 戸塚翔太（Blueish） - Go, Rust, Python - 生成AI, 機械学習 - 松尾研GENIAC開発メンバーとして参加 - 静岡県（浜松）に住んでます - 近くの方がいれば、一緒に勉強会しましょう - X: @totsumaru_dot
3. 会社紹介 - 株式会社ブルーイッシュ - Go, Rust, 生成AIエンジニア等募集中 - 興味があれば覗いていただけると嬉しいです - https://www.blueish.co.jp
4. Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5. 評価・ログ 6. 最近のアップデート
5. Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5. 評価・ログ 6. 最近のアップデート
6. LLMを使ったアプリを簡単に作成 - OSSのLLMアプリケーション開発プラットフォーム - 開発者が迅速に生成AIアプリケーションを構築できる - Backend-as-a-ServiceとLLMOpsの理念を融合 - ワークフローやチャットbotをノーコード(ローコード)で作成 - モデル豊富(48時間以内に反映） 1. Difyとは Tips Difyという言葉は、Define + Modifyから来てお り、あなたのAIアプリケーションを定義し、継続的 に改良することを指します。それはあなたのために 作られたものです（Do it for you）。
7. Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5. 評価・ログ 6. 最近のアップデート
8. チャットボット or API - 主にチャットUI（APIもあり） - チャットボット - チャットフロー - エージェント - APIエンドポイント（バッチ処理等） - ワークフロー ※共通で使える機能も多くあります。 2. 全体像
9. 2. 全体像 関係図
10. Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5. 評価・ログ 6. 最近のアップデート
11. やろうと思えば大体何でもできる 3. Difyでできること 複雑なワークフローを組むことも可能 ただし、複雑にしたら...
12. ノード紹介 3. Difyでできること
13. ナレッジベース - テキストファイルなどをアップロードし、外部情報の参照が可能（RAG） - ベクトル検索・全文検索・ハイブリッド検索に対応 - Rerankにも対応 - Notionから同期 - ウェブサイトから同期 ← new!! 3. Difyでできること
14. ツール - 外部サービスを簡単に使えるようにする機能 - ファーストパーティツール、カスタムツールの2 種類がある - Slackへメッセージ送信, Google検索, YouTubeから統計取得...etc - OpenAPI / Swaggerスキーマの登録で、カスタムツールを使用できる 3. Difyでできること
15. Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5. 評価・ログ 6. 最近のアップデート
16. 自前ホスト or Difyクラウド - 自前ホスト（ローカル） - git clone → docker composeですぐにlocalhostで起動 - AWS, VPSなど自分の好きな環境にホスト - バージョンアップ対応など管理+サーバーなどの利用料金は発生するが、Difyへ の直接課金は発生しない - Difyクラウド - Dify側で用意した環境ですぐに公開可能 - 各制限に応じて利用料金が発生 4. デプロイ・ホスティング
17. クラウド版料金 4. デプロイ・ホスティング
18. Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5. 評価・ログ 6. 最近のアップデート
19. Dify UI上でログを一覧表示 - チャット、APIどちらもDifyのUI上でログを確認 - 消費トークン数や応答までにかかった時間なども記録 - 期間の分析も可能 - トータルメッセージ数 - アクティブユーザー数 - トークン使用量 - 平均ユーザーインタラクション数 5. 評価・ログ
20. LangSmith, Langfuse統合 - v0.6.12(2024.06.28)から導入 - LangSmith: パフォーマンスの監視 - Langfuse: コスト管理,セキュリティの強化 ※各サービスの詳細は各自ご確認下さい 5. 評価・ログ
21. Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5. 評価・ログ 6. 最近のアップデート
22. v0.6.11 ~ v0.6.13 - v0.6.11（2024.06.15） - Webサイトから同期（Firecrawl）→ ナレッジ保存 - ワークフローにメモを追加 - 新モデル追加 …etc - v0.6.12（2024.06.28） - LangSmith, Langfuse統合 - Claude 3.5 Sonnetモデル追加 - その他機能強化 …etc - v0.6.13（2024.07.09） - パスワードリセット機能を追加 - NominatimによってLLMアプリケーションが地図データを処理可能に - AWS BedrockのClaude 3 tool use使用可能 …etc 6. 最近のアップデート
23. ご清聴ありがとうございました。