Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Dify|基礎から最新アップデートまでをサラッと紹介
Search
Shota Totsuka
July 09, 2024
6
1.5k
Dify|基礎から最新アップデートまでをサラッと紹介
Shota Totsuka
July 09, 2024
Tweet
Share
More Decks by Shota Totsuka
See All by Shota Totsuka
Bedrockのモデル評価
totsukash
3
260
Hugging Faceを使いこなして ローカルLLMを推論する
totsukash
3
770
gRPCとConnect
totsukash
1
260
Featured
See All Featured
Design by the Numbers
sachag
278
19k
Side Projects
sachag
452
42k
Git: the NoSQL Database
bkeepers
PRO
425
64k
Web development in the modern age
philhawksworth
205
10k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
167
49k
Scaling GitHub
holman
458
140k
Fontdeck: Realign not Redesign
paulrobertlloyd
81
5.2k
Embracing the Ebb and Flow
colly
84
4.4k
VelocityConf: Rendering Performance Case Studies
addyosmani
325
23k
A Modern Web Designer's Workflow
chriscoyier
692
190k
The Invisible Side of Design
smashingmag
297
50k
Music & Morning Musume
bryan
46
6.1k
Transcript
Dify 基礎から最新アップデートまでをサラッと紹介 2024.07.10 戸塚 翔太
自己紹介 - 戸塚翔太(Blueish) - Go, Rust, Python - 生成AI, 機械学習
- 松尾研GENIAC開発メンバーとして参加 - 静岡県(浜松)に住んでます - 近くの方がいれば、一緒に勉強会しましょう - X: @totsumaru_dot
会社紹介 - 株式会社ブルーイッシュ - Go, Rust, 生成AIエンジニア等募集中 - 興味があれば覗いていただけると嬉しいです -
https://www.blueish.co.jp
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
LLMを使ったアプリを簡単に作成 - OSSのLLMアプリケーション開発プラットフォーム - 開発者が迅速に生成AIアプリケーションを構築できる - Backend-as-a-ServiceとLLMOpsの理念を融合 - ワークフローやチャットbotをノーコード(ローコード)で作成 -
モデル豊富(48時間以内に反映) 1. Difyとは Tips Difyという言葉は、Define + Modifyから来てお り、あなたのAIアプリケーションを定義し、継続的 に改良することを指します。それはあなたのために 作られたものです(Do it for you)。
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
チャットボット or API - 主にチャットUI(APIもあり) - チャットボット - チャットフロー -
エージェント - APIエンドポイント(バッチ処理等) - ワークフロー ※共通で使える機能も多くあります。 2. 全体像
2. 全体像 関係図
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
やろうと思えば大体何でもできる 3. Difyでできること 複雑なワークフローを組むことも可能 ただし、複雑にしたら...
ノード紹介 3. Difyでできること
ナレッジベース - テキストファイルなどをアップロードし、外部情報の参照が可能(RAG) - ベクトル検索・全文検索・ハイブリッド検索に対応 - Rerankにも対応 - Notionから同期 -
ウェブサイトから同期 ← new!! 3. Difyでできること
ツール - 外部サービスを簡単に使えるようにする機能 - ファーストパーティツール、カスタムツールの2 種類がある - Slackへメッセージ送信, Google検索, YouTubeから統計取得...etc
- OpenAPI / Swaggerスキーマの登録で、カスタムツールを使用できる 3. Difyでできること
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
自前ホスト or Difyクラウド - 自前ホスト(ローカル) - git clone → docker
composeですぐにlocalhostで起動 - AWS, VPSなど自分の好きな環境にホスト - バージョンアップ対応など管理+サーバーなどの利用料金は発生するが、Difyへ の直接課金は発生しない - Difyクラウド - Dify側で用意した環境ですぐに公開可能 - 各制限に応じて利用料金が発生 4. デプロイ・ホスティング
クラウド版料金 4. デプロイ・ホスティング
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
Dify UI上でログを一覧表示 - チャット、APIどちらもDifyのUI上でログを確認 - 消費トークン数や応答までにかかった時間なども記録 - 期間の分析も可能 - トータルメッセージ数
- アクティブユーザー数 - トークン使用量 - 平均ユーザーインタラクション数 5. 評価・ログ
LangSmith, Langfuse統合 - v0.6.12(2024.06.28)から導入 - LangSmith: パフォーマンスの監視 - Langfuse: コスト管理,セキュリティの強化
※各サービスの詳細は各自ご確認下さい 5. 評価・ログ
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
v0.6.11 ~ v0.6.13 - v0.6.11(2024.06.15) - Webサイトから同期(Firecrawl)→ ナレッジ保存 - ワークフローにメモを追加
- 新モデル追加 …etc - v0.6.12(2024.06.28) - LangSmith, Langfuse統合 - Claude 3.5 Sonnetモデル追加 - その他機能強化 …etc - v0.6.13(2024.07.09) - パスワードリセット機能を追加 - NominatimによってLLMアプリケーションが地図データを処理可能に - AWS BedrockのClaude 3 tool use使用可能 …etc 6. 最近のアップデート
ご清聴ありがとうございました。