Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Dify|基礎から最新アップデートまでをサラッと紹介
Search
Shota Totsuka
July 09, 2024
7
1.9k
Dify|基礎から最新アップデートまでをサラッと紹介
Shota Totsuka
July 09, 2024
Tweet
Share
More Decks by Shota Totsuka
See All by Shota Totsuka
Mastra活用|Text-to-SQLの実装と応用
totsukash
0
130
Bedrockでのプロンプト管理戦略
totsukash
3
140
Amazon SageMaker AIでモデル開発からデプロイまで試す
totsukash
2
47
Amazon CodeGuruをGitHubと統合して アプリケーションの品質管理を楽にする
totsukash
0
16
AWS Glueで始めるETLパイプライン
totsukash
0
23
Bedrockでガードレールのフィルターを理解する
totsukash
1
68
Amazon Novaを使用した蒸留
totsukash
2
88
SageMaker AIワークフローのあれこれ紹介
totsukash
1
72
Vertex AIで画像分類タスクのデータセットを準備する
totsukash
0
52
Featured
See All Featured
Build your cross-platform service in a week with App Engine
jlugia
231
18k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
44
2.4k
Rails Girls Zürich Keynote
gr2m
95
14k
Designing Experiences People Love
moore
142
24k
Fireside Chat
paigeccino
37
3.5k
Balancing Empowerment & Direction
lara
1
430
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.3k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
18
970
How to Think Like a Performance Engineer
csswizardry
25
1.7k
Designing for humans not robots
tammielis
253
25k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
8
690
Docker and Python
trallard
44
3.5k
Transcript
Dify 基礎から最新アップデートまでをサラッと紹介 2024.07.10 戸塚 翔太
自己紹介 - 戸塚翔太(Blueish) - Go, Rust, Python - 生成AI, 機械学習
- 松尾研GENIAC開発メンバーとして参加 - 静岡県(浜松)に住んでます - 近くの方がいれば、一緒に勉強会しましょう - X: @totsumaru_dot
会社紹介 - 株式会社ブルーイッシュ - Go, Rust, 生成AIエンジニア等募集中 - 興味があれば覗いていただけると嬉しいです -
https://www.blueish.co.jp
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
LLMを使ったアプリを簡単に作成 - OSSのLLMアプリケーション開発プラットフォーム - 開発者が迅速に生成AIアプリケーションを構築できる - Backend-as-a-ServiceとLLMOpsの理念を融合 - ワークフローやチャットbotをノーコード(ローコード)で作成 -
モデル豊富(48時間以内に反映) 1. Difyとは Tips Difyという言葉は、Define + Modifyから来てお り、あなたのAIアプリケーションを定義し、継続的 に改良することを指します。それはあなたのために 作られたものです(Do it for you)。
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
チャットボット or API - 主にチャットUI(APIもあり) - チャットボット - チャットフロー -
エージェント - APIエンドポイント(バッチ処理等) - ワークフロー ※共通で使える機能も多くあります。 2. 全体像
2. 全体像 関係図
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
やろうと思えば大体何でもできる 3. Difyでできること 複雑なワークフローを組むことも可能 ただし、複雑にしたら...
ノード紹介 3. Difyでできること
ナレッジベース - テキストファイルなどをアップロードし、外部情報の参照が可能(RAG) - ベクトル検索・全文検索・ハイブリッド検索に対応 - Rerankにも対応 - Notionから同期 -
ウェブサイトから同期 ← new!! 3. Difyでできること
ツール - 外部サービスを簡単に使えるようにする機能 - ファーストパーティツール、カスタムツールの2 種類がある - Slackへメッセージ送信, Google検索, YouTubeから統計取得...etc
- OpenAPI / Swaggerスキーマの登録で、カスタムツールを使用できる 3. Difyでできること
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
自前ホスト or Difyクラウド - 自前ホスト(ローカル) - git clone → docker
composeですぐにlocalhostで起動 - AWS, VPSなど自分の好きな環境にホスト - バージョンアップ対応など管理+サーバーなどの利用料金は発生するが、Difyへ の直接課金は発生しない - Difyクラウド - Dify側で用意した環境ですぐに公開可能 - 各制限に応じて利用料金が発生 4. デプロイ・ホスティング
クラウド版料金 4. デプロイ・ホスティング
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
Dify UI上でログを一覧表示 - チャット、APIどちらもDifyのUI上でログを確認 - 消費トークン数や応答までにかかった時間なども記録 - 期間の分析も可能 - トータルメッセージ数
- アクティブユーザー数 - トークン使用量 - 平均ユーザーインタラクション数 5. 評価・ログ
LangSmith, Langfuse統合 - v0.6.12(2024.06.28)から導入 - LangSmith: パフォーマンスの監視 - Langfuse: コスト管理,セキュリティの強化
※各サービスの詳細は各自ご確認下さい 5. 評価・ログ
Agenda 1. Difyとは 2. 全体像 3. Difyでできること 4. デプロイ・ホスティング 5.
評価・ログ 6. 最近のアップデート
v0.6.11 ~ v0.6.13 - v0.6.11(2024.06.15) - Webサイトから同期(Firecrawl)→ ナレッジ保存 - ワークフローにメモを追加
- 新モデル追加 …etc - v0.6.12(2024.06.28) - LangSmith, Langfuse統合 - Claude 3.5 Sonnetモデル追加 - その他機能強化 …etc - v0.6.13(2024.07.09) - パスワードリセット機能を追加 - NominatimによってLLMアプリケーションが地図データを処理可能に - AWS BedrockのClaude 3 tool use使用可能 …etc 6. 最近のアップデート
ご清聴ありがとうございました。