Dify触ってみた。

イベント
DifyとAmazon Bedrockで業務改善！生成AI活用LT発表会 NIFTY Tech Talk #24
https://nifty.connpass.com/event/346459/

登壇者
ニフティ株式会社
popopopman

Transcript

1. Copyright © NIFTY Corporation All Rights Reserved.
 ニフティ株式会社 popopopman Dify触ってみた。 NIFTY Tech Talk #24
2. Copyright © NIFTY Corporation All Rights Reserved.
 2
 2
 自己紹介 popopopman 主な担当業務 • 課金、請求関係のシステムの開発/保守/運用 • 書面発送システムの開発/保守/運用 趣味 • イラスト • スニーカー • キースイッチ
3. Copyright © NIFTY Corporation All Rights Reserved.
 3
 3
 目次 01
 Difyとは 02
 Difyでできること 04
 まとめ 03
 作成したものを紹介
4. Copyright © NIFTY Corporation All Rights Reserved.
 Difyとは 4
 Difyとは、AIアプリを簡単に構築・運用できるオープンソースのプラットフォーム ノーコードで生成AIのアプリを作成 直感的な操作でアプリを作成できる。 コードを書かない人でも簡単にAIアプリを作成できる。 複数のテンプレートが用意されており、少し編集するだけで実用的なものを作成できる。 SaaSだけでなく、ソースコードが公開されているためセルフホストすることも可能 SaaSとして利用する場合、無料で試せるサンドボックス環境が提供されており、すぐに試用したいユー ザーに最適。 ローカル環境やAWS上に容易にデプロイできる手順も複数紹介されている。
5. Copyright © NIFTY Corporation All Rights Reserved.
 Difyでできること 5
 テキストファイル、Notion、Webサイトからナレッジを作成 Notionと同期してページを指定、Jina Reader、Firecrawlを使いWebページから情報を取得することが可能。サイト AIエージェントの作成 AIを用いてタスクを分解、機能を呼び出し、実行。 ワークフローの作成 複数のAIモデルやツールなどを組み合わせたタスクを実行することが可能。 APIとして公開 APIキーを発行して外部のシステムからトリガーすることが可能。 Chatbotの作成 ナレッジやシステムプロンプトを設定し、それに応じた回答を生成するbotを作成。
6. Copyright © NIFTY Corporation All Rights Reserved.
 Difyでできること 6
 テキストファイル、Notion、Webサイトからナレッジを作成 連携方法 • テキストファイルをアップロード • Notionと同期してページを指定 • Jina Reader、Firecrawlを使いWeb ページから情報を取得ト
7. Copyright © NIFTY Corporation All Rights Reserved.
 Difyでできること 7
 テキストファイル、Notion、Webサイトからナレッジを作成 テキストに関する以下の設定画面 • チャンク設定 • インデックス方法 • 検索設定 　
8. Copyright © NIFTY Corporation All Rights Reserved.
 Difyでできること 8
 テキストファイル、Notion、Webサイトからナレッジを作成 各設定の意味 • チャンク設定 データを小さなブロック（チャンク）に分割し、効率的に処理できるようにする設定。 汎用：文書を同じサイズに分割。 親子：親と子の2サイズで分割。親は文脈、子は詳細な情報を扱う。 • インデックス方法 ナレッジベースのドキュメントの検索方法。 高品質モード：テキストを数値ベクトルに変換し質問文とのマッチングにより検索。 経済的モード：チャンク当たり、10個のキーワードを使用して検索。 • 検索設定 全文検索：キーワードやフレーズの一致を基に文書を検索。 ベクトル検索：テキストの意味を数値ベクトルに変換し、類似度で検索。 転置インデックス：文書検索を高速化するためのデータ構造を作成。　
9. Copyright © NIFTY Corporation All Rights Reserved.
 Difyでできること 9
 Chatbotの作成 事前にWebページ作成用のプロンプトが入力されたChatbot。 「モダンで角丸なデザイン。グラデーションノイズを使用したログイン画面。」と入力すると
10. Copyright © NIFTY Corporation All Rights Reserved.
 Difyでできること 10
 Chatbotの作成 ログイン画面が生成された。
11. Copyright © NIFTY Corporation All Rights Reserved.
 Difyでできること 11
 ワークフローの作成 メールの文章を選択した設定に応じて書き換 えるワークフロー。 メール本文と以下の2つの設定を選択する。 • 何をするか。(要約／返信／書く／改善) • どう書き換えるか。 この選択を元にワークフローが選択され、 メールの文章を書き換える。 　
12. Copyright © NIFTY Corporation All Rights Reserved.
 出力値 件名：新商品のご案内 いつも弊社の商品をご愛顧いただき、誠にありがとう ございます。 この度、新商品のご案内をさせていただきます。 お客様のお好みに合う新商品を開発いたしました。新 商品は〜 Difyでできること 12
 ワークフローの作成 　 入力値 Email お客様に新商品を案内するメールの文章を日本語で What do you need to do? Improve writing(改善) How do you want it to be polished? (Optional) Improve writing and clarity(文章をわかりやすく する) 　
13. Copyright © NIFTY Corporation All Rights Reserved.
 作成したものを紹介 13
 AIエージェントの作成 / APIとして公開 Slackのワークフローの問い合わせ内容に応じて異なるナレッジベースを検索し 回答するAIエージェントを作成した。
14. Copyright © NIFTY Corporation All Rights Reserved.
 作成したものを紹介 14
 AIエージェントの作成 / APIとして公開 処理の流れ ワークフローで問 い合わせを投げる 問い合わせをスプ レッドシートに保存 Difyに問い合わせ の文章を投げる(発 行されたAPIキー を使用) 問い合わせを分類 し、対応するナレッ ジベースを元に回答 を生成 Slackのチャンネルに 回答が投稿される
15. Copyright © NIFTY Corporation All Rights Reserved.
 作成したものを紹介 15
 AIエージェントの作成 / APIとして公開 ナレッジベースは料理のレシピと魚の釣り方の２つを用意
16. Copyright © NIFTY Corporation All Rights Reserved.
 作成したものを紹介 16
 AIエージェントの作成 / APIとして公開 Slackから問い合わせを投げると。
17. Copyright © NIFTY Corporation All Rights Reserved.
 作成したものを紹介 17
 AIエージェントの作成 / APIとして公開 質問分類器によって振り分けられ、上の料理に関する質問用のワークフローが実行され、
18. Copyright © NIFTY Corporation All Rights Reserved.
 作成したものを紹介 18
 AIエージェントの作成 / APIとして公開 最終的にSlackに回答が投稿される。 これによって、ワークフロー経由でナレッジベースに登録し た知識を元に回答を得ることができる。 応用すれば、Slackの問い合わせのワークフローに対してシ ステムやサービスの仕様を元に一次回答をするbotを作成す ることができそう。 また、APIのため、システムやサービスの仕様を持ったbot のバックエンドのシステムとしても利用可能。 ワークフロー内では、コードの記述も可能なため柔軟に作り 込むことができそう。
19. Copyright © NIFTY Corporation All Rights Reserved.
 まとめ 19
 DifyはノーコードでAIアプリを作成することができる。 • 誰でもbotやワークフローの作成が可能。他システムと連携させる場合、ノーコードは厳しい。 • エンジニア以外からも幅広くアイデアを募ることができるので社内に展開するメリットはある。 • エンジニア目線でも、Chatbotの開発にかかる工数を大きく削減することができると予想される。 料金 • SaaSもあるが、セルフホストと調整によって料金を抑え運用することも可能。 • SaaSのサンドボックスやローカルへのデプロイであれば無料で利用可能。 今後の展開 活用事例を見ると、Webページの要約やホームページへのChatbot設置など、幅広い活用がされており、弊社で も活用の場はありそう。少数のアプリを作成するだけであれば、Lambda等を利用するほうがコストを抑えられ るが、社内に広く展開されれば、開発コストを含めたメリットが十分に見込めると考えられる。
20. Copyright © NIFTY Corporation All Rights Reserved.