Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
全社的な生成AI活用プラットフォームとしての Difyの導入事例紹介
Search
Tokita Mitsuru
June 27, 2024
Technology
26
49k
全社的な生成AI活用プラットフォームとしての Difyの導入事例紹介
Tokita Mitsuru
June 27, 2024
Tweet
Share
Other Decks in Technology
See All in Technology
Digitization部 紹介資料
sansan33
PRO
1
5.6k
Copilot Studio ハンズオン - 生成オーケストレーションモード
tomoyasasakimskk
0
180
混合雲環境整合異質工作流程工具運行關鍵業務 Job 的經驗分享
yaosiang
0
120
Introduction to Sansan Meishi Maker Development Engineer
sansan33
PRO
0
310
プロダクトのコードから見るGoによるデザインパターンの実践 #go_night_talk
bengo4com
1
2.7k
「最速」で Gemini CLI を使いこなそう! 〜Cloud Shell/Cloud Run の活用〜 / The Fastest Way to Master the Gemini CLI — with Cloud Shell and Cloud Run
aoto
PRO
0
140
私のMCPの使い方
tsubakimoto_s
0
120
HR Force における DWH の併用事例 ~ サービス基盤としての BigQuery / 分析基盤としての Snowflake ~@Cross Data Platforms Meetup #2「BigQueryと愉快な仲間たち」
ryo_suzuki
0
250
HonoとJSXを使って管理画面をサクッと型安全に作ろう
diggymo
0
150
SCONE - 動画配信の帯域を最適化する新プロトコル
kazuho
1
280
データ戦略部門 紹介資料
sansan33
PRO
1
3.8k
MCP ✖️ Apps SDKを触ってみた
hisuzuya
0
220
Featured
See All Featured
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
234
17k
KATA
mclloyd
PRO
32
15k
A Modern Web Designer's Workflow
chriscoyier
697
190k
Automating Front-end Workflow
addyosmani
1371
200k
Making Projects Easy
brettharned
120
6.4k
YesSQL, Process and Tooling at Scale
rocio
173
14k
Why You Should Never Use an ORM
jnunemaker
PRO
59
9.6k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
9
990
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
230
22k
GraphQLとの向き合い方2022年版
quramy
49
14k
Docker and Python
trallard
46
3.6k
Fantastic passwords and where to find them - at NoRuKo
philnash
52
3.5k
Transcript
全社的な⽣成AI活⽤プラットフォームとしての Difyの導⼊事例紹介 株式会社カカクコム 時⽥ 充 Copyright © Kakaku.com, Inc. All
Rights Reserved.
⾃社紹介・⾃部⾨紹介 ミッション アドバンストテクノロジー部 先進技術を活⽤し、 全社の業務⽣産性向上と サービスの改善を⽀援する プロダクト ・検索システム ・ビッグデータ処理基盤 ・機械学習システム(レコメンドなど)
・2005年〜2012年 インフラエンジニア ・2013年 カカクコム⼊社 - 価格.comの商品検索システム担当 - 機械学習チームのマネジメント ・2022年 アドバンストテクノロジー部
部⻑ 時⽥ 充 TOKITA Mitsuru テクノロジー本部 アドバンストテクノロジー部 部⻑ ボルダリング (岩ガチ勢(RP3段) -> ジムエンジョイ勢) ゲーム 経歴 趣味 Profile
Agenda ü カカクコムにおける⽣成AIの活⽤状況とDify導⼊の背景 ü Dify全社導⼊に向けた活⽤戦略と選定理由 ü Difyアプリケーションの事例紹介
事業活⽤ 業務活⽤ 2023/5 ChatGPT plugin (⽇本初) 2023/6 ChatGPT plugin 2023/7
AIチャット検索機能(β版) 2024/1 求⼈リアルタイムレコメンド (BERT) 2023/5 GitHub Copilot導⼊ 2023/10 GitHub Copilot導⼊ 2023/12 店舗紹介記事の作成⽀援 2024/1 ユーザ投稿画像の⾃動分類 (CLIP) ※リリースプロジェクトのみ記載 カカクコムにおける⽣成AIの活⽤状況
Dify導⼊の背景 CTOメッセージ@全社⽅針説明会 スピード感に関する部の課題 • 相談件数に対して、対応するAIエンジニアの数が不⾜している • PoCで良い結果が出ても、システム開発に時間がかかる • 個別にシステムをリリースすると、運⽤対応に時間を取られる 解決策
• ⽣成AIの活⽤をより加速させるため、プラットフォームを導⼊ ...etc.
全従業員がターゲット。レベルに応じて段階的に活⽤ Dify全社導⼊に向けた活⽤戦略 ユースケースの分類
※2000名利⽤での試算 Difyの選定理由(他サービスとのコスト⽐較) 他サービスに⽐べて、⼤幅にコストが抑えられる • ⾃社環境に構築可 • ユーザ数単位ではなく、API利⽤頻度に応じた課⾦ • ライセンス費⽤はユーザ数に依らず固定 •
モデルの選択により、コストのコントロールが可能 コスト⽐較表
企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ①Difyアプリの利⽤ログを誰でも閲覧できてしまう
企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ②他者が作ったDifyアプリを編集・削除できてしまう
Dify外での対応 Difyの選定理由 (Community版とEnterprise版の⽐較) 企業利⽤に必要な管理系機能は、Enterprise版で⼤部分カバーできそう(今後検証予定) ⾮機能要件とDifyの対応状況
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援 • ⾮Dify環境にてシステム稼働中
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • チャットボットとして作成 • システム開発期間: 1ヶ⽉ ->
1⽇
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • 既存システムの機能はDifyの標準機能に含まれており、不⾜はなさそう • Difyが導⼊されたらすぐにでもシステムを置き換えたい • 本番システムの管理コストが軽減できる
• 新しいモデルに追従する際の改修コストが軽減できる • 要望: 変数からチャットのタイトルが⽣成できるとなお良い 担当エンジニアのコメント
製品の公式ページ(※参考イメージです) Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 概要: 型番情報を元に、製品の公式ページからスペック情報をまとめる
Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • PoCフェーズ • プロトタイプをDifyのワークフローで作成(3時間)
Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 現状の抽出精度(スペック正解率):58% • 主な精度低下要因と改善案 • プロトタイプをすぐに関係者に試してもらえそう
• プロンプトの改善を⾮エンジニアの専⾨家に協⼒してもらえそう 担当エンジニアのコメント
• ⽣成AIの活⽤を加速させるため、全社的な⽣成AI活⽤ プラットフォームとしてDifyの導⼊プロジェクトを進⾏中 まとめ • プロジェクトを進める中で得られた知⾒やノウハウを 今後も共有していきたい Weʼre Hiring! ⽣成AI活⽤プロジェクトに興味がある⽅、ぜひ懇親会でお声がけください!
ご清聴ありがとうございました!