Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
全社的な生成AI活用プラットフォームとしての Difyの導入事例紹介
Search
Tokita Mitsuru
June 27, 2024
Technology
26
49k
全社的な生成AI活用プラットフォームとしての Difyの導入事例紹介
Tokita Mitsuru
June 27, 2024
Tweet
Share
Other Decks in Technology
See All in Technology
リーダーになったら未来を語れるようになろう/Speak the Future
sanogemaru
0
270
about #74462 go/token#FileSet
tomtwinkle
1
290
BtoBプロダクト開発の深層
16bitidol
0
240
o11yで育てる、強い内製開発組織
_awache
3
110
LLMアプリケーション開発におけるセキュリティリスクと対策 / LLM Application Security
flatt_security
7
1.8k
Exadata Database Service on Dedicated Infrastructure(ExaDB-D) UI スクリーン・キャプチャ集
oracle4engineer
PRO
2
5.4k
AI時代だからこそ考える、僕らが本当につくりたいスクラムチーム / A Scrum Team we really want to create in this AI era
takaking22
6
3.3k
AI ReadyなData PlatformとしてのAutonomous Databaseアップデート
oracle4engineer
PRO
0
160
extension 現場で使えるXcodeショートカット一覧
ktombow
0
210
M5製品で作るポン置きセルラー対応カメラ
sayacom
0
140
Shirankedo NOCで見えてきたeduroam/OpenRoaming運用ノウハウと課題 - BAKUCHIKU BANBAN #2
marokiki
0
110
Goに育てられ開発者向けセキュリティ事業を立ち上げた僕が今向き合う、AI × セキュリティの最前線 / Go Conference 2025
flatt_security
0
350
Featured
See All Featured
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
33
2.5k
What’s in a name? Adding method to the madness
productmarketing
PRO
23
3.7k
Designing for humans not robots
tammielis
254
25k
Art, The Web, and Tiny UX
lynnandtonic
303
21k
Navigating Team Friction
lara
189
15k
Raft: Consensus for Rubyists
vanstee
139
7.1k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
31
9.7k
Documentation Writing (for coders)
carmenintech
75
5k
Agile that works and the tools we love
rasmusluckow
331
21k
The Cost Of JavaScript in 2023
addyosmani
53
9k
Speed Design
sergeychernyshev
32
1.1k
Gamification - CAS2011
davidbonilla
81
5.5k
Transcript
全社的な⽣成AI活⽤プラットフォームとしての Difyの導⼊事例紹介 株式会社カカクコム 時⽥ 充 Copyright © Kakaku.com, Inc. All
Rights Reserved.
⾃社紹介・⾃部⾨紹介 ミッション アドバンストテクノロジー部 先進技術を活⽤し、 全社の業務⽣産性向上と サービスの改善を⽀援する プロダクト ・検索システム ・ビッグデータ処理基盤 ・機械学習システム(レコメンドなど)
・2005年〜2012年 インフラエンジニア ・2013年 カカクコム⼊社 - 価格.comの商品検索システム担当 - 機械学習チームのマネジメント ・2022年 アドバンストテクノロジー部
部⻑ 時⽥ 充 TOKITA Mitsuru テクノロジー本部 アドバンストテクノロジー部 部⻑ ボルダリング (岩ガチ勢(RP3段) -> ジムエンジョイ勢) ゲーム 経歴 趣味 Profile
Agenda ü カカクコムにおける⽣成AIの活⽤状況とDify導⼊の背景 ü Dify全社導⼊に向けた活⽤戦略と選定理由 ü Difyアプリケーションの事例紹介
事業活⽤ 業務活⽤ 2023/5 ChatGPT plugin (⽇本初) 2023/6 ChatGPT plugin 2023/7
AIチャット検索機能(β版) 2024/1 求⼈リアルタイムレコメンド (BERT) 2023/5 GitHub Copilot導⼊ 2023/10 GitHub Copilot導⼊ 2023/12 店舗紹介記事の作成⽀援 2024/1 ユーザ投稿画像の⾃動分類 (CLIP) ※リリースプロジェクトのみ記載 カカクコムにおける⽣成AIの活⽤状況
Dify導⼊の背景 CTOメッセージ@全社⽅針説明会 スピード感に関する部の課題 • 相談件数に対して、対応するAIエンジニアの数が不⾜している • PoCで良い結果が出ても、システム開発に時間がかかる • 個別にシステムをリリースすると、運⽤対応に時間を取られる 解決策
• ⽣成AIの活⽤をより加速させるため、プラットフォームを導⼊ ...etc.
全従業員がターゲット。レベルに応じて段階的に活⽤ Dify全社導⼊に向けた活⽤戦略 ユースケースの分類
※2000名利⽤での試算 Difyの選定理由(他サービスとのコスト⽐較) 他サービスに⽐べて、⼤幅にコストが抑えられる • ⾃社環境に構築可 • ユーザ数単位ではなく、API利⽤頻度に応じた課⾦ • ライセンス費⽤はユーザ数に依らず固定 •
モデルの選択により、コストのコントロールが可能 コスト⽐較表
企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ①Difyアプリの利⽤ログを誰でも閲覧できてしまう
企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ②他者が作ったDifyアプリを編集・削除できてしまう
Dify外での対応 Difyの選定理由 (Community版とEnterprise版の⽐較) 企業利⽤に必要な管理系機能は、Enterprise版で⼤部分カバーできそう(今後検証予定) ⾮機能要件とDifyの対応状況
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援 • ⾮Dify環境にてシステム稼働中
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • チャットボットとして作成 • システム開発期間: 1ヶ⽉ ->
1⽇
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • 既存システムの機能はDifyの標準機能に含まれており、不⾜はなさそう • Difyが導⼊されたらすぐにでもシステムを置き換えたい • 本番システムの管理コストが軽減できる
• 新しいモデルに追従する際の改修コストが軽減できる • 要望: 変数からチャットのタイトルが⽣成できるとなお良い 担当エンジニアのコメント
製品の公式ページ(※参考イメージです) Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 概要: 型番情報を元に、製品の公式ページからスペック情報をまとめる
Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • PoCフェーズ • プロトタイプをDifyのワークフローで作成(3時間)
Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 現状の抽出精度(スペック正解率):58% • 主な精度低下要因と改善案 • プロトタイプをすぐに関係者に試してもらえそう
• プロンプトの改善を⾮エンジニアの専⾨家に協⼒してもらえそう 担当エンジニアのコメント
• ⽣成AIの活⽤を加速させるため、全社的な⽣成AI活⽤ プラットフォームとしてDifyの導⼊プロジェクトを進⾏中 まとめ • プロジェクトを進める中で得られた知⾒やノウハウを 今後も共有していきたい Weʼre Hiring! ⽣成AI活⽤プロジェクトに興味がある⽅、ぜひ懇親会でお声がけください!
ご清聴ありがとうございました!