Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
全社的な生成AI活用プラットフォームとしての Difyの導入事例紹介
Search
Tokita Mitsuru
June 27, 2024
Technology
26
48k
全社的な生成AI活用プラットフォームとしての Difyの導入事例紹介
Tokita Mitsuru
June 27, 2024
Tweet
Share
Other Decks in Technology
See All in Technology
バッチ処理で悩むバックエンドエンジニアに捧げるAWS Glue入門
diggymo
3
180
LLMを搭載したプロダクトの品質保証の模索と学び
qa
0
1k
【実演版】カンファレンス登壇者・スタッフにこそ知ってほしいマイクの使い方 / 大吉祥寺.pm 2025
arthur1
1
550
Kubernetes における cgroup v2 でのOut-Of-Memory 問題の解決
pfn
PRO
0
470
オブザーバビリティが広げる AIOps の世界 / The World of AIOps Expanded by Observability
aoto
PRO
0
330
バイブスに「型」を!Kent Beckに学ぶ、AI時代のテスト駆動開発
amixedcolor
2
480
ガチな登山用デバイスからこんにちは
halka
1
230
250905 大吉祥寺.pm 2025 前夜祭 「プログラミングに出会って20年、『今』が1番楽しい」
msykd
PRO
1
590
AWSを利用する上で知っておきたい名前解決のはなし(10分版)
nagisa53
9
2.8k
Terraformで構築する セルフサービス型データプラットフォーム / terraform-self-service-data-platform
pei0804
1
120
Flutterでキャッチしないエラーはどこに行く
taiju59
0
220
企業の生成AIガバナンスにおけるエージェントとセキュリティ
lycorptech_jp
PRO
2
140
Featured
See All Featured
Fantastic passwords and where to find them - at NoRuKo
philnash
52
3.4k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
46
7.6k
Testing 201, or: Great Expectations
jmmastey
45
7.6k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
49
3k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
50k
Large-scale JavaScript Application Architecture
addyosmani
512
110k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
32
1.5k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
367
27k
Unsuck your backbone
ammeep
671
58k
Bash Introduction
62gerente
615
210k
Intergalactic Javascript Robots from Outer Space
tanoku
272
27k
Why You Should Never Use an ORM
jnunemaker
PRO
59
9.5k
Transcript
全社的な⽣成AI活⽤プラットフォームとしての Difyの導⼊事例紹介 株式会社カカクコム 時⽥ 充 Copyright © Kakaku.com, Inc. All
Rights Reserved.
⾃社紹介・⾃部⾨紹介 ミッション アドバンストテクノロジー部 先進技術を活⽤し、 全社の業務⽣産性向上と サービスの改善を⽀援する プロダクト ・検索システム ・ビッグデータ処理基盤 ・機械学習システム(レコメンドなど)
・2005年〜2012年 インフラエンジニア ・2013年 カカクコム⼊社 - 価格.comの商品検索システム担当 - 機械学習チームのマネジメント ・2022年 アドバンストテクノロジー部
部⻑ 時⽥ 充 TOKITA Mitsuru テクノロジー本部 アドバンストテクノロジー部 部⻑ ボルダリング (岩ガチ勢(RP3段) -> ジムエンジョイ勢) ゲーム 経歴 趣味 Profile
Agenda ü カカクコムにおける⽣成AIの活⽤状況とDify導⼊の背景 ü Dify全社導⼊に向けた活⽤戦略と選定理由 ü Difyアプリケーションの事例紹介
事業活⽤ 業務活⽤ 2023/5 ChatGPT plugin (⽇本初) 2023/6 ChatGPT plugin 2023/7
AIチャット検索機能(β版) 2024/1 求⼈リアルタイムレコメンド (BERT) 2023/5 GitHub Copilot導⼊ 2023/10 GitHub Copilot導⼊ 2023/12 店舗紹介記事の作成⽀援 2024/1 ユーザ投稿画像の⾃動分類 (CLIP) ※リリースプロジェクトのみ記載 カカクコムにおける⽣成AIの活⽤状況
Dify導⼊の背景 CTOメッセージ@全社⽅針説明会 スピード感に関する部の課題 • 相談件数に対して、対応するAIエンジニアの数が不⾜している • PoCで良い結果が出ても、システム開発に時間がかかる • 個別にシステムをリリースすると、運⽤対応に時間を取られる 解決策
• ⽣成AIの活⽤をより加速させるため、プラットフォームを導⼊ ...etc.
全従業員がターゲット。レベルに応じて段階的に活⽤ Dify全社導⼊に向けた活⽤戦略 ユースケースの分類
※2000名利⽤での試算 Difyの選定理由(他サービスとのコスト⽐較) 他サービスに⽐べて、⼤幅にコストが抑えられる • ⾃社環境に構築可 • ユーザ数単位ではなく、API利⽤頻度に応じた課⾦ • ライセンス費⽤はユーザ数に依らず固定 •
モデルの選択により、コストのコントロールが可能 コスト⽐較表
企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ①Difyアプリの利⽤ログを誰でも閲覧できてしまう
企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ②他者が作ったDifyアプリを編集・削除できてしまう
Dify外での対応 Difyの選定理由 (Community版とEnterprise版の⽐較) 企業利⽤に必要な管理系機能は、Enterprise版で⼤部分カバーできそう(今後検証予定) ⾮機能要件とDifyの対応状況
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援 • ⾮Dify環境にてシステム稼働中
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • チャットボットとして作成 • システム開発期間: 1ヶ⽉ ->
1⽇
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • 既存システムの機能はDifyの標準機能に含まれており、不⾜はなさそう • Difyが導⼊されたらすぐにでもシステムを置き換えたい • 本番システムの管理コストが軽減できる
• 新しいモデルに追従する際の改修コストが軽減できる • 要望: 変数からチャットのタイトルが⽣成できるとなお良い 担当エンジニアのコメント
製品の公式ページ(※参考イメージです) Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 概要: 型番情報を元に、製品の公式ページからスペック情報をまとめる
Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • PoCフェーズ • プロトタイプをDifyのワークフローで作成(3時間)
Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 現状の抽出精度(スペック正解率):58% • 主な精度低下要因と改善案 • プロトタイプをすぐに関係者に試してもらえそう
• プロンプトの改善を⾮エンジニアの専⾨家に協⼒してもらえそう 担当エンジニアのコメント
• ⽣成AIの活⽤を加速させるため、全社的な⽣成AI活⽤ プラットフォームとしてDifyの導⼊プロジェクトを進⾏中 まとめ • プロジェクトを進める中で得られた知⾒やノウハウを 今後も共有していきたい Weʼre Hiring! ⽣成AI活⽤プロジェクトに興味がある⽅、ぜひ懇親会でお声がけください!
ご清聴ありがとうございました!