Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
全社的な生成AI活用プラットフォームとしての Difyの導入事例紹介
Search
Tokita Mitsuru
June 27, 2024
Technology
55k
26
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
全社的な生成AI活用プラットフォームとしての Difyの導入事例紹介
Tokita Mitsuru
June 27, 2024
Transcript
18 slides
全社的な⽣成AI活⽤プラットフォームとしての Difyの導⼊事例紹介 株式会社カカクコム 時⽥ 充 Copyright © Kakaku.com, Inc. All
Rights Reserved.
⾃社紹介・⾃部⾨紹介 ミッション アドバンストテクノロジー部 先進技術を活⽤し、 全社の業務⽣産性向上と サービスの改善を⽀援する プロダクト ・検索システム ・ビッグデータ処理基盤 ・機械学習システム(レコメンドなど)
・2005年〜2012年 インフラエンジニア ・2013年 カカクコム⼊社 - 価格.comの商品検索システム担当 - 機械学習チームのマネジメント ・2022年 アドバンストテクノロジー部
部⻑ 時⽥ 充 TOKITA Mitsuru テクノロジー本部 アドバンストテクノロジー部 部⻑ ボルダリング (岩ガチ勢(RP3段) -> ジムエンジョイ勢) ゲーム 経歴 趣味 Profile
Agenda ü カカクコムにおける⽣成AIの活⽤状況とDify導⼊の背景 ü Dify全社導⼊に向けた活⽤戦略と選定理由 ü Difyアプリケーションの事例紹介
事業活⽤ 業務活⽤ 2023/5 ChatGPT plugin (⽇本初) 2023/6 ChatGPT plugin 2023/7
AIチャット検索機能(β版) 2024/1 求⼈リアルタイムレコメンド (BERT) 2023/5 GitHub Copilot導⼊ 2023/10 GitHub Copilot導⼊ 2023/12 店舗紹介記事の作成⽀援 2024/1 ユーザ投稿画像の⾃動分類 (CLIP) ※リリースプロジェクトのみ記載 カカクコムにおける⽣成AIの活⽤状況
Dify導⼊の背景 CTOメッセージ@全社⽅針説明会 スピード感に関する部の課題 • 相談件数に対して、対応するAIエンジニアの数が不⾜している • PoCで良い結果が出ても、システム開発に時間がかかる • 個別にシステムをリリースすると、運⽤対応に時間を取られる 解決策
• ⽣成AIの活⽤をより加速させるため、プラットフォームを導⼊ ...etc.
全従業員がターゲット。レベルに応じて段階的に活⽤ Dify全社導⼊に向けた活⽤戦略 ユースケースの分類
※2000名利⽤での試算 Difyの選定理由(他サービスとのコスト⽐較) 他サービスに⽐べて、⼤幅にコストが抑えられる • ⾃社環境に構築可 • ユーザ数単位ではなく、API利⽤頻度に応じた課⾦ • ライセンス費⽤はユーザ数に依らず固定 •
モデルの選択により、コストのコントロールが可能 コスト⽐較表
企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ①Difyアプリの利⽤ログを誰でも閲覧できてしまう
企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ②他者が作ったDifyアプリを編集・削除できてしまう
Dify外での対応 Difyの選定理由 (Community版とEnterprise版の⽐較) 企業利⽤に必要な管理系機能は、Enterprise版で⼤部分カバーできそう(今後検証予定) ⾮機能要件とDifyの対応状況
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援 • ⾮Dify環境にてシステム稼働中
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • チャットボットとして作成 • システム開発期間: 1ヶ⽉ ->
1⽇
Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • 既存システムの機能はDifyの標準機能に含まれており、不⾜はなさそう • Difyが導⼊されたらすぐにでもシステムを置き換えたい • 本番システムの管理コストが軽減できる
• 新しいモデルに追従する際の改修コストが軽減できる • 要望: 変数からチャットのタイトルが⽣成できるとなお良い 担当エンジニアのコメント
製品の公式ページ(※参考イメージです) Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 概要: 型番情報を元に、製品の公式ページからスペック情報をまとめる
Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • PoCフェーズ • プロトタイプをDifyのワークフローで作成(3時間)
Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 現状の抽出精度(スペック正解率):58% • 主な精度低下要因と改善案 • プロトタイプをすぐに関係者に試してもらえそう
• プロンプトの改善を⾮エンジニアの専⾨家に協⼒してもらえそう 担当エンジニアのコメント
• ⽣成AIの活⽤を加速させるため、全社的な⽣成AI活⽤ プラットフォームとしてDifyの導⼊プロジェクトを進⾏中 まとめ • プロジェクトを進める中で得られた知⾒やノウハウを 今後も共有していきたい Weʼre Hiring! ⽣成AI活⽤プロジェクトに興味がある⽅、ぜひ懇親会でお声がけください!
ご清聴ありがとうございました!
Other Decks in Technology
See All in Technology
「個社」ではなく「業界」の課題を解く AI 対話開発 ー 価値を広げる設計と、価値を守るエンジニアリング ー
ivry_presentationmaterials
4
870
攻撃と守りは何が変わり、何が変わらないのか~最近の不正アクセスから考える、リスク評価と標準の使いどころ
oidfj
2
320
Context parameters で作る!はじめての型クラス
kworkdev
PRO
1
180
Re:ゼロから始めるシェアハウスのペットな鯖
silmin_
0
270
Welcome JXL!
dynamis
0
120
リリースしたで終わらない。 観測できるフロントエンド開発
yamakenji24
2
240
その修正で本当に速くなったのか? k6とOpenTelemetryで確かめる性能改善 / Performance review with k6 and OpenTelemetry
ymotongpoo
3
440
成長するID管理基盤における運用もコストも犠牲にしないオブザーバビリティ向上の実践 / Improving Observability for a Growing Identity Platform Without Adding Operational Burden or Cost
kaminashi
1
130
サーバーラックは作る時代! 3Dプリンターで作る10インチラックのススメ
jacopen
2
520
常時稼働エージェントの作り方(Claude公式ブログを資料化)
minorun365
PRO
20
29k
「正しいデータ」の定義をAI エージェントとつくるGoogleADKによるデータ品質定義の実践
takaha4k
0
140
共通基盤の実装に Kotlin - Quarkus を選定した理由と採用したアーキテクチャ
nealle
1
160
Featured
See All Featured
The B2B funnel & how to create a winning content strategy
katarinadahlin
PRO
1
620
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
37
6.7k
Navigating the moral maze — ethical principles for Al-driven product design
skipperchong
2
700
How to Ace a Technical Interview
jacobian
280
24k
Leo the Paperboy
mayatellez
11
2.5k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
56
3.5k
Design of three-dimensional binary manipulators for pick-and-place task avoiding obstacles (IECON2024)
konakalab
0
670
Measuring Dark Social's Impact On Conversion and Attribution
stephenakadiri
2
340
AI: The stuff that nobody shows you
jnunemaker
PRO
12
1.3k
Documentation Writing (for coders)
carmenintech
77
5.6k
The Curious Case for Waylosing
cassininazir
1
630
Lightning talk: Run Django tests with GitHub Actions
sabderemane
0
330