Slide 1

Slide 1 text

全社的な⽣成AI活⽤プラットフォームとしての Difyの導⼊事例紹介 株式会社カカクコム 時⽥ 充 Copyright © Kakaku.com, Inc. All Rights Reserved.

Slide 2

Slide 2 text

⾃社紹介・⾃部⾨紹介 ミッション アドバンストテクノロジー部 先進技術を活⽤し、 全社の業務⽣産性向上と サービスの改善を⽀援する プロダクト ・検索システム ・ビッグデータ処理基盤 ・機械学習システム(レコメンドなど)

Slide 3

Slide 3 text

・2005年〜2012年 インフラエンジニア ・2013年 カカクコム⼊社 - 価格.comの商品検索システム担当 - 機械学習チームのマネジメント ・2022年 アドバンストテクノロジー部 部⻑ 時⽥ 充 TOKITA Mitsuru テクノロジー本部 アドバンストテクノロジー部 部⻑ ボルダリング (岩ガチ勢(RP3段) -> ジムエンジョイ勢) ゲーム 経歴 趣味 Profile

Slide 4

Slide 4 text

Agenda ü カカクコムにおける⽣成AIの活⽤状況とDify導⼊の背景 ü Dify全社導⼊に向けた活⽤戦略と選定理由 ü Difyアプリケーションの事例紹介

Slide 5

Slide 5 text

事業活⽤ 業務活⽤ 2023/5 ChatGPT plugin (⽇本初) 2023/6 ChatGPT plugin 2023/7 AIチャット検索機能(β版) 2024/1 求⼈リアルタイムレコメンド (BERT) 2023/5 GitHub Copilot導⼊ 2023/10 GitHub Copilot導⼊ 2023/12 店舗紹介記事の作成⽀援 2024/1 ユーザ投稿画像の⾃動分類 (CLIP) ※リリースプロジェクトのみ記載 カカクコムにおける⽣成AIの活⽤状況

Slide 6

Slide 6 text

Dify導⼊の背景 CTOメッセージ@全社⽅針説明会 スピード感に関する部の課題 • 相談件数に対して、対応するAIエンジニアの数が不⾜している • PoCで良い結果が出ても、システム開発に時間がかかる • 個別にシステムをリリースすると、運⽤対応に時間を取られる 解決策 • ⽣成AIの活⽤をより加速させるため、プラットフォームを導⼊ ...etc.

Slide 7

Slide 7 text

全従業員がターゲット。レベルに応じて段階的に活⽤ Dify全社導⼊に向けた活⽤戦略 ユースケースの分類

Slide 8

Slide 8 text

※2000名利⽤での試算 Difyの選定理由(他サービスとのコスト⽐較) 他サービスに⽐べて、⼤幅にコストが抑えられる • ⾃社環境に構築可 • ユーザ数単位ではなく、API利⽤頻度に応じた課⾦ • ライセンス費⽤はユーザ数に依らず固定 • モデルの選択により、コストのコントロールが可能 コスト⽐較表

Slide 9

Slide 9 text

企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ①Difyアプリの利⽤ログを誰でも閲覧できてしまう

Slide 10

Slide 10 text

企業利⽤⽬線でDifyを試⽤して出てきた課題の例 ②他者が作ったDifyアプリを編集・削除できてしまう

Slide 11

Slide 11 text

Dify外での対応 Difyの選定理由 (Community版とEnterprise版の⽐較) 企業利⽤に必要な管理系機能は、Enterprise版で⼤部分カバーできそう(今後検証予定) ⾮機能要件とDifyの対応状況

Slide 12

Slide 12 text

Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援 • ⾮Dify環境にてシステム稼働中

Slide 13

Slide 13 text

Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • チャットボットとして作成 • システム開発期間: 1ヶ⽉ -> 1⽇

Slide 14

Slide 14 text

Difyアプリケーションの事例紹介 ⾷べログ 店舗紹介記事の作成⽀援のDifyアプリ移⾏ (トライアル) • 既存システムの機能はDifyの標準機能に含まれており、不⾜はなさそう • Difyが導⼊されたらすぐにでもシステムを置き換えたい • 本番システムの管理コストが軽減できる • 新しいモデルに追従する際の改修コストが軽減できる • 要望: 変数からチャットのタイトルが⽣成できるとなお良い 担当エンジニアのコメント

Slide 15

Slide 15 text

製品の公式ページ(※参考イメージです) Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 概要: 型番情報を元に、製品の公式ページからスペック情報をまとめる

Slide 16

Slide 16 text

Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • PoCフェーズ • プロトタイプをDifyのワークフローで作成(3時間)

Slide 17

Slide 17 text

Difyアプリケーションの事例紹介 価格.com 製品情報登録作業の⾃動化 (トライアル) • 現状の抽出精度(スペック正解率):58% • 主な精度低下要因と改善案 • プロトタイプをすぐに関係者に試してもらえそう • プロンプトの改善を⾮エンジニアの専⾨家に協⼒してもらえそう 担当エンジニアのコメント

Slide 18

Slide 18 text

• ⽣成AIの活⽤を加速させるため、全社的な⽣成AI活⽤ プラットフォームとしてDifyの導⼊プロジェクトを進⾏中 まとめ • プロジェクトを進める中で得られた知⾒やノウハウを 今後も共有していきたい Weʼre Hiring! ⽣成AI活⽤プロジェクトに興味がある⽅、ぜひ懇親会でお声がけください! ご清聴ありがとうございました!