Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Amazon Bedrockのビジネスへの適用_ハピタスの事例共有

Amazon Bedrockのビジネスへの適用_ハピタスの事例共有

JAWS-UG AI/ML #20:AWS Expert Online
AWS Expert Online for JAWS-UG #34 事例紹介企業パート
https://youtu.be/6Ud6GgnrU6o

More Decks by 株式会社オズビジョン

Other Decks in Technology

Transcript

  1. © Copyright OZVISION inc. 事業∕プロダクト 01 AWSの⽣成AI活⽤プログラムにて 〜ビジネス検討編〜 03 AWSの⽣成AI活⽤プログラム

    〜実装検討編〜 04 実際の成果物 05 AI導⼊の意思決定までのエピソード 02 短納期ローンチが叶った要因 06 ローンチ後の結果 07
  2. © Copyright OZVISION inc. 4 事業∕プロダクト 社名 設立 所在地 従業員数

    株式会社オズビジョン 2006年5月(現在19期目) 東京都渋谷区神宮前 111名 会社紹介
  3. © Copyright OZVISION inc. 5 事業∕プロダクト ポイントモール ECユーザーとEC事業者を マッチング どこで買ってもWで

    ポイントが貯まる 買取アプリ モノを捨てずに手放したい人と リユース品を買いたい業者をマッチング 簡単・気軽にモノを手放せる 事業 2 ネット広告代理店 メディアやインフルエンサーとEC事業者を マッチング 成果報酬型でコスパ良く集客 事業 3 事業 1 事業概要 広告 B 広告 C 広告 D 広告 E 広告 F 広告A 広告B〜E 広告A
  4. © Copyright OZVISION inc. 6 事業∕プロダクト ECプラットフォーム 
 (マッチング) 


    500万人超 EC利用者 モノを捨てない人 メディア/ インフルエンサー EC事業者 リユース事業者 EC事業者 サービス利用 
 サービス利用 
 サービス利用 
 流通取引総額 (GMV) 
 1,800 億円超
 送客手数料/広告費 (TakeRate) 
 約4%
 購買
 中古買取 
 広告
 3,500件超 ビジネスモデル 〜EC利⽤者とEC事業者のマッチングプラットフォーム〜
  5. © Copyright OZVISION inc. 8 事業∕プロダクト 競争が激しい (成長市場×参入障壁低) EC利用者 (500万/5,000万)

    EC事業者 (3,500/400万) サイト経由
 ポイントバック
 送客
 成果報酬費用
 一時は競合他社が100社以上…
 競合A社 
 競合B社 
 競合C社 
 ハピタスの事業環境(リボンモデル) 広告 B 広告A 広告 C 広告 D 広告 E 広告 F
  6. © Copyright OZVISION inc. オズビジョンが抱えていた課題 11 ⽣成AIを活⽤したいが それを推進できないもどかしさ 2024年 03⽉頃

    開発主導での企画提案が求められている状況下 ⼀案として「⽣成AIを活⽤したい」という意⾒はあったが それを実現するためのスキルセットや⼈材不⾜、 またビジネスアイデアを出す部分での躓きなどにより 推進できないもどかしさがあった 企画
  7. © Copyright OZVISION inc. AWSの「⽣成AI活⽤開始プログラム」との出会い 12 転機が訪れた 2024年 04⽉ AWSの⽣成AI活⽤開始プログラム開催

    ⽀援付きで導⼊に取り組める「渡りに船」の状況 コストや企画の⽀援が受けられる点が経営層に刺さり 短期間で社内稟議決裁 ※コスト⾯は特に経営からの強いオーダーあり 全社全⼒で取り組む機運が⽣まれており プログラムも各部署のキーマンを集めて参戦
  8. © Copyright OZVISION inc. 13 全体スケジュール 4⽉ 5⽉ 6⽉ ワークショップ

    ガントチャート ★4/16 PoC作成ワークショップ 4⽉から着⼿して7/1に無事にローンチ🎉 プロトタイピング 検証 ‧プロトタイ プ検証 ‧精度チュー ニング 本実装 +動作確認 ‧ハピタス側 検索改修 ‧データ登録 処理⽤意 ローンチ ‧⼿順作成 ‧体制決め ‧ローンチ ★4/11 ユースケース確定ワークショップ ★4/10 プログラムキックオフ 社内稟議
  9. © Copyright OZVISION inc. 16 ⽂字列の単純な部分⼀致検索によるノイズの除去 例)【再掲】「ANA」と検索した際に「Banana」を含む広告が上位表⽰されないように プログラムでのビジネス検討 2/2 ビジネス課題解決の打ち⼿ 指名検索だけでなく、フリーワード‧短⽂でも適切な検索を実現

    例)はじめての発⾏におすすめなクレジットカード 広告に紐づくアイコン情報や説明⽂など、案件名以外にも紐づいた検索結果の出⼒ キャンペーン対象‧無料などの情報も元に、ユーザーの求める広告を表⽰ 01 02 03
  10. © Copyright OZVISION inc. 17 明確な意志を持たずに広告を探しているユーザーに対し フリー⼊⼒時の検索結果をより関連度が⾼いと考えられるものに改善 →検索利⽤者のCVRを向上 プログラムでのビジネス検討 まとめ ⽬的

    全検索における CVR を数ポイント改善できると仮定 効果シミュレーション(CVRの改善による売上伸⻑) Amazon Bedrock, AWS Fargate, Aurora Serverless 等の利⽤分 ※当初トークンを多く⾒積もりすぎていたが、AWS⽀援により適切な⾒積もりへ補正 費⽤シミュレーション(運⽤時のAWS費⽤)
  11. © Copyright OZVISION inc. プログラムでの実装検討 19 既存画⾯へ組み込み UIを変えない、作り込まないことが 短期ローンチのためのカギ 組み込み候補何箇所かあり

    ‧サイト内共通検索窓 ‧新規会員オンボーディング⽤広告エリア ※短⽂での検索、アイコン対象などを  将来的には打ち出していきたい!
  12. © Copyright OZVISION inc. 20 プログラムでの実装検討 実装案 広告データのベクトル化 ‧現状のデータ ‧追加/更新データ

    これらを Amazon Aurora Serverless v2 に格納 検索クエリのベクトル化 ‧エンドユーザの⼊⼒内容を ベクトル化し Amazon Aurora Serverless v2 へ問い合わせ →広告 ID を取得することで 適切な検索結果を返すことを検討 初版の実装範囲は⾚枠の部分を想定
  13. © Copyright OZVISION inc. 24 処理の流れ① 登録‧更新 1. ハピタス上広告データの差分 CSV

    ファイルを S3 に定期送信 2. ECS から CSV ファイルを読み取り、 Bedrock (Amazon Titan Text Embeddings モデル v2) を⽤いてベクトルデータを⽣成 3. ⽣成データを PostgreSQL に登録 1 2 3
  14. © Copyright OZVISION inc. 25 処理の流れ② 検索 1. 検索ワードを Bedrock

    (Amazon Titan Text Embeddings モデル v2) を⽤いてベクトルデータに変換 (Lambda 経由) 2. PostgreSQL から、ベクトル値の類似度の⾼い順に広告IDの⼀覧を返却 3. Webサーバ側で、MySQL の最新情報を元に情報のフィルタリング‧補完を⾏い、結果をユーザに返却 1 2 3
  15. © Copyright OZVISION inc. 27 アーキテクチャの⼯夫ポイント 2/5 【Q】ベクトルDBに OpenSearch ではなく Amazon

    Aurora Serverless [PostgreSQL] を利⽤している理由は? • 【A】コスト削減のため コスト削減
  16. © Copyright OZVISION inc. 28 アーキテクチャの⼯夫ポイント 3/5 【Q】ベクトルデータ登録処理に Lambda ではなく ECS

    を使っている理由は? • 【A】ベクトルデータ登録処理に 30 分以上かかるため ◦ Lambda の制約:15分 ◦ コスト⾯では本来は Lambda のほうが優れている 処理に30分かかるため
  17. © Copyright OZVISION inc. 29 アーキテクチャの⼯夫ポイント 4/5 【Q】API Gatewayを通さず、そのまま既存バッチサーバ、既存Webサーバから ベクトルDBの更新をしなかった理由は? •

    【A】python の機械学習ライブラリを最⼤限活⽤するため ◦ 既存環境は PHP ◦ 役割を既存環境に持たせすぎない意図もある
  18. © Copyright OZVISION inc. 30 アーキテクチャの⼯夫ポイント 5/5 【Q】Titan Text Embedding v2

    (2024/4/30 リリース) を採⽤した理由は? • 【A】コスパが良かったため ◦ 当初想定は Cohere Embed Model v3 だが、本実装では Titan Text Embedding v2 でもほぼ同等の結果 ◦ 価格は 1/5 本ユースケースでは 期待結果に差異がなく 価格が1/5
  19. © Copyright OZVISION inc. 32 全体スケジュール【再掲】 4⽉ 5⽉ 6⽉ ワークショップ

    ガントチャート ★4/16 PoC作成ワークショップ 4⽉から着⼿して7/1に無事にローンチ🎉 プロトタイピング 検証 ‧プロトタイ プ検証 ‧精度チュー ニング 本実装 +動作確認 ‧ハピタス側 検索改修 ‧データ登録 処理⽤意 ローンチ ‧⼿順作成 ‧体制決め ‧ローンチ ★4/11 ユースケース確定ワークショップ ★4/10 プログラムキックオフ 社内稟議 生成AIの知見・経験ゼロの状況から、わずか 3ヶ月でローンチ その要因を考えてみた
  20. © Copyright OZVISION inc. 34 意思決定の壁【体制】  └事業、データ、開発のキーマンを揃え、少数精鋭で素早い意思決定 短納期ローンチの成功要因② 短納期を阻む「壁」を乗り越える⼯夫 開発⼯数と期間の壁【スコープ】

     └壮⼤にせず、地に⾜のついた内容で、スコープも絞り込む   └プロダクトの要となる画⾯‧機能をターゲットにする(→検索)   └UIは変えない、作り込まない 稟議の壁【コストと効果】  └事業責任者を体制に組み込み、試算から稟議‧承認まで素早く進⾏させた   └⽀出:⽣成AIの導⼊‧運⽤により発⽣するコスト(開発ボール)   └収⼊:効果⾒⽴て(事業サイドボール) 事業責任者の後ろ盾もあり、各部署のキーマンを揃えて挑んだことで 「壁」を乗り越えやすくなったのは間違いない 01 02 03
  21. © Copyright OZVISION inc. 35 短納期ローンチの成功要因③ 4⽉ 5⽉ 6⽉ ワークショップ

    ガントチャート ★4/16 PoC作成ワークショップ 上流から下流に⾄るまでの「AWSの⼿厚いサポート」が⼼強すぎた プロトタイピング 検証 ‧プロトタイ プ検証 ‧精度チュー ニング 本実装 +動作確認 ‧ハピタス側 検索改修 ‧データ登録 処理⽤意 ローンチ ‧⼿順作成 ‧体制決め ‧ローンチ ★4/11 ユースケース確定ワークショップ ★4/10 プログラムキックオフ 社内稟議 立ち上げから、コスト試算、実装に至るまで すべてのプロセスにおいて「 AWSの手厚いサポート」があったからやり遂げられた AWSの⼿厚いサポート 相談 Q&A 相談 Q&A 相談 Q&A 相談 Q&A
  22. © Copyright OZVISION inc. 38 結果 検索結果の精度が向上🎉 Before After ANA系

    ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 非 ANA系 非 ANA系 非 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系 ANA系
  23. © Copyright OZVISION inc. 39 結果 効果測定の結果(7/1〜11) 表示順 ソート項目 検索回数比率

    1 人気順 ※デフォルト 97% 2 おすすめ (ベータ) ※ベクトル検索 0% 3 新着順 0% 4 高ポイント順 2% 5 高還元率順 0% デフォルトのソートが「人気順」のままで、ベクトル検索を仕込んだ「おすすめ (ベータ)」の利用は1%に満たない状況 ▼ 「認知すらされず使われていない、圧倒的に母数が足りない」 というファインディング
  24. © Copyright OZVISION inc. 40 次のアクション 【対策】デフォルトのソートを半々にしたABテストを実施する A. ⼈気順 ←これまでのデフォルト B.

    おすすめ (ベータ) ←ベクトル検索 2営業日で 実装完了 引き続き 高速PDCA この取り組みを通じて、生成 AIを「社内の業務改善にも役立てたい」という声も集まってくるように ✨✨社内にいい兆しが出ていることが GOOD ✨✨ プロダクト改善 業務改善へも 展開させたい