Slide 1

Slide 1 text

© 2024 Reiwa Travel, Inc.
 事例から学ぶ、 toCプロダクトLLM機能のTips @magarashotar [2025/04/16] AI時代のtoCプロダクトマネジメントとは

Slide 2

Slide 2 text

© 2024 Reiwa Travel, Inc.
 2
 経歴 Backendエンジニア @リクルート ↓ EM @リクルート ↓ EM兼PdM @令和トラベル ↓ 執⾏役員VPoE & PdM@令和トラベル ※ CTO of the year2024優勝しました💪 ※ でも今はほぼPdM業しかできてません😇 ※ AIチームの⼀員でもありますが回ってません😇😇 執⾏役員 VPoE & PdM まがら しょうたろう

Slide 3

Slide 3 text

© 2024 Reiwa Travel, Inc.
 3


Slide 4

Slide 4 text

© 2024 Reiwa Travel, Inc.
 4


Slide 5

Slide 5 text

© 2024 Reiwa Travel, Inc.
 5


Slide 6

Slide 6 text

© 2024 Reiwa Travel, Inc.
 6


Slide 7

Slide 7 text

© 2024 Reiwa Travel, Inc.
 7


Slide 8

Slide 8 text

© 2024 Reiwa Travel, Inc.
 8


Slide 9

Slide 9 text

© 2024 Reiwa Travel, Inc.
 9


Slide 10

Slide 10 text

© 2024 Reiwa Travel, Inc.
 ここからが本題 10
 3つ試行錯誤のTips(事例)を共有します。

Slide 11

Slide 11 text

© 2024 Reiwa Travel, Inc.
 ※ご注意 11
 ※あくまでも令和トラベルでこの半年の試行錯誤におけるTipsです。 (Tipsというかまがら個人の学びレベルですが)

Slide 12

Slide 12 text

© 2024 Reiwa Travel, Inc.
 12
 Tips ① 「LLM機能の出力精度」と「利用者の期待値」を合わせる

Slide 13

Slide 13 text

© 2024 Reiwa Travel, Inc.
 事例1: AIトラベルコンシェルジュ機能 13
 🌟 機能概要 ● コンシェルジュの旅行相談をAIチャット bot化するというもの ● ニーズに合ったオーダーメイドの旅行 プランを提案するために、まずは 旅行 ニーズをヒアリングするスコープのみ AI化を目指した 🌟 成果 ● 全然うまくいかなかった😇

Slide 14

Slide 14 text

© 2024 Reiwa Travel, Inc.
 事例1: AIトラベルコンシェルジュ機能 14
 🌟 難しかったポイント ● 人数、エリアなどありふれた項目を聞き 出すだけならフォーム形式で十分 ● チャットならではのコミュニケーションと して、1問1答では終わらない連続した 対話から、旅行ニーズに対する深い洞 察を推定する必要あり ● 察する難しさと、会話の脱線を取り扱う 難しさ

Slide 15

Slide 15 text

© 2024 Reiwa Travel, Inc.
 事例1: AIトラベルコンシェルジュ機能 15
 🌟 難しかったポイント ● でも利用者は、自分でも言語化できな いニーズまで吸い出してなんかいい感 じの提案してくれることを期待している ● それは旅行代理店のプロスタッフに対 する暗黙的な期待値 ● 旅行という商材の特性から機械的条件 だけでは汲み取りきれない機微なニー ズを汲み取った提案は重要だが、その 期待値は高いうえに暗黙的である ● 成功までの技術的ハードルも高く、シン プルに投資対効果が見えにくい

Slide 16

Slide 16 text

© 2024 Reiwa Travel, Inc.
 Tips ① まなび 16
 「LLM機能の出力精度」と「利用者の期待値」を合わせる ⚠現実的な精度でも利用者の期待値に応えることができる位置づけの機能 ❌ AIトラベルコンシェルジュ 󰢏 AI旅行計画アシスト 旅行代理店としての公式見解と、人間らし い接客を期待値として持たれてしまう。。。 キビシイ あくまでも自分の作業の効率化サポートの 位置づけ。精度100%ではなくても自分で 手直ししてトータル便利であれば OK、的な 期待値。いけそう!

Slide 17

Slide 17 text

© 2024 Reiwa Travel, Inc.
 17
 Tips ② 間接的にカスタマー価値を生み出す

Slide 18

Slide 18 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 18
 🌟 機能概要 ● 裏側で約10万件のツアーに自動で特 徴をタグ付けして、ツアー絞り込み機能 を提供するというもの ● ツアーデータをインプットに、各特徴タ グを付与すべきかすべきでないかとい う二値分類問題にLLMを利用 🌟 成果 ● 一部のタグを除き現実的に利用可能な 精度で一括付与が完了 ● 絞り込み利用率も上々🎉

Slide 19

Slide 19 text

© 2024 Reiwa Travel, Inc.
 事例3: マガジン記事の下書き⾃動⽣成 19
 🌟 機能概要 ● NEWT Magazine記事の下書きを自動 で生成する機能 ● 構成フォーマットをもとに一連の記事作 成フローを自動実行 ○ データ収集 ○ 文章生成 ○ 画像選定 ○ CMS入稿

Slide 20

Slide 20 text

© 2024 Reiwa Travel, Inc.
 事例3: マガジン記事の下書き⾃動⽣成 20


Slide 21

Slide 21 text

© 2024 Reiwa Travel, Inc.
 事例3: マガジン記事の下書き⾃動⽣成 21
 🌟 機能概要 ● NEWT Magazine記事の下書きを自動 で生成する機能 ● 構成フォーマットをもとに一連の記事作 成フローを自動実行 ○ データ収集 ○ 文章生成 ○ 画像選定 ○ CMS入稿 🌟 成果 ● フォーマット確立した後の作成スピード はファクトチェックや校閲のみとなり大 幅スピードアップ。コンテンツの量産化 に成功🎉

Slide 22

Slide 22 text

© 2024 Reiwa Travel, Inc.
 Tips ② まなび 22
 間接的にカスタマー価値を生み出す ⚠業務オペレーションの生産性を10Xさせることで新たな価値を創出する “単なる少しの改善ではなく、既存の枠組みを根本的に覆すほどの大幅な 進歩 ー たとえば、速度や効率が従来の10倍になるような革新 ー こそ が、真のイノベーションである”

Slide 23

Slide 23 text

© 2024 Reiwa Travel, Inc.
 23
 Tips ③ いい感じに生成する、などありえない! HITL!

Slide 24

Slide 24 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 24
 レストランの割引特典がつ いているプランで絞り込み たいわよね〜 わかるわかる〜。 おトクって大事〜

Slide 25

Slide 25 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 25
 こういうの、 まさにですね! ですね!ですね!

Slide 26

Slide 26 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 26
 「朝食特典つきのクラブラ ウンジ」は対象ですよね? まあそうですね!

Slide 27

Slide 27 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 27
 ホテル以外でのミールクー ポンは? うーん、ホテルでの特典と いう期待値からするとアウ トか・・・?

Slide 28

Slide 28 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 28
 ミニバー(無料)は? これはさすがに。。。

Slide 29

Slide 29 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 29
 基準を言語化する AIワークフロー(エー ジェント)を更新する アウトプットをみる 本来はこうしたいよね、 を判断する

Slide 30

Slide 30 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 30
 基準を言語化する AIワークフロー(エー ジェント)を更新する アウトプットをみる 本来はこうしたいよね、 を判断する あたりまですが Human-in-the-loop超大事

Slide 31

Slide 31 text

© 2024 Reiwa Travel, Inc.
 事例2: ツアーへの⾃動タグ付け 31
 🚀 Human-in-the-loopを高速にまわすための工夫も重要 1) 精度向上プロジェクトと捉えてプロセスを設計する 2) LangSmithなどで評価収集などLLMOpsを整える 3) アノテーションしてテストデータセットを用意する 4) エッジケースなど発見するたびにテストデータセットを拡充していく

Slide 32

Slide 32 text

© 2024 Reiwa Travel, Inc.
 Tips ③ まなび 32
 いい感じに生成する、などありえない! HITL! ⚠近道はない。愚直こそ王道。 精度向上プロセスを 設計する 要求の言語化を 諦めない アノテーションして テストセットをつくる

Slide 33

Slide 33 text

© 2024 Reiwa Travel, Inc.
 まとめ! 33


Slide 34

Slide 34 text

© 2024 Reiwa Travel, Inc.
 まとめ! 34
 「LLM機能の出力精度」と「利用者の期待値」を合わせる

Slide 35

Slide 35 text

© 2024 Reiwa Travel, Inc.
 まとめ! 35
 「LLM機能の出力精度」と「利用者の期待値」を合わせる 間接的にカスタマー価値を生み出す

Slide 36

Slide 36 text

© 2024 Reiwa Travel, Inc.
 まとめ! 36
 「LLM機能の出力精度」と「利用者の期待値」を合わせる 間接的にカスタマー価値を生み出す いい感じに生成する、などありえない! HITL!

Slide 37

Slide 37 text

© 2024 Reiwa Travel, Inc.
 まとめ! 37
 「LLM機能の出力精度」と「利用者の期待値」を合わせる 間接的にカスタマー価値を生み出す いい感じに生成する、などありえない! HITL! より深く・より細部まで解像度を上げきり カスタマー価値を追求していく泥臭さ

Slide 38

Slide 38 text

Thank you!
 © 2024 Reiwa Travel, Inc.
 38