メルカリでの生成AI活用@2023.09.28

「Microsoftと語る LLM実装の最前線」でのLTスライドです。
https://cto-a.connpass.com/event/292450/

Transcript

1. 1 Confidential メルカリでの生成AI活用 Yuki Ishikawa
2. 2 Confidential 　いしかわ　　 ゆうき 石川 佑樹 株式会社メルカリ 執行役員 VP of Generative AI / LLM 東京大学卒業後、2012年任天堂株式会社入社。2014年にモイ株式会社（ツイ キャス）に入社し、各種開発や新規立ち上げに従事。2017年6月メルカリグループ の株式会社ソウゾウ（旧）に入社。その後、株式会社メルカリへ異動を経て、2020 年7月より株式会社メルペイ執行役員VP of Product。2021年1月から株式会社 ソウゾウ代表取締役CEO。2022年7月から株式会社メルカリ執行役員VPを兼 任。
3. 3 Confidential メルカリでの生成AI活用
4. 4 Confidential 3つの観点 Direction Investment Execution
5. 5 Confidential Direction “AI Driven” • AI Driven For UX • AI Driven For Engineering • AI Driven For Employee Direction
6. 6 Confidential Direction: AI Driven For UX • AIの進化をみた上で、1,3,5年後のメルカリの姿にどうAIが統合されていくと思う か？ • 生成AI/LLM時代の、AIを活かしたプロダクト体験はどんなものであるべきか？ AIを活かした お客さまへのプロダクト体験
7. 7 Confidential Direction: AI Driven For Engineering • AI活用をしやすいデータ・API設計はどういうものか？そのために必要なアクショ ンは何か？ • AIによる自動化やパーソナライズのための必要情報は十分reachableになっ ているか？必要な情報量・幅はあるか？ AIを活かすための基盤投資
8. 8 Confidential Direction: AI Driven For Employee • 全ての領域・職種で、AIと協働してパフォーマンスを発揮できているか？ • AIの最新の進歩と可能性を継続的に学習し、業務に適用する仕組みを構築でき ているか？ AI活用を前提とした 業務設計・組織設計
9. 9 Confidential Investment 機動的に動ける専任チームの組成 • 技術探索 • 既存プロジェクトへの適応 • 新規事業の企画・実装 Investment
10. 10 Confidential Execution 生成AI/LLM専任チームの ミッション • 生成AI/LLM技術を用いた、新たなお客さま体験創出と事業インパク トの最大化 • 全社の生産性の劇的な向上 Execution
11. 11 Confidential Execution 具体的な取り組み
12. 12 Confidential LLMチームでやっていること Enabling と Building
13. 13 Confidential ① ガイドライン策定 • MLチームだけでなく、一般のSWEのチームもプロダクト実装できるように必要 • メルカリ研究開発組織「R4D」とも連携しつつ策定 • 国内外の状況をキャッチアップしつつ、作る。意外と大変。 ② 勉強会・ハッカソン Enabling • 毎週金曜に社内勉強会やってる（ゆるふわ） • 全社のハッカソンにうまく乗っかって、布教活動 • 4月/メルカリJPのハッカソンでLLM Award、6月/メルペイでLLMハッカソン
14. 14 Confidential Building（メルカリ社員専用ツール） 社内の利用促進のため、業務情報を入れても良いメルカリ社員専用の”ChatGPT”を作 成。最近、GPT-4とGoogle PaLMにも対応して、徐々に社内OSS的な運用へ移行。
15. 15 Confidential Enabling & Building（既存プロダクトへの適応） 各Function Team (チーム名はイメージ ) Seller UX Buyer UX CS Fintech LLM team 企画立案、利用モデルの選定、 prompt engineering、プロダクト実装etc B2C XB
16. 16 Confidential Enabling & Building（既存プロダクトへの適応） ② 共創 ① 主導 Functionチームがリード し、LLM周りを必要に 応じて専任チームが確認 するなど並走するケース LLM専任チームが オーナーシップをもち、 企画から実装まで実施す るケース
17. 17 Confidential 施策内容 1. 既存プロダクトへの生成AI・LLM活用 ex: SellerUX, BuyerUX, CS, Fintech, B2C, XB, Marketing, CRM etc 2. 社内ツール実装 ex: 社員専用ChatGPT, Code Interpreter, AI議事録, 多言語化対応 etc 3. 生成AI・LLMを活かした新規事業
18. 18 Confidential モデルの選定 1. LLM APIs ex: Azure OpenAI Service, OpenAI API, Google PaLM2, Claude etc 2. OSS models ex: Llama2, Dolly2.0, OpenLLaMa, Falcon, OpenCALM etc 3. 内製の基盤モデル
19. 19 Confidential ツールの選定 • Retrieval Augmented Generation ◦ 回答に必要な情報を検索してテキストを生成する ◦ ツール：Azure Cognitive Search, Elasticsearch • Function call ◦ 必要なAPIを自分でコールしてアクションを起こす。 Agent作成には必須 ◦ ツール：OpenAI Function calling, LangChain • LLM Pipeline ◦ 上記のような拡張をつなげる。複雑な機能開発には必須。 ◦ ツール：LangChain, Semantic Kernel
20. 20 Confidential リリース済み・進行中事例を一部紹介
21. 21 Confidential SEO改善（リリース済み） SEOに関わるメルカリ検索画面のタイトルをLLMでいい感じに生成 検索結果のタイトル • 「日傘」と「傘」でキー ワードが重複 • ブランド名の表記 カテゴリ X ブランド名を LLMでいい感じに タイトル生成
22. 22 Confidential 商品情報サジェスト（リリース済み） 商品に不足している情報や、売れやすい商品に共通する情報をAIが提案。ルールベー スの実装をLLMで推定に変更。 例： • 購入時の価格 • ブランド名やキーワード
23. 23 Confidential Mercari ChatGPT Plugin（リリース済み）
24. 24 Confidential Mercari ChatGPT Plugin
25. 25 Confidential CS AI Auto Reply（進行中） • お客さまからの一次お問合せに対し て、AIの自動応答で対応
26. 26 Confidential GenAIクリエイティブのCPN, 広告活用（進行中） • 7月は採用クリエイティブでテスト済み • 8月9月はCPN・広告クリエイティブで 活用
27. 27 Confidential We are Hiring! Software Engineer(Full Stack) メルカリグループのデータや基盤を使ってどんどんサービスを作りたい人募集！