Slide 1

Slide 1 text

AbemaTV, Inc. All Rights Reserved
 クリエイティブ制作領域の データ活用を0から推進した話 2024 July 4th
 Kamioka Masaya 1 株式会社AbemaTV 上岡 将也

Slide 2

Slide 2 text

AbemaTV, Inc. All Rights Reserved
 上岡 将也(かみおか まさや) 株式会社AbemaTV Development Headquarters Content Division DX Promotion Team Engineering Manager 2 Profile 所属 経歴 学生時代 入社直後 2019 2021 2022 2024 研究 コンピュータビジョン・画像生成 ML開発 タップル画像監視システムの開発 ML開発 動画解析基盤の開発 PjM・分析 クリエイティブ領域のデータ活用 EM 社内のDXを推進

Slide 3

Slide 3 text

AbemaTV, Inc. All Rights Reserved
 こんなことありませんか? 3

Slide 4

Slide 4 text

AbemaTV, Inc. All Rights Reserved
 4 論文の〇〇を 弊社でも導入したい! 競合の△△ うちでもできない?

Slide 5

Slide 5 text

AbemaTV, Inc. All Rights Reserved
 5 論文の〇〇を 弊社でも導入したい! 競合の〇〇 うちでもできない? 事業・領域の解像度が薄く どこのだれとどうするとよいのかわからない ただ、、、

Slide 6

Slide 6 text

AbemaTV, Inc. All Rights Reserved
 6 データ活用と事業・領域の間にはあらゆる隙間、距離がある(当たり前) データ活用 事業・領域 ?

Slide 7

Slide 7 text

AbemaTV, Inc. All Rights Reserved
 7 今回はデータ活用 と クリエイティブ制作 との間の話をします。 データ活用 クリエイティブ制作

Slide 8

Slide 8 text

AbemaTV, Inc. All Rights Reserved
 8 1. 目的と手段が逆転!映像から最強のクリエイティブ作るんや 2. おっと?クリエイティブのことなんもわかってなかった、、、 3. ABテストによって獲得したナレッジの再現性・インパクトすごい 4. あらデータサイエンティスト・運用がスケールしないぞ? クリエイティブ制作領域のデータ活用の歴史

Slide 9

Slide 9 text

AbemaTV, Inc. All Rights Reserved
 歴史の前に前提を、、、 9

Slide 10

Slide 10 text

AbemaTV, Inc. All Rights Reserved
 10 ABEMAにおけるコンテンツ消費の流れ クリック

Slide 11

Slide 11 text

AbemaTV, Inc. All Rights Reserved
 11 ABEMAにおけるコンテンツ消費の流れ クリック ここで何を見せるかがコンテンツ消費に影響する ・どのコンテンツを見せるか?(推薦) ・どのクリエイティブを見せるか?(クリエイティブ)

Slide 12

Slide 12 text

AbemaTV, Inc. All Rights Reserved
 推薦とクリエイティブの役割の違い 12 ユーザーに表示された コンテンツの魅力を伝える クリエイティブ ユーザーの 好みのコンテンツを表示 推薦 ● 私たち結婚しました ● オオカミちゃん ● 恋愛ドラマな恋がしたい ● チャンスの時間 1. オオカミちゃん 2. 恋愛ドラマな恋がしたい 3. 私たち結婚しました 4. チャンスの時間

Slide 13

Slide 13 text

AbemaTV, Inc. All Rights Reserved
 推薦とクリエイティブの役割の違い 13 ユーザーに表示された コンテンツの魅力を伝える クリエイティブ ユーザーの 好みのコンテンツを表示 推薦 ● 私たち結婚しました ● オオカミちゃん ● 恋愛ドラマな恋がしたい ● チャンスの時間 1. オオカミちゃん 2. 恋愛ドラマな恋がしたい 3. 私たち結婚しました 4. チャンスの時間

Slide 14

Slide 14 text

AbemaTV, Inc. All Rights Reserved
 14 1. 目的と手段が逆転!映像から最強のクリエイティブ作るんや 2. おっと?クリエイティブのことなんもわかってなかった、、、 3. ABテストによって獲得したナレッジの再現性・インパクトすごい 4. あらデータサイエンティスト・運用がスケールしないぞ? クリエイティブ制作領域のデータ活用の歴史

Slide 15

Slide 15 text

AbemaTV, Inc. All Rights Reserved
 きっかけ 15 目的と手段が逆転!映像から最強のクリエイティブ作るんや

Slide 16

Slide 16 text

AbemaTV, Inc. All Rights Reserved
 16 競合他社がクリエイティブ制作にコンピュータビジョンを活用 1: きっかけ 引用: AVA: The Art and Science of Image Discovery at Netflix

Slide 17

Slide 17 text

AbemaTV, Inc. All Rights Reserved
 17 映像データからクリエイティブ制作を自動化するPJTを企画 最強AI 1: きっかけ 競合もやってるし 論文調べて最強AI作りたい

Slide 18

Slide 18 text

AbemaTV, Inc. All Rights Reserved
 18 ただ... 1: きっかけ どういった クリエイティブが ユーザエンゲージ メントを高める?

Slide 19

Slide 19 text

AbemaTV, Inc. All Rights Reserved
 19 ただ... 1: きっかけ そもそもだれが どのようにして クリエイティブを 作っている? どういった クリエイティブが ユーザエンゲージ メントを高める?

Slide 20

Slide 20 text

AbemaTV, Inc. All Rights Reserved
 20 デザイナーを探して聞いてみよう 1: きっかけ デザイナーを 探して聞いてみよう

Slide 21

Slide 21 text

AbemaTV, Inc. All Rights Reserved
 21 ちなみにネタバラシ:この手段は実現可能性が0だった ● ABEMAではそもそも映像からクリエイティブを制作していない ● クリエイティブの構造が複雑すぎた ● クリエイティブを評価する仕組みがない 1: きっかけ

Slide 22

Slide 22 text

AbemaTV, Inc. All Rights Reserved
 22 クリエイティブ制作について何もわからない状態(対象も距離も) データ活用 クリエイティブ制作 △ 1: きっかけ

Slide 23

Slide 23 text

AbemaTV, Inc. All Rights Reserved
 ステークホルダーへのヒアリング 23 おっと?クリエイティブのことなんもわかってなかった...

Slide 24

Slide 24 text

AbemaTV, Inc. All Rights Reserved
 24 ステークホルダーへのヒアリング ● 事前に準備 ○ 見れるデータ・資料は見ておく ■ 相手が何に興味があり、どういう業務をしているのか、目標はなんなのかなど ● やり方 ○ とにかくいろんな人を捕まえて聞く ■ ランチやコーヒーなどいろんな手段で ○ ステークホルダーマップや業務プロセスの可視化を行い、解像度を上げる 2: ステークホルダーへのヒアリグ

Slide 25

Slide 25 text

AbemaTV, Inc. All Rights Reserved
 25 ヒアリング結果 ● どういったクリエイティブがユーザエンゲージメントを高める? ○ 「〇〇風のテキストをいれると効果がいい」という体感 ○ ただし 過去の前後比較によるもの(仮説とファクトが曖昧に) ● そもそもだれがどうやってクリエイティブを作っている? ○ 各番組制作担当が使用する画像、構成、パターンなどすべてを決定していた ■ 毎週番組制作担当とデザイナーで構成のすり合わせMTGがある ○ 映像データからクリエイティブを制作していない ■ クリエイティブにはスチールと呼ばれる撮影時に撮った画像を使用 ● その他 ○ 目標がステークホルダーごとに異なる ■ デザイナー:クリエイティブの指標 ■ 番組制作担当:番組全体の指標 2: ステークホルダーへのヒアリグ

Slide 26

Slide 26 text

AbemaTV, Inc. All Rights Reserved
 26 アクション 2: ステークホルダーへのヒアリング ● どういったクリエイティブがユーザエンゲージメントを高める? ○ 「〇〇風のテキストをいれると効果がいい」という体感 ○ ただし 過去の前後比較によるもの(仮説とファクトが曖昧に) ● そもそもだれがどうやってクリエイティブを作っている? ○ 各番組制作担当が使用する画像、構成、パターンなどすべてを決定 ■ 毎週番組制作担当とデザイナーで構成のすり合わせMTGがある ○ 映像データからクリエイティブを制作していない ■ クリエイティブにはスチールと呼ばれる撮影時にカメラがとった画像を使用 ● その他 ○ 目標がステークホルダーごとに異なる ■ デザイナー:クリエイティブの指標 ■ 番組制作担当:番組全体の指標 ABテストの 開発リクエスト 各番組に ABテストを交渉 目標を統一  ① ABテストの結果  ② ナレッジ数

Slide 27

Slide 27 text

AbemaTV, Inc. All Rights Reserved
 ABテストに協力いただいたコンテンツ 27 番組概要 最高の恋を手にするために集まった男女10人。 ただし、メンバーの中には、 女子側に「恋をしないオオカミちゃん」が1人以上 そして、男子側にも 「恋をしないオオカミくん」が1人以上 潜んでいる。 オオカミの甘い誘惑や嘘に惑わされることなく 最高の恋を見つけることができるのか? 2: ステークホルダーへのヒアリグ

Slide 28

Slide 28 text

AbemaTV, Inc. All Rights Reserved
 28 ヒアリング前 データ活用 クリエイティブ制作 2: ステークホルダーへのヒアリグ

Slide 29

Slide 29 text

AbemaTV, Inc. All Rights Reserved
 29 解像度が上がった。距離はわかったが遠い データ活用 クリエイティブ制作 2: ステークホルダーへのヒアリグ

Slide 30

Slide 30 text

AbemaTV, Inc. All Rights Reserved
 ABテストを実施 30 ABテストによって獲得したナレッジの再現性・インパクトすごい

Slide 31

Slide 31 text

AbemaTV, Inc. All Rights Reserved
 31 第1回:検証に用いたサムネイル 3つのサムネイルでABテストを実施 3: ABテストを実施

Slide 32

Slide 32 text

AbemaTV, Inc. All Rights Reserved
 32 経緯:最初は2枚だった 3: ABテストを実施

Slide 33

Slide 33 text

AbemaTV, Inc. All Rights Reserved
 33 経緯:最初は2枚だった どちらが勝っても 未来のクリエイティブ制作に活かしにくい 番組担当 3: ABテストを実施

Slide 34

Slide 34 text

AbemaTV, Inc. All Rights Reserved
 34 経緯:最初は2枚だった どちらが勝っても 未来のクリエイティブ制作に活かしにくい 番組担当 タイトルロゴのみでやってみませんか? 3: ABテストを実施

Slide 35

Slide 35 text

AbemaTV, Inc. All Rights Reserved
 35 経緯:最初は2枚だった どちらが勝っても 未来のクリエイティブ制作に活かしにくい 番組担当 タイトルロゴのみでやってみませんか? やってみましょう!!! (あんまりやりたくないけど、、、) 3: ABテストを実施

Slide 36

Slide 36 text

AbemaTV, Inc. All Rights Reserved
 36 第1回:結果 高 低 それぞれのサムネイルで差のある結果が得られた +12.5% 3: ABテストを実施

Slide 37

Slide 37 text

AbemaTV, Inc. All Rights Reserved
 37 第1回:検証結果から考えられる仮説 ● キャストの興味がユーザごとに異なる? ● キャプションで差が出ている? ● タイトルの大きさ? +12.5% 3: ABテストを実施

Slide 38

Slide 38 text

AbemaTV, Inc. All Rights Reserved
 38 第1回:検証結果から考えられる仮説 ● タイトルの視認性かも?? 3: ABテストを実施

Slide 39

Slide 39 text

AbemaTV, Inc. All Rights Reserved
 39 第2回:検証に用いたサムネイル ● 検証1回目ではバラバラだった素材画像を統一する ● キービジュアル(オレンジ背景のサムネイル)を追加 3: ABテストを実施

Slide 40

Slide 40 text

AbemaTV, Inc. All Rights Reserved
 40 第2回:結果 高 低 +19.9% 3: ABテストを実施

Slide 41

Slide 41 text

AbemaTV, Inc. All Rights Reserved
 41 第2回:結果 タイトルの視認性が重要な可能性が高い!! 3: ABテストを実施

Slide 42

Slide 42 text

AbemaTV, Inc. All Rights Reserved
 42 第3回:検証に用いたサムネイル ● 検証2回目と同じサムネイル構成を採用し、再現性を確かめる 3: ABテストを実施

Slide 43

Slide 43 text

AbemaTV, Inc. All Rights Reserved
 43 第3回:結果 高 低 +23.4% 3: ABテストを実施

Slide 44

Slide 44 text

AbemaTV, Inc. All Rights Reserved
 44 第3回:結果 タイトルの視認性が重要なことが再確認できた! 3: ABテストを実施

Slide 45

Slide 45 text

AbemaTV, Inc. All Rights Reserved
 45 他番組でも高い再現性 高 低 +7.9% 3: ABテストを実施

Slide 46

Slide 46 text

AbemaTV, Inc. All Rights Reserved
 46 他番組でも高い再現性 高 低 +7.4% 3: ABテストを実施

Slide 47

Slide 47 text

AbemaTV, Inc. All Rights Reserved
 47 結果 ● クリエイティブがコンテンツの消費に大きく影響する ● 再現性のある結果が得られている 3: ABテストを実施

Slide 48

Slide 48 text

AbemaTV, Inc. All Rights Reserved
 48 ABテスト前 データ活用 クリエイティブ制作 3: ABテストを実施

Slide 49

Slide 49 text

AbemaTV, Inc. All Rights Reserved
 49 一部番組でデータ活用が進められる状態になってきた データ活用 クリエイティブ制作 3: ABテストを実施

Slide 50

Slide 50 text

AbemaTV, Inc. All Rights Reserved
 レポート自動化 クリエイティブ配信システムの開発 50 あらデータサイエンティスト・運用がスケールしないぞ?

Slide 51

Slide 51 text

AbemaTV, Inc. All Rights Reserved
 51 結果 4: レポート自動化・クリエイティブ配信システムの開発 ● クリエイティブがコンテンツの消費に大きく影響する ● 再現性のある結果が得られている

Slide 52

Slide 52 text

AbemaTV, Inc. All Rights Reserved
 52 結果 4: レポート自動化・クリエイティブ配信システムの開発 ● クリエイティブがコンテンツの消費に大きく影響する ● 再現性のある結果が得られている 検証・改善を拡大

Slide 53

Slide 53 text

AbemaTV, Inc. All Rights Reserved
 53 ただ、、、

Slide 54

Slide 54 text

AbemaTV, Inc. All Rights Reserved
 54 疲弊するデータサイエンティスト 4: レポート自動化・クリエイティブ配信システムの開発 分析・レポート作成の時間が取れないんで ABテストの番組これ以上増やせないっす データ

Slide 55

Slide 55 text

AbemaTV, Inc. All Rights Reserved
 55 運用も回らない 4: レポート自動化・クリエイティブ配信システムの開発 分析・レポート作成の時間が取れないんで ABテストの番組これ以上増やせないっす 番組担当 データ ABテストのための配信設定など 運用コストが増えていて運用回りません

Slide 56

Slide 56 text

AbemaTV, Inc. All Rights Reserved
 56 スケールしない 4: レポート自動化・クリエイティブ配信システムの開発 番組担当 データ ABテストのための配信設定など 運用コストが増えていて運用回りません データサイエンティストと運用がスケールしない、、、 分析・レポート作成の時間が取れないんで ABテストの番組これ以上増やせないっす

Slide 57

Slide 57 text

AbemaTV, Inc. All Rights Reserved
 レポート自動化 クリエイティブ配信システムの開発 57 あらデータサイエンティスト・運用がスケールしないぞ?

Slide 58

Slide 58 text

AbemaTV, Inc. All Rights Reserved
 58 レポート自動作成ツールを開発 4: レポート自動化・クリエイティブ配信システムの開発 ● レポート、集計などを自動化 ○ ABテストの結果 ■ SlackチャンネルへPDFを毎日自動出力 ○ セグメントごと集計や時系列の変化 ■ Tableau ● データサイエンティストは検証設計と分析深掘りに注力

Slide 59

Slide 59 text

AbemaTV, Inc. All Rights Reserved
 59 クリエイティブ配信システムの開発を提案・PjM 4: レポート自動化・クリエイティブ配信システムの開発 ● 番組制作・デザイナーが簡単に配信設定できるツールを開発 ● 同時に仕様をシンプルに ○ 番組単位の設定に変更 ■ これまで枠、ページごとの運用だった ■ ABテストの結果を考慮 ● ABテストとバンディットを選択可能に ● 縦サムネイルにも対応

Slide 60

Slide 60 text

AbemaTV, Inc. All Rights Reserved
 60 あらゆるジャンルでクリエイティブの検証が可能に データ活用 クリエイティブ制作 4: レポート自動化・クリエイティブ配信システムの開発

Slide 61

Slide 61 text

AbemaTV, Inc. All Rights Reserved
 61 最終的な現状 4: レポート自動化・クリエイティブ配信システムの開発 ● ABテストの設計、推進、振り返りを番組制作担当、デザイナーに委譲 ● 再現性の高いナレッジはレギュレーションとして追加

Slide 62

Slide 62 text

AbemaTV, Inc. All Rights Reserved
 62 正直なところ、、、 4: レポート自動化・クリエイティブ配信システムの開発 ● 課題はある ○ 自動化や委譲により、振り返り、検証設計の精度は多少下がったことは否めない ○ DSがすべてのMTGに出ていたことにより、知見共有やつなぎ合わせて新たな仮説を立てる ことができていた部分はありそう ○ 高度なナレッジを検証するようになり、要素ごとの違いを評価するのが難しくなった ● 感想 ○ データサイエンスをスケールさせるのは非常に難しい、、、 ○ 精度と量のトレードオフ

Slide 63

Slide 63 text

AbemaTV, Inc. All Rights Reserved
 63 同時にデータサイエンスで解決できそうな課題がたくさん見えてきた 4: レポート自動化・クリエイティブ配信システムの開発 ● クリエイティブによる効果には非定常性がありそう? ● クリエイティブを変更するメリット・デメリットがありそう? ● 好みのクリエイティブが異なるユーザセグメントがあるかも ● ユーザに好まれるクリエイティブの要素(e.g. 顔の大きさ、数)がありそう

Slide 64

Slide 64 text

AbemaTV, Inc. All Rights Reserved
 64 若手の発表事例 4: レポート自動化・クリエイティブ配信システムの開発

Slide 65

Slide 65 text

AbemaTV, Inc. All Rights Reserved
 65 インターンの採用にも ※ 現在は終了しています。 4: レポート自動化・クリエイティブ配信システムの開発 こちらの成果を近日中にブログで公開します!

Slide 66

Slide 66 text

AbemaTV, Inc. All Rights Reserved
 66 デザイナーからも嬉しい要求が 4: レポート自動化・クリエイティブ配信システムの開発 デザイナー データ

Slide 67

Slide 67 text

AbemaTV, Inc. All Rights Reserved
 67 デザイナーからも嬉しい要求が 4: レポート自動化・クリエイティブ配信システムの開発 デザイナー 良いクリエイティブは大体同じだから 再利用性を高めたい、正しく一元管理したい データ

Slide 68

Slide 68 text

AbemaTV, Inc. All Rights Reserved
 68 デザイナーからも嬉しい要求が 4: レポート自動化・クリエイティブ配信システムの開発 デザイナー 良いクリエイティブは大体同じだから 再利用性を高めたい、正しく一元管理したい 良いクリエイティブがわかってきたので スチール画像から自動化生成できるのではないか? データ

Slide 69

Slide 69 text

AbemaTV, Inc. All Rights Reserved
 69 デザイナーからも嬉しい要求が 4: レポート自動化・クリエイティブ配信システムの開発 デザイナー 良いクリエイティブは大体同じだから 再利用性を高めたい、正しく一元管理したい 良いクリエイティブがわかってきたので スチール画像から自動化生成できるのではないか? データ やりましょう! (やっと1年前のやりたかったことが、、)

Slide 70

Slide 70 text

AbemaTV, Inc. All Rights Reserved
 70 なぜ間を埋めることができたのか?(考察) ● 企業文化:「素直でいいやつ」「自由と自己責任」「挑戦」 ● インパクトがあり、再現性の高い検証の番組、クリエイティブを選択できた ● ステークホルダー全員で 共通の目標を持つことができた

Slide 71

Slide 71 text

AbemaTV, Inc. All Rights Reserved
 71 1. 目的と手段が逆転!映像から最強のクリエイティブ作るんや 2. おっと?クリエイティブのことなんもわかってなかった、、、 3. ABテストによって獲得したナレッジの再現性・インパクトすごい 4. あらデータサイエンティスト・運用がスケールしないぞ? クリエイティブ制作領域のデータ活用の歴史

Slide 72

Slide 72 text

AbemaTV, Inc. All Rights Reserved
 ありがとうございました。 72