商品属性とレビューの対応関係学習に基づく言語モデル構築

商品属性とレビューの対応関係学習に基づく言語モデル構築兵庫県立大学情報科学研究科山本研究室河田友香

2 商品の属性・属性値の理解は難しい属性名属性値撮像素子フルサイズ画素数 3410万画素最高撮影感度 ISO
51200 … … 商品のスペック画素数3410万ってどれくらいキレイに撮れる？ ISO 51200ってどれくらい良い？

3 研究目的：属性とレビューの関連の理解属性名属性値 𝑎1 = 撮像素子 𝑣1 =
フルサイズ 𝑎2 = 画素数 𝑣2 = 3410万画素 𝑎3 = 最高撮影感度 𝑣3 = ISO 51200 … … 商品の属性・属性値（ 𝐴 ） 𝑟1 = 空の青や木々の緑がとてもきれいに撮影できます。 𝑟1 𝐴 = {(𝑎1 , 𝑣1 ), (𝑎2 , 𝑣2 ), (𝑎3 , 𝑣3 ) ⋯ } モデル属性・属性値集合𝑨を持つ商品に付けられそうなレビュー？ 𝑃(𝐴, 𝑟1 ) = 0.75 レビュー

フルサイズ 𝑎2 = 画素数 𝑣2 = 3410万画素 𝑎3 = 最高撮影感度 𝑣3 = ISO 51200 … … 商品の属性・属性値（ 𝐴 ） 𝑟2 = 発色はきれいだが、画質は良いといえない。 𝑟2 𝐴 = {(𝑎1 , 𝑣1 ), (𝑎2 , 𝑣2 ), (𝑎3 , 𝑣3 ) ⋯ } モデル属性・属性値集合𝑨を持つ商品に付けられそうなレビュー？ 𝑃(𝐴, 𝑟2 ) = 0.15 レビュー

5 このようなモデルが実現できると属性名属性値撮像素子フルサイズ画素数 3410万画素最高撮影感度 ISO
51200 … … レビュースポーツなどの激しい動きも思いのまま撮影できます。運動会での結果はまあまあ。後ろの子にピントが合い、苦労。空の青や木々の緑がとてもきれいに撮影できます。撮影感度に関するレビューは？属性に関連するレビューを探す商品の属性・属性値

このようなモデルが実現できると 6 属性名 A商品 B商品 C商品撮像素子フルサイズ APS-C APS-C
画素数 3410万画素 2410万画素 2150万画素最高撮影感度 ISO 51200 ISO 25600 ISO 51200 どの商品が激しい動きのスポーツ撮影に向いている？テキストと属性値を関連づけて商品を探す … … … …

属性に関連するレビューを探すテキストと属性値を結び付けて商品を探す 7 このようなモデルが実現できると今までにはない視点で商品を探すことが可能になる

フルサイズ 𝑎2 = 画素数 𝑣2 = 3410万画素 𝑎3 = 最高撮影感度 𝑣3 = ISO 51200 … … 商品の属性・属性値（ 𝐴 ） 𝑟1 = 空の青や木々の緑がとてもきれいに撮影できます。 𝑟1 𝐴 = {(𝑎1 , 𝑣1 ), (𝑎2 , 𝑣2 ), (𝑎3 , 𝑣3 ) ⋯ } モデル属性・属性値集合𝑨を持つ商品に付けられそうなレビュー？レビュー P(𝐴, rj ) = 0.75

9 提案手法属性名属性値撮像素子フルサイズ画素数 3410万画素最高撮影感度 ISO
51200 商品の属性 BERT [CLS] ##像素子 512 撮 ISO 全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid 空のます。 … Token ID 関連あり/関連なし … … 空の青や木々の緑が美しく撮影できます。レビュー [SEP] … ##00 … BERTを用いた言語モデル

10 BERT • Transformer Encoderを用いたニューラルネットワークのモデル • ファインチューニングを行うことで様々な自然言語処理タスクを精度よく解くことができる BERT
[CLS] [SEP] ハン ##バーグ。。です全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid 今日のですか … Token ID 関連あり/関連なし 0 1 1 1 1 0 1 0 0 0 0 Segment ID … … …

11 BERTを用いた文と文の関連性推定の例 BERT 全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid …
… Token ID 関連あり/関連なし今日のご飯は何ですか。ハンバーグです。 Segment ID … …

12 BERTを用いた文と文の関連性推定の例 BERT [CLS] [SEP] ハン ##バーグ。。
です全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid 今日のですか … Token ID 関連あり/関連なし今日のご飯は何ですか。ハンバーグです。関連あり 0 0 1 1 1 0 1 0 0 0 0 Segment ID … … … Segment IDによって1文目か2文目かを判断

13 提案手法: テキストと属性の関連性推定 BERT 全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid …
Token ID 関連あり/関連なし属性名属性値撮像素子フルサイズ画素数 3410万画素最高撮影感度 ISO 51200 … … 商品の属性空の青や木々の緑が美しく撮影できます。レビュー

属性名属性値撮像素子フルサイズ画素数 3410万画素最高撮影感度 ISO 51200 商品の属性
14 提案手法: テキストと属性の関連性推定 BERT [CLS] ##像素子 512 撮 ISO 全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid 空のます。 … Token ID 関連あり/関連なし … … 空の青や木々の緑が美しく撮影できます。レビュー [SEP] … ##00 …

15 提案手法: テキストと属性の関連性推定 BERT [CLS] ##像素子 512 撮 ISO 全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid 空のます。 … Token ID 関連あり/関連なし … … 空の青や木々の緑が美しく撮影できます。レビュー [SEP] … ##00 … 撮像素子:フルサイズ、画素数:3410万、最高撮影感度:51200・・・のように属性名と属性値のペアを繋げて入力

16 対応関係属性名属性値撮像素子フルサイズ画素数 3410万画素最高撮影感度 ISO
51200 … … 属性名属性値撮像素子 APS-C 画素数 2150万画素最高撮影感度 ISO 51200 … … 発色はきれいだが画質はまあまあ空の青や木々の緑が美しく撮影できます。商品Aのレビュー商品Aの属性商品Bのレビュー商品Bの属性関連あり・関連なしを対応関係と呼ぶ

17 対応関係学習 BERT [CLS] ##像素子 512 撮 ISO 全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid 空のます。 … Token ID 関連あり/関連なし … … 空の青や木々の緑が美しく撮影できます。レビュー [SEP] … ##00 … 関連ありなしを学習することを対応関係学習と呼ぶ

18 技術的課題 BERT [CLS] ##像素子 512 撮 ISO 全結合層正解との誤差を計算（クロスエントロピー）損失値逆伝播 Sigmoid 空のます。 … Token ID 関連あり/関連なし … … 空の青や木々の緑が美しく撮影できます。レビュー [SEP] … ##00 … 数値を含む属性値をどのように扱うか技術的課題

19 数値の処理 1193万画素 6100万画素数値の大小関係をモデルが理解するのは難しい数値の大きさをモデルに理解させたいトークン化 '119', '##30',
'##000', '画素' '610', '##000', '##00', '画素'

20 数値を含む属性値を扱うための工夫 1.量的データを含む属性値の処理 2.属性名、属性値、レビューの区別

21 数値を含む属性値を扱うための工夫 1.量的データを含む属性値の処理 2.属性名、属性値、レビューの区別

1.カテゴリ化&トークン化 2.カテゴリ化&数値化 3.桁数を表すトークンを追加 22 量的データを含む属性値の処理

• 量的データを含む属性値をカテゴリ化 • 属性ごとに属性値を表現するトークンを用意 24 量的データをカテゴリ化&トークン化 1193万画素 6100万画素 2470万画素
画素数:[gaso_1] 画素数:[gaso_3] 画素数:[gaso_4] 数値を含む属性値の大きさに複数のカテゴリがあることが理解できる

25 トークンを追加する問題点 1193万画素 6100万画素 2470万画素画素数 580g 580g 285g 重量
画素数:[gaso_1] 画素数:[gaso_3] 画素数:[gaso_4] 重量:[weight_3] 重量:[weight _1] 重量:[weight _3] 属性ごとにトークンを追加するため学習すべき重みの数が増えてしまう

• カテゴリ化に数値を使用する • もともとの数字が持つ意味が失われる可能性あり 27 量的データをカテゴリ化&数値化 1193万画素 6100万画素 2470万画素画素数:1
画素数: 3 画素数: 4 数値のみで表現するため新たに学習すべき重みの数が増えない

29 量的データを桁数を表すトークンで表現 262g 1270g 285g Xikun Zhang, Deepak Ramachandran,
Ian Tenney, Yanai Elazar, Dan Roth: Do Language Embeddings Capture Scales?, Findings of the Association for Computational Linguistics, pp.4889–4896, 2020. • 数値の桁数を表す特殊トークンを追加 • [EXP]トークンを使用することで数値の大きさを捉えられる重量: 262[EXP]2 重量: 285[EXP]2 重量: 1270[EXP]3 桁数の異なる属性値についてスケールを捉えられる

手法入力方法利点追加されるトークン数カテゴリ化 & トークン化画素数:[gaso_1] 大きさを種類と
して捉えることができる属性数× カテゴリ数カテゴリ化 &数値化画素数:1 学習すべき重みが増えずに済む 0 桁数を表すトークンを追加画素数: 1193[EXP]3 数値のスケールを捉えることができる 1 30 量的データを含む属性値の処理

31 対応関係を学習するための工夫 1.量的データを含む属性値の処理 2.属性名、属性値、レビューの区別

テキストの入力からレビュー、属性名、属性値を区別する必要がある 32 Segment IDによる入力の区別 BERT [CLS] 画素数
: [SEP] [SEP] [gaso_1] 全結合層正解との誤差を計算（クロスエントロピー）逆伝播 Sigmoid この商品 … です。 … Token ID 損失値関連あり/関連なし

• Segment IDを2種類とする • レビューに0、属性名・属性値に1を割り当てる 33 Segment IDによる入力の区別 BERT
[CLS] 画素数 : [SEP] [SEP] 3600 全結合層正解との誤差を計算（クロスエントロピー）逆伝播 Sigmoid 0 0 0 0 1 1 1 1 1 この商品 … … … 0 です 0 。 … Token ID 関連あり/関連なし Segment ID 損失値

• Segment IDを3種類とする • レビューに0、属性名に1、属性値に2を割り当てる 34 Segment IDによる入力の区別 BERT
[CLS] 画素数 : [SEP] [SEP] 3600 全結合層正解との誤差を計算（クロスエントロピー）逆伝播 Sigmoid 0 0 0 0 1 1 2 1 2 この商品 … … … 0 です 0 。 … Token ID Segment ID 損失値関連あり/関連なし

35 Segment IDを3種類にすると利点 • レビュー、属性名、属性値の区別がつく欠点 • 事前学習済みモデルではSegment IDは2種類
• 新たなIDを用意するため、学習する重みが増えてしまう

目的 • どの手法が対応関係を当てるのに適しているのか使用データ • 価格ドットコムのカメラ508商品、23,381件のレビュー（一眼レフ、ミラーレス一眼） • 属性値のコサイン類似度を求め、0.95以下の商品を負例としてランダムに抽出する
• 後継商品やレンズキットなどの酷似した商品を負例として学習しないため • 価格ドットコムの評価観点に関するレビューを1文ずつ使用（文書長は中央50%である19文字以上47文字以下。） 36 評価実験

37 価格ドットコムのレビュー【画質】上位機種と同じ最新の機能なので最高です。また上位機種に無いAUTOモードでの撮影も素晴らしいと思います。【操作性】ダイヤルが使いやすいので良い。評価観点 8種類の評価観点（デザイン、画質、操作性、
バッテリー、携帯性、機能性、液晶、ホールド感）に関するテキストを抽出

38 実験に用いた属性属性名データの形式メーカーカテゴリ（CANON、SONY…）タイプカテゴリ（一眼レフ、ミラーレス）画素数数値
撮像素子カテゴリ（フルサイズ、APS-C）最低・最高撮影感度数値最低・最高シャッタースピード数値撮影枚数数値防塵・防滴カテゴリ（あり、なし）幅数値高さ数値奥行数値可動式モニタカテゴリ（バリアングル、チルト）重量数値カラーカテゴリ

39 実験に用いた属性属性名データの形式メーカーカテゴリ（CANON、SONY…）タイプカテゴリ（一眼レフ、ミラーレス）画素数数値
撮像素子カテゴリ（フルサイズ、APS-C）最低・最高撮影感度数値最低・最高シャッタースピード数値撮影枚数数値防塵・防滴カテゴリ（あり、なし）幅数値高さ数値奥行数値可動式モニタカテゴリ（バリアングル、チルト）重量数値カラーカテゴリ

ベースライン • 属性値を数値のまま入力する提案手法 • 量的データをカテゴリ化&トークン化 • 量的データをカテゴリ化&数値化 • 数値の桁数を表すトークンの追加
40 比較手法 Segment IDが2種類の場合、3種類の場合をそれぞれ比較する

学習・評価データ • 訓練: 87,165件、検証: 9,685件で学習（196種類425商品のテキスト） • 評価: 11,067件（20種類50商品のテキスト）学習条件
• 東北大学乾研究室事前学習済みモデル • 最大入力トークン数: 256 • 損失関数: 交差エントロピー • 学習率: 2 × 10−6 • Patienceを10で早期終了をかける 41 学習条件

42 各モデルの正解率の比較入力形式 Segment ID 正解率属性値そのまま入力（画素数:1163、重量:262） 2種類 0.687
3種類 0.677 量的データはカテゴリ化＆トークン化（画素数:[gaso_1]、重量:[weight_1]） 2種類 0.693 3種類 0.697 量的データはカテゴリ化&数値化（画素数:1、重量:1） 2種類 0.681 3種類 0.714 数値の桁数を表すトークンの追加（画素数:1163[EXP]3、重量:262[EXP]2） 2種類 0.703 3種類 0.687 ベースライン

3種類 0.677 量的データはカテゴリ化＆トークン化（画素数:[gaso_1]、重量:[weight_1]） 2種類 0.693 3種類 0.697 量的データはカテゴリ化&数値化（画素数:1、重量:1） 2種類 0.681 3種類 0.714 数値の桁数を表すトークンの追加（画素数:1163[EXP]3、重量:262[EXP]2） 2種類 0.703 3種類 0.687 ベースライン Segment IDを3種類にすると属性値の部分が数字だとわかるため正解率が高い

カテゴリ化&数値化を行う手法 44 画素数:1、最低撮影感度: 2・・・ Segment ID2種類 Segment ID3種類画素数
: 1 、最低撮影感度 : 2 Token Segment ID 1 1 1 1 1 1 1 1 1 1 画素数 : 1 、最低撮影感度 : 2 Token Segment ID 1 1 1 2 2 1 1 1 1 2 トークンとSegment IDが結びつき、 Segment IDが2となる部分が属性値であると理解できた

3種類 0.677 量的データはカテゴリ化＆トークン化（画素数:[gaso_1]、重量:[weight_1]） 2種類 0.693 3種類 0.697 量的データはカテゴリ化&数値化（画素数:1、重量:1） 2種類 0.681 3種類 0.714 数値の桁数を表すトークンの追加（画素数:1163[EXP]3、重量:262[EXP]2） 2種類 0.703 3種類 0.687 ベースライン特殊トークン自体に属性値の情報が含まれるため正解率があまり変わらない

カテゴリ化&数値化を行う手法 46 画素数:[gaso_1]、最低撮影感度: [min_kando_2]・・・ Segment ID2種類 Segment ID3種類画素数
: [gaso_1] 、最低撮影感度 : [min_kando_2] Token Segment ID Token Segment ID 1 1 1 1 1 1 1 1 1 1 画素数 : [gaso_1] 、最低撮影感度 : [min_kando_2] 属性値を表現する独自のトークンなので、 Segment IDを使用しなくても属性値であると理解できる 1 1 1 2 2 1 1 1 1 2

3種類 0.677 量的データはカテゴリ化＆トークン化（画素数:[gaso_1]、重量:[weight_1]） 2種類 0.693 3種類 0.697 量的データはカテゴリ化&数値化（画素数:1、重量:1） 2種類 0.681 3種類 0.714 数値の桁数を表すトークンの追加（画素数:1163[EXP]3、重量:262[EXP]2） 2種類 0.703 3種類 0.687 ベースライン桁数の異なる属性値が少なかったため高い精度が出なかった

48 正しく当てられているテキスト初代とほぼ変わりなく非常に安定した高画質といえます。テキスト属性名属性値タイプミラーレス
画素数 4575万画素撮像素子フルサイズ商品の属性 … 画素数が高いカメラに「高画質」と記述してあるテキストを関連ありと判定できている正解: 関連あり、予測: 関連あり

49 正しく当てられているテキスト他APS-C機と比較しても悪いという事はありません。テキスト属性名属性値タイプミラーレス画素数
1684万画素撮像素子フォーサーズ商品の属性 … レビューが属性値に含まれている撮像素子と異なることが理解できている正解: 関連なし、予測: 関連なし

50 正しく当てられていないテキスト最近のＡＰＳ－Ｃ機種は 2400万画素で画質は良好ですが、高感度対応力はそれなりです。テキスト属性名属性値タイプ
ミラーレス画素数 2410万画素撮像素子 APS-C 商品の属性 … カテゴリ化したため、レビューに含まれる数値情報との関連を理解できていない正解: 関連あり、予測: 関連なし

51 今後行う評価与えられたスペックに対してどのようなテキストがスコアが高くなるのか属性名属性値タイプミラーレス画素数 4575万画素
撮像素子フルサイズ商品の属性 … テキスト初代とほぼ変わりなく非常に安定した高画質といえます。他APS-C機と比較しても悪いという事はありません。画質は良好ですが、高感度対応力はそれなりです。

52 今後行う評価与えられたスペックに対してどのようなテキストがスコアが高くなるのか属性名属性値タイプミラーレス画素数 4575万画素
撮像素子フルサイズ商品の属性 … テキスト初代とほぼ変わりなく非常に安定した高画質といえます。他APS-C機と比較しても悪いという事はありません。画質は良好ですが、高感度対応力はそれなりです。 0.9 0.2 0.5

53 今後行う評価テキストと属性が正しく関連づいているか初代とほぼ変わりなく非常に安定した高画質といえます。テキスト属性名属性値
タイプミラーレス画素数 4575万画素撮像素子フルサイズ商品の属性 … 正解: 関連あり、予測: 関連あり

54 今後行う評価テキストと属性が正しく関連づいているか初代とほぼ変わりなく非常に安定した高画質といえます。テキスト属性名属性値
タイプミラーレス画素数 1000万画素撮像素子フルサイズ商品の属性 … 予測: 関連なし？

55 まとめ商品属性とレビューの対応関係学習に基づく言語モデル構築 𝑟 𝑗 A = {(𝑎1 ,
𝑣1 ), (𝑎2 , 𝑣2 ), ⋯ (𝑎𝑛 , 𝑣𝑛 ) } モデル 𝑟 𝑗 は 𝐴を持つ商品に対応しているレビューなのか P(𝐴, rj ) = 0.75 • 属性・属性値の理解は難しい • レビューと属性や属性値の関連が分かれば、属性を解釈することが可能になる • 量的データをカテゴリ化し、数値に置き換える手法が最も正解率が高かった • 今後はさらなる評価を行う

商品属性とレビューの対応関係学習に基づく言語モデル構築

商品属性とレビューの対応関係学習に基づく言語モデル構築

More Decks by 兵庫県立大学 山本研究室

Featured

Transcript

More Decks by 兵庫県立大学山本研究室