Presented at the 6th Forum on Data Engineering and Information Management (DEIM2014; 第6回 データ工学と情報マネジメントに関するフォーラム). Won the student presentation award.
http://db-event.jpn.org/deim2014/?%E8%A1%A8%E5%BD%B0,22
カテゴリ階層の拡張を目的とした階層的トピックモデル2014-03-04［火］DEIM2014 C4-6山本浩平 ，江口浩二［神戸大］，高須 淳宏[NII]
View Slide
/27⚫カテゴリ階層の各ノードへ文書が配置されたデータが存在⚫Ex. Wikipedia, MEDLINE［生 命 科 学 系 文 献 の デ ー タ ベ ー ス］⚫情報への効率的なアクセスを補助背景｜カテゴリ階層付きデータ1
/27⚫ 既存のカテゴリ階層［観測カテゴリ階層］へ新しい概念を含む文書を配置• 既存カテゴリ分割，新規カテゴリ挿入が必要⚫ 人による新規カテゴリ作成の判断• 困難，煩雑［カテゴリ分割問題］2背景｜新カテゴリの挿入ComputersMobileComputersComputerhardwareSmartphones Netbooks Wearablecomputers?Google GlassSmartWatch新規文書管理者新規ノード
/27⚫カテゴリ階層の拡張が可能な技術⚫本研究では，データ中の潜在トピック階層を発見できる階層的トピックモデルに着目3背景｜求められる技術ComputersMobileComputersComputerhardwareSmartphones Netbooks Wearablecomputers!Google GlassSmartWatch新規文書管理者新規ノード自動で適切にカテゴリ分割
/27⚫ 離散データ中の潜在トピックを解析• 離散データの例：文書 集合• 代表的なモデル：Latent Dirichlet Allocation [LDA]⚫ 文書のモデル化• 文書 は潜在トピック ~ の混合• 潜在トピック は単語 が確率的に所属[~(|)]• 文書 は () と (|) から生成4トピックモデル｜概要tablet:0.02computers:0.015mobile:0.01apple:0.03jobs:0.015steve:0.015display:0.02retina:0.02resolution:0.01ios:0.02app:0.02iwork:0.015(|)iPad文書 単語 tablet,display,computer,apple,ios潜在トピック 生成
/27⚫ 現実には文書 のみ観測可能⚫ 生成結果としての文書から，逆に潜在トピック を推定［ベイズ推定］• 事後分布 (|) の推定• ギブスサンプリング，変分ベイズ5トピックモデル｜推定(|)?? ?? iPad文書 単語 tablet,display,computer,apple,ios潜在トピック ??推定
/27⚫ データ中の階層化された潜在トピックをモデル化• nested Chinese Restaurant Process [nCRP, Blei+ 03, 10]で潜在トピックの階層を生成する6関連研究｜階層的トピックモデルhLDA SSHLDA Dir G-SSHLDAGEM G-SSHLDA観 測 階 層 を 利 用既存モデル各モデルの関係図GEM 分 布 を 利 用
/27⚫文書 は潜在トピック［ノード］からなるパス ~nCRP に割り当て⚫文書はレベル ~()の混合7関連研究｜hierarchical LDA [1/2]topic model is:0.01,the:0.02learning:0.015,machine:0.015statistical:0.02,analysis:0.01topic:0.015,model:0.02svm:0.02,margin:0.02・・・レベル 文書 単語 パス hLDA, [Blei+ 2003] ~Dir(|)~Dir
/27⚫ (),(|) の事前分布は Dirichlet 分布• 有限個のレベルと単語 に対 する(), (|) を決める⚫ パス 上のレベル で指定されるノードから文書 を生成8関連研究｜hierarchical LDA [2/2]hLDA, [Blei+ 2003]topic model文書 ~Diris:0.01,the:0.02learning:0.015,machine:0.015statistical:0.02,analysis:0.01topic:0.015,model:0.02svm:0.02,margin:0.02・・・レベル 単語 パス (|)~Dir
/27⚫ 観測カテゴリ階層が付与されたデータのためのモデル⚫ 観測葉ノードに配置された文書にパス ~nCRP 割り当て• 潜在ノード階層［潜在木］が構成され，カテゴリ階層が拡張される⚫ 観測・潜在ノード両方をトピックとして文書生成9関連研究｜Semi-Supervised hLDAcomputer:0.02,processing:0.01algorithm:0.02,data:0.02intelligent:0.01,machines:0.01topic:0.02,model:0.02learning:0.015,training:0.01Computer ScienceArtificial IntelligenceAlgorithmMachine Learning Computer Visionimages:0.015,vision:0.01svm:0.02,margin:0.02neural:0.02,learning:0.015レベル 単語 パス SSHLDA, [Mao+ 2012]topic model文書 ~Dir(|)~Dir
/27⚫ 階層は部分的に拡張されるが……• 潜在木が葉ノードからのみ生成• カテゴリ分割問題の解決のためには，任意ノードからの階層の拡張が必要10関連研究｜SSHLDA の問題点computer:0.02,processing:0.01algorithm:0.02,data:0.02intelligent:0.01,machines:0.01topic:0.02,model:0.02learning:0.015,training:0.01Computer ScienceArtificial IntelligenceAlgorithmMachine Learning Computer Visionimages:0.015,vision:0.01svm:0.02,margin:0.02neural:0.02,learning:0.015レベル 単語 topic model ~Dir(|)~Dirパス
/2711提案手法観測階層中の任意ノードを根とする潜在木を生成する階層的トピックモデルhLDA SSHLDA Dir G-SSHLDAGEM G-SSHLDA観 測 階 層 を 利 用提案モデル各モデルの関係図GEM 分 布 を 利 用
/27⚫ Generalized SSHLDA [G-SSHLDA]• SSHLDA の一般化• 任意ノードから潜在木生成，カテゴリ拡張• カテゴリ拡張時に木構造を保持12提案手法｜概要●G-SSHLDA による拡張カテゴリ階層の例黒色ノード - 観測ノード白色ノード - 潜在ノード
/27⚫ 観測内部ノードから，hLDA と同様にnCRP を利用して潜在木を生成⚫ 観測カテゴリ階層の拡張に利用可能13提案手法｜潜在木の生成拡張潜在木・・・
/27⚫ 下位観測ノードの潜在木への接続方法• 自明でない⚫ 多くの文書が属するノードは階層全体において重要なノードと仮定14提案手法｜下位部分木の接続? ?
/27⚫ 文書数を重みとした分布から上位の潜在葉ノードを確率的に選択し，接続15提案手法｜接ぎ木ノード選択数字は割り当たっている文書数接ぎ木18 20 42 17 18 20 42 17●例
/27⚫ の事前分布を GEM 分布に変更• GEM 分布：() の事前分布とすることで，文書のパス長が自由になる• パス長が自由なので，内部ノードに文書が割り当たり，内部ノードへの接ぎ木が考慮できる• これを GEM G-SSHLDA, 前述のモデルを Dir G-SSHLDA と呼ぶ16提案手法｜接ぎ木ノード選択の一般化数字は割り当たっている文書数18 20 42 1711287718 20 42 171128接ぎ木●例
/27⚫拡張カテゴリ階層の例示• 潜在ノードの内容を確認する⚫汎化能力の評価• 既存モデルと比較して汎化能力が変化しているか評価する⚫クラスタリング能力の評価• カテゴリ内に多様なテーマの文書が混在したときに，階層の拡張によるカテゴリの分割を評価する17実験｜概要
/27⚫MEDLINE, Wikipedia データを利用• MEDLINE:Face, Wikipedia:Programmingを根ノードに持つ部分木⚫モデル推定• 周辺化ギブスサンプリング 500 回18実験｜実験設定データセット MEDLINE Wikipedia文書数 56,227 2,086ラベル数 12 88観測木の最大高さ 3 6ラベル当り文書数 4,686 24
/2719実験｜拡張カテゴリ階層の例示⚫拡張された Wikipedia の観測階層の一部
/2720実験｜拡張カテゴリ階層の例示⚫ カテゴリを要約した単語、親子カテゴリの間の粒度の潜在ノードを発見
/27⚫ 汎化能力• 未知データに対するトピック推定能力⚫ パープレキシティ• 汎化能力の評価尺度• パープレキシティが低いほど汎化能力高い⚫ 評価法• データを単語単位で 4:1 に分割• 4 個を訓練，1 個をテストに利用⚫ 比較対象• hLDA, SSHLDA, hLLDA [Petinot+ 2011]21実験｜汎化能力の評価
/2722実験｜MEDLINE に対するパープレキシティDirichlet 分布に基づくモデル GEM 分布に基づくモデルノード数良Dir G-SSHLDA は最大 4.5 % 改善GEM G-SSHLDA は GEM hLDA より同程度か劣化提案モデル提案モデル
/27⚫ カテゴリ分割問題への対応力を検証1. 観測階層の内部レベルを一部縮約⚫ 縮約したノード中の文書は最も近い先祖ノードへ再配置2. G-SSHLDA で階層拡張，各ノードへ文書をクラスタリング3. 縮約前を正解として， 潜在 木中 のノ ード をF 値と正規化相互情報量 [NMI] で評価23実験｜クラスタリング能力の評価 [1/2]1. 縮約 2. G-SSHLDAで拡張……3. 正解とクラスタを比較し評価
/27⚫ Wikipedia データ• レベル 1,2 ・ 1,2,3 ・ 2,3 ・ 3 を削除⚫ 比較対象• hLDA, 単連結法［両方教師なしの手法］⚫ このタスクでは SSHLDA は直接比較不可能• SSHLDA は内部ノードから潜在木生成できないため24実験｜クラスタリング能力の評価 [2/2]……1. 縮約 2. G-SSHLDAで拡張……3. 正解とクラスタを比較し評価
/2725実験｜クラスタリング結果 [1/2]一例：レベル 1, 2 削除※ 値が大きい方が良い提案モデルの評価値が最高
/27⚫考察• 内部レベルを復元できている‒ 既存モデルでは不可能 であ る• 観測階層を利用して潜在木を生成し，各ノードに文書を配置できている‒ 自動で観測カテゴリを 分割 し，新規カテゴリを作成で きる26実験｜クラスタリング結果 [2/2]G-SSHLDA はカテゴリ分割問題を解決可能
/27⚫ 新たな階層的トピックモデルであるG-SSHLDA を提案• 任意観測ノードからカテゴリ拡張⚫ 現実データによる実験• 拡張カテゴリ階層の例示• 汎化能力・クラスタリング能力の評価• カテゴリ分割問題解決のための基礎技術として利用可能⚫ 今後の展望• 接ぎ木ノード選択分布への事前分布の考慮• 文書集合以外のデータを考慮したモデルへの拡張27結論と今後の展望
/2728
/27⚫ Latent Dirichlet Allocation [LDA] [Blei+ 2003]• 代表的なトピックモデル• 文書は単語の集合であ ると 考え ，以 下の 流れ で生成されると仮定29トピックモデル｜LDA文書 1文書 2文書 3トピック 1トピック 2語彙 1語彙 2語彙 3語彙 40.90.10.50.50.30.70.60.40.40.20.4Ex. 文 書 1 は そ れ 自 身 が 持 つ 単 語 数 の 分 だ け ，ト ピ ッ ク ， 語 彙 を 確 率 的 に 選 択 し て 生 成
/27⚫ 現実には文書のみ観測可能⚫ 生成結果としての文書から，逆にトピックを推定可能 [ベイズ推定]• 周辺化ギブスサンプリ ング ，変 分ベ イズ ，etc.30トピックモデル｜推定こ の 部 分 を ベ イ ズ 推 定文書 1文書 2文書 3トピック 1トピック 2語彙 1語彙 2語彙 3語彙 40.90.10.50.50.30.70.60.40.40.20.4
LDA｜生成過程31⚫ LDA の生成過程• LDA が文書に対して置いている仮定を形式的に書いたもの1. 各トピック ∈ {1,… , } に対してA) トピック-単語分布パラメータ ∼ Dir() を選択2. 各文書 ∈ {1, …, } に対してA) 文書-トピック分布パラメータ ∼ Dir() を選択B) 各単語 ∈ {1,… , } に対してi . トピック ,∼ Mult() を選択i i . 単語 ,∼ Mult(,) を選択
/27⚫ 木構造を生成する確率過程⚫ 比喩：文書が客，ノードが店⚫ 客は，以下の式にしたがって、下位の階層の店を選んでパスを生成し，木構造を構成• 新規客は客の多い店に入りやすい32関連研究｜nested Chinese Restaurant Process はノード，は の客数， は前の店の客数， はパラメータ123111422256333店客nCRP, [Blei+ 2003, 2010]既存ノードを選択する確率新規ノードを選択する確率
/27⚫ 木構造を生成する確率過程⚫ 比喩：文書が客，ノードが店⚫ 客は，以下の式にしたがって次の店を選び，パスを生成• 新規客は客の多い店に入りやすい33関連研究｜nested Chinese Restaurant Process●3 レベルの nCRP の例各ノードは店，各菱形は客客 1 のパスは <1, 2, 3> はノード，は の客数， は前の店の客数， はパラメータ123111/ ( 0 + )/ ( 0 + )nCRP, [Blei+ 2003, 2010]店 客
/27⚫ 木構造を生成する確率過程⚫ 比喩：文書が客，ノードが店⚫ 客は，以下の式にしたがって次の店を選び，パスを生成• 新規客は客の多い店に入りやすい34関連研究｜nested Chinese Restaurant Process●3 レベルの nCRP の例各ノードは店，各菱形は客客 2 のパスは <1, 2, 4> はノード，は の客数， は前の店の客数， はパラメータ12311142221 / ( 1 + )/ ( 1 + )店 客nCRP, [Blei+ 2003, 2010]
/27⚫ 木構造を生成する確率過程⚫ 比喩：文書が客，ノードが店⚫ 客は，以下の式にしたがって次の店を選び，パスを生成• 新規客は客の多い店に入りやすい35関連研究｜nested Chinese Restaurant Process●3 レベルの nCRP の例各ノードは店，各菱形は客客 3 のパスは <1, 5, 6> はノード，は の客数， は前の店の客数， はパラメータ123111422256333/ ( 2 + )/ ( 0 + )店 客nCRP, [Blei+ 2003, 2010]
/27⚫ 非負実数列 {} ( = 1, … , ∞)に対して~Beta( , (1 − )) と=ς =1 −1 (1 − )から を構成するとき， ~GEM(,π )と表現する．36GEM 分布
/27⚫ () の事前分布を GEM 分布に変更[Blei+ 2010]• 無限個のレベルに対する() を決められる• パスの長さが自由になり，以下のようなパスも OK37関連研究｜GEM hLDAmachine learning文書 ~GEMis:0.01,the:0.02learning:0.015,machine:0.015statistical:0.02,analysis:0.01topic:0.015,model:0.02svm:0.02,margin:0.02・・・レベル 単語 パス ……(|)~Dir
hLDA｜生成過程38⚫ hLDA の生成過程1. 無限個のノードを持つ木の各ノード ∈ に対して1. 単語上の多項分布パラメータ ∼ Dir() を選択2. 各文書 ∈ {1, …, } に対してA) ,1を根として各レベル ∈ 2,… , に対してi. CRP の 式 に し た が っ て 潜 在 ノ ー ド ,を 選 択B) トピック上の多項分布パラメータ ∼ Dir()を選択C) 各単語 ∈ {1,… , } に対してi . トピック ,∼ Mult() を選択i i . 単語 ,∼ Mult(,) を選択
hLDA｜生成過程39⚫ GEM hLDA の生成過程1. 無限個のノードを持つ木の各ノード ∈ に対して1. 単語上の多項分布パラメータ ∼ Dir() を選択2. 各文書 ∈ {1, …, } に対してA) パス ~nCRP() を 選 択B) トピック上の多項分布パラメータ∼ GEM() を選択C) 各単語 ∈ {1,… , } に対してi . トピック ,∼ Mult() を選択i i . 単語 ,∼ Mult(,) を選択
/2740提案手法｜生成過程1 . 無 限 個 の ノ ー ド を 持 つ 木 の 各 ノ ー ド ∈ に 対 し て1 . 単 語 上 の 多 項 分 布 パ ラ メ ー タ ∼ Dir() を 選 択2 . 観 測 木 に 対 す る 幅 優 先 探 索 時 の 各 ノ ー ド に 対 し て1. に属 す る 各 文 書 ∈ {1, … , } に 対 し て1. ,を 根 ノ ー ド か ら ま で の パ ス と し て 設 定2. ,,1を と し て ，各 レ ベ ル ∈ 2, … , に 対 し て1. CRP の 式 に し た が っ て 潜 在 ノ ー ド , , を 選 択3 . レ ベ ル 上 の 多 項 分 布 パ ラ メ ー タ ∼ Dir() を 選 択4 . 各 単 語 ∈ {1, … , } に 対 し て1 . レ ベ ル ,∈ {1, … , } ∼ Mult を 選 択2 . ノ ー ド ,,に 付 随 す る ト ピ ッ ク か ら単 語 ,∼ Mult ,,を 選 択2. が 内 部 ノ ー ド で あ れ ば ， の 各 観 測 子 ノ ー ド ′ に 対 し て1 . 接 ぎ 木 ノ ー ド ′∼ U 1,, … , ,を 選 択2. ′を ′ の 親 に 設 定⚫G-SSHLDA の生成過程
/2741提案手法｜生成過程1 . 無 限 個 の ノ ー ド を 持 つ 木 の 各 ノ ー ド ∈ に 対 し て1 . 単 語 上 の 多 項 分 布 パ ラ メ ー タ ∼ Dir() を 選 択2 . 観 測 木 に 対 す る 幅 優 先 探 索 時 の 各 ノ ー ド に 対 し て1. に属 す る 各 文 書 ∈ {1, … , } に 対 し て1. ,を 根 ノ ー ド か ら ま で の パ ス と し て 設 定2 . 潜 在 パ ス ,~nCRP() を選択3 . レ ベ ル 上 の 多 項 分 布 パ ラ メ ー タ ∼ GEM(, ) を 選 択4 . 各 単 語 ∈ {1, … , } に 対 し て1 . レ ベ ル ,∈ {1, … , } ∼ Mult を 選 択2 . ノ ー ド ,,に 付 随 す る ト ピ ッ ク か ら単 語 ,∼ Mult ,,を 選 択2. が 内 部 ノ ー ド で あ れ ば ， の 各 観 測 子 ノ ー ド ′ に 対 し て1 . 接 ぎ 木 ノ ー ド ′∼ U 1,max(1),… , ,max()を 選 択2. ′を ′ の 親 に 設 定⚫ GEM G-SSHLDA の生成過程
hLDA｜グラフィカルモデル42hLDA GEM hLDA
G-SSHLDA｜グラフィカルモデル43Dir G-SSHLDA
G-SSHLDA｜グラフィカルモデル44GEM G-SSHLDA
/27モデル推定｜G-SSHLDA45をパスのサンプリング に利 用す る．ここで，右辺第一項目 は●パスの条件付き分布パス が与えられたときに文書 中の全単語 が生成される確率パス がパラメタ のnCRP から生成される確率である．
/2746モデル推定｜G-SSHLDA●レベルの完全条件付き分布またはをレベルのサンプリングに利用する．文書 中の 番目の単語にレベル が割り当てられる確率文書 のパス上の 番目のノード ,から単語 が生成される確率
/2747モデル推定｜G-SSHLDA●接ぎ木ノードの条件付き分布またはを接ぎ木ノードのサンプリングに利用する．観測ノード を根とする部分木が上位潜在木の葉ノード ℓ に接ぎ木される確率観測ノード を根とする部分木が上位潜在木のノード に接ぎ木される確率
/27⚫幅優先探索時の各観測ノード について• に属する各文書 について‒ 観測パス を木の根から までのパスとして設定‒ 潜在パス をパスの条件付き分布から選択‒ パス を と の連結として設定‒ 各単語 について，レベル ,をレベルの完全条件付き分布から 選択• 各観測子ノード ′ について，接ぎ木ノード ′を分布から選択し，レベル割り当て補正48モデル推定｜アルゴリズム
/2749モデル推定｜G-SSHLDA●接ぎ木ノードの条件付き分布またはを接ぎ木ノードのサンプリングに利用する．観測ノード を根とする部分木が上位潜在木の葉ノード ℓ に接ぎ木される確率観測ノード を根とする部分木が上位潜在木のノード に接ぎ木される確率
/27⚫GEM G-SSHLDA を利用⚫潜在木高さ：2⚫周辺化ギブスサンプリング 500 回⚫ = 1.0, = 1.0, = 0.5, = 10050実験詳細｜拡張階層例示
/27⚫ G-SSHLDA, hLDA, hLLDA, SSHLDA を利用⚫ 周辺化ギブスサンプリング 500 回⚫ G-SSHLDA の潜在木高さ：1, 2, 3⚫ hLDA の木の高さは各文書の観測パス平均 長か ら決 定⚫ MEDLINE• hLDA の木の高さ：2, 3, 4• SSHLDA の木の高さ：4, 5, 6⚫ Wikipedia• hLDA の木の高さ：3, 4, 5• SSHLDA の木の高さ：7, 8, 9⚫ = 0.1, = 0.5, 1.0 , = 1.0, = {0.25, 0.5}, = 10051実験詳細｜汎化能力評価
/27⚫ データは単語単位で 5 分割⚫ 4 個のデータでモデルを推定，1 個のデータでパープレキシティを計算• テストデータを替えつつ，5 回繰り返す⚫ 周辺化ギブスサンプリング繰り返し 400 – 500 回の間，10 回に 1 回パープレキシティを計算し，その結果得た 10 個の値の平均を結果として利用⚫ 各テストデータに対する平均と標準偏差を計算52実験詳細｜汎化能力評価
/2753実験｜MEDLINE に対するパープレキシティD irichle t分布に基づくモデル GEM 分布に基づくモデル
/2754実験｜Wikipedia に対するパープレキシティノード数良Dirichlet 分布に基づくモデル GEM 分布に基づくモデル提案モデル提案モデルDir G-SSHLDA は最大 4.4 % 改善GEM G-SSHLDA は GEM hLDA より同程度か劣化
/2755実験｜Wikipedia に対するパープレキシティDirichlet 分布に基づくモデル GEM 分布に基づくモデル
/27⚫ G-SSHLDA, hLDA, 単連結法 [CLUTO]を利用⚫ 周辺化ギブスサンプリング 500 回⚫ G-SSHLDA の潜在木高さは削除レベル数⚫ hLDA の木の高さ• 各文書の観測パス平均長から決定• <1, 2> 削除：2• <1, 2, 3> 削除：3• <2, 3> 削除：3• <3> 削除：3⚫ = 0.1, = 0.5, 1.0 , = 1.0, = 0.5, = 10056実験詳細｜クラスタリング能力評価
/27⚫削除されたノード数• <1, 2> 削除：50• <1, 2, 3> 削除：78• <2, 3> 削除：66• <3> 削除：28⚫ = 0.1, = 0.5, 1.0 , = 1.0, = 0.5, = 10057実験詳細｜クラスタリング能力評価
/27⚫ Dir hLDA• () の最頻値であるレベル で示されるノードにその文書を配置する• ノード全てをクラスタと見なす• 削除したノードに属している文書以外を全クラスタから削除する58実験詳細｜クラスタリング方法1 2 3 1 2 3() ()
/27⚫ Dir G-SSHLDA• 文書が属する観測ノードから潜在木高さの間のレベルのみ考慮する‒ 観 測 ノ ー ド に 属 す る 文 書 の み を 対 象と し た ク ラス タ を 作る た め• その範囲内で () を最大にするレベル で示されるノードにその文書を配置する• 削除したノードに属している文書以外を全クラスタから削除する59実験詳細｜クラスタリング方法1 2 3 4 1 2 3 4こ こ の み を ク ラ ス タ と 見 な す() ()
/27⚫ GEM 分布を利用するモデル• モデル推定の時点で，ある文書がとる最大レベルが決まる• その最大レベルで示されるノードにその文書を割り当てる• 削除したノードに属している文書以外を全クラスタから削除する60実験詳細｜クラスタリング方法こ こ の み を ク ラ ス タ と 見 な すmax = 3 max =4
/27⚫ 単連結法• 単語を素性としてクラスタリングする• 縮約されたノードに属する文書のみをクラスタリング対象とする• 削除されたノードの数だけクラスタを生成する61実験詳細｜クラスタリング方法こ こ の ノ ー ド に 属 す る 文 書 の み を ， こ こ のノ ー ド 数 を ク ラ ス タ 数 と し て ク ラ ス タ リ ン グ
/27⚫ hLDA• () の最頻値であるレベル で示されるノードにその文書を配置する⚫ G-SSHLDA• 文書が属する観測ノードから潜在木高さの間のレベルのみ考慮する• その範囲内で () を最大にするレベル で示されるノードにその文書を配置する⚫ 単連結法• 縮約されたノードに属する文書のみをクラスタリング対象とする• 削除されたノードの数だけクラスタを生成する62実験詳細｜クラスタリング能力評価
/27⚫ 正解クラス , クラスタ とする⚫ 再現率 [recall]• r ,= |∩ |/||⚫ 適合率 [precision]• p ,= |∩ |/||⚫ F 値• 各クラスとクラスタの 組み 合わ せに 対し て F ,=2r ,p ,r , +p ,を計算し，F( , ) = =1(||/ ) max ∈F ,で求める63実験詳細｜F 値
/27⚫正解クラス , クラスタ とする⚫相互情報量 [mutual information]• MI , =σ=1 σ=1 (, )log ,/( ())⚫正規化相互情報量 [normalized mutual information]• NMI , = MI (, )/( + 2)⚫ここで， , () は周辺エントロピー64実験詳細｜正規化相互情報量
/2765実験｜クラスタリング結果<1, 2> 削 除 <1, 2, 3> 削 除<2, 3> 削 除 <3> 削 除一例を除いて G-SSHLDA の評価値が最高
kymmt90
lyh125
lancers_pr
kitachan_black
ariaki
kei18
5g_digitalservicetmg
shun74
arumakan
kionawalker
upura
sorami
tatsui
chrislema
moore
holman
sferik
mojombo
soudai
marktimemedia
jmmastey
gr2m
schacon
addyosmani
frogandcode