Wikipediaからの大規模な汎用オントロジー構築

1.

1 電気系山本研究室学籍番号：07315582 柴木優美 Wikipediaからの大規模な汎用オントロジー構築

2.

2 • はじめに – 背景と目的、オントロジーとWikipedia • 関連手法と比較した提案手法の工夫点 • 提案手法 •
実験結果と考察 • おわりに – まとめ、今後の課題目次

3.

3 • 背景背景と目的 – Wikipediaから汎用オントロジーを自動構築する – 単語の知識の表現方法である「オントロジー」に、日々増えていく単語を人手で追加していくのは手間 •
目的単語の知識が必要意味解析評判分析情報抽出 etc. 機械学習自然言語処理・更新が早い・人、地名、組織など知識の分野が幅広い (汎用的)

4.

4 カテゴリカテゴリカテゴリカテゴリオントロジー：「単語」と「単語の関係関係関係関係」を表したもの
is-a関係 part of 関係 F02-B SA002 WS009KE インスタンスインスタンスインスタンスインスタンス： B is a A (BはＡの一つ) が成り立つ関係オントロジーとは is-a関係電話機携帯電話液晶 owner関係人間

5.

5 利用例：評判分析 part of 関係 F02-B オントロジーの利用例 is-a関係Ａ：ドコモショップでF-02Bを買おうかと思うんだ。Ｂ：私使ってる～。液晶がきれいだよ。
携帯電話液晶ポジティブワード液晶きれい液晶は評判がいい F-02Bの液晶きれい F-02Bは評判がいいオントロジーを利用

6.

6 • おもちゃ • モデル is-a 既存のオントロジーの例 • 日本語語彙大系インスタンス:30万件
カテゴリ：3,000 件名詞具体物場所 • 歌姫 • ボーカリスト • ダンサー • モデル具体抽象人歌手芸人遊び道具・運動具インスタンス –人手で作成されたis-a関係からなる大規模なオントロジー –1つに統一された階層構造をもつカテゴリ日本語語彙大系のようにis-a関係からなり統一された階層構造をもつ本研究で扱うオントロジー

7.

7 • Wikipediaのカテゴリ・記事は、部分的にはis-a関係のオントロジーのカテゴリ・インスタンスとして見れそう自然変光星連星恒星 • 爆発変光星
•アメリカ変光星観測者協会カテゴリ天体天文学 • オントロジーと違い語と語のリンクの関係が未定義 • 最上位のカテゴリはジャンルを分類するためのカテゴリ Wikipedia 天文学者惑星科学者技術社会主要カテゴリ記事 is-a not-is-a not-is-a is-a

8.

8 本研究で構築するオントロジー最上位カテゴリ is-a 天文学者惑星科学者人組織施設地名
地形具体物創作物動植物イベント変光星連星恒星 • 爆発変光星天体最上位カテゴリ Wikipediaの部分的なオントロジー 1. Wikipediaのis-a関係のリンクを判定し 2. 部分的なオントロジーを構築 3. 部分的なオントロジーを新たに設定した最上位カテゴリに接続し階層を再構成

9.


10.

10 関連手法と比較した提案手法の工夫点(1/2) 関連手法 (Ponzetto[2007]、桜井[2008]、小林[2008])：文字のパターンマッチでis-a関係を判定大幅な再現率(網羅性)の向上工夫点1： is-a関係の判定方法《効果》子カテゴリの後方文字列が
親カテゴリと一致すれば is-a関係《ルール》桜井らの手法惑星太陽系外惑星 is-a 問題点：再現率(網羅性)が低い

11.

11 関連手法と比較した提案手法の工夫点(1/2) 関連手法 (Ponzetto[2007]、桜井[2008]、小林[2008])：文字のパターンマッチでis-a関係を判定大幅な再現率(網羅性)の向上工夫点1： is-a関係の判定方法《効果》子カテゴリの後方文字列が
親カテゴリと一致すれば is-a関係《ルール》桜井らの手法問題点：再現率(網羅性)が低い惑星太陽系外惑星 is-a 天体 × × × ×

12.

12 関連手法 (Ponzetto[2007]、桜井[2008]、小林[2008])：文字のパターンマッチでis-a関係を判定 =再現率(網羅性)が低い大幅な再現率の向上工夫点1： is-a関係の判定方法提案手法： 3種類の手法でis-a関係でないリンクを網羅的に削除
し残ったリンクをis-a関係と判定《効果》関連手法と比較した提案手法の工夫点(1/2)

13.

13 工夫点2： 1つに統一された階層の構築方法関連手法 (Suchanek[2007]、小林[2008]) ：既存のオントロジーにWikipediaのカテゴリ-記事対を接続小林らの手法人口惑星惑星
太陽系の惑星内惑星 is-a is-a 天体日本語語彙大系のカテゴリに、Wikipediaの is-a関係のカテゴリ-記事対をパターンマッチで接続問題点：Wikipediaのカテゴリ階層情報が失われる関連手法と比較した提案手法の工夫点(2/2) 日本語語彙大系 is-a関係のカテゴリ-記事対

14.

14 工夫点2： 1つに統一された階層の構築方法 Wikipediaの階層情報をできるだけ生かしつつ 1つにまとまった階層を構築できる提案手法： Wikipediaの部分的なオントロジーの階層を新たに設定した最上位カテゴリに接続する《効果》関連手法と比較した提案手法の工夫点(2/2)
関連手法 (Suchanek[2007]、小林[2008]) ：既存のオントロジーにWikipediaのカテゴリ-記事対を接続 = Wikipediaのカテゴリ階層の情報が失われる

15.


16.

16 意味が抽象的な単語を含む意味的に類似していない親名が固有名詞 ◦◦←◦◦××の関係社会経済集英社少年ジャンプ書物
図書館少年ジャンプ ONE PIECE 新潟県長岡市火星火星の衛星缶缶コーヒー技術道具固有名詞固有名詞抽象的抽象的創作物組織創作物施設抽象的 is-a関係でないリンクの判定(3/3) is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成

17.

図書館少年ジャンプ ONE PIECE 新潟県長岡市火星火星の衛星缶缶コーヒー抽象的抽象的創作物組織創作物施設技術道具抽象的固有名詞固有名詞 is-a関係でないリンクの判定(1/3) is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成

18.

図書館少年ジャンプ ONE PIECE 新潟県長岡市火星火星の衛星缶缶コーヒー抽象的抽象的創作物組織創作物施設技術道具抽象的固有名詞固有名詞意味を判定する問題 1.意味属性分類問題 = is-a関係でないリンクの判定(1/3) is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成

19.

19 意味が抽象的な単語を含む意味的に類似していない社会経済集英社少年ジャンプ書物図書館抽象的
抽象的創作物組織創作物施設技術道具抽象的意味を判定する問題 1.意味属性分類問題 = ９種類の意味属性を設定どの意味属性にも分類されない単語 = 抽象的親子の意味属性が違う = 意味的に類似していない手法： SVM による分類器でカテゴリと記事を分類 is-a関係でないリンクの判定(1/3) is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成人組織施設地名地形具体物創作物動植物イベント

20.

20 意味が抽象的な単語を含む意味的に類似していない親名が固有名詞 ◦◦←◦◦××の関係社会経済集英社少年ジャンプ
書物図書館少年ジャンプ ONE PIECE 新潟県長岡市火星火星の衛星缶缶コーヒー技術道具固有名詞固有名詞抽象的抽象的創作物組織創作物施設抽象的 is-a関係でないリンクの判定(2/3) is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成

21.

21 意味が抽象的な単語を含む意味的に類似していない親名が固有名詞 ◦◦←◦◦××の関係 is-a関係でないリンクの判定(2/3) 社会経済集英社
少年ジャンプ書物図書館少年ジャンプ ONE PIECE 新潟県長岡市火星火星の衛星缶缶コーヒー技術道具固有名詞固有名詞抽象的抽象的創作物組織創作物施設抽象的 2.固有名詞抽出問題・既存の辞書を利用－単語が固有名詞として辞書登録されていれば固有名詞・英語Wikipediaの表記を利用－各形態素の頭文字が大文字なら固有名詞 (例:The Beatles) is-a関係でないリンクの判定(2/3) is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成

22.

書物図書館少年ジャンプ ONE PIECE 新潟県長岡市火星火星の衛星缶缶コーヒー技術道具固有名詞固有名詞抽象的抽象的創作物組織創作物施設抽象的 3.パターンマッチ is-a関係でないリンクの判定(3/3) is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成

23.

書物図書館少年ジャンプ ONE PIECE 新潟県長岡市火星火星の衛星缶缶コーヒー技術道具固有名詞固有名詞抽象的抽象的創作物組織創作物施設抽象的 2.固有名詞抽出問題 1.意味属性分類問題 3.パターンマッチカテゴリ間、カテゴリ-記事間のリンクに適用し、どれにも当てはまらないリンクをis-a関係とする is-a関係でないリンクの判定(3/3) is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成

24.

24 is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成技術者楽器製作者アマティ楽器
道具工業製品メーカーヤマハスタインバーグ材料岩石銅の加工物銅エレクトーンヴァイオリン演奏家同じ意味属性からなる部分的なオントロジーができるルートカテゴリルートカテゴリルートカテゴリルートカテゴリルートカテゴリルートカテゴリカテゴリ記事 3手法を用いて9種類の意味属性以外のカテゴリ・記事とis-a関係でないリンクを削除部分的なオントロジーの構築ルート記事 is-a is-a 人組織具体物判定した意味属性

25.

25 技術者楽器製作者アマティ楽器道具工業製品メーカーヤマハスタインバーグ岩石
銅の加工物銅エレクトーンヴァイオリン演奏家最上位カテゴリ最上位カテゴリ最上位カテゴリ最上位カテゴリ(意味属性意味属性意味属性意味属性)に部分的なオントロジーを接続人組織具体物最上位カテゴリ最上位カテゴリ材料－ルートカテゴリ、ルート記事を同じ意味属性の下位に接続カテゴリ記事 is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成階層の再構成 Wikipediaの階層をオントロジーの階層に再構成できた人組織具体物判定した意味属性

26.


27.

27 実験結果と考察 (1/3) カテゴリ間、カテゴリ-記事間のis-a関係判定精度－ 3手法を用いてis-a関係でないリンクを削除する手法は再現率の向上に有効 67.9 93.0 57.7
97.6 +24.0 +3.6 +24.2 -1.9 差分再現率適合率再現率適合率判定手法小林らの手法桜井らの手法比較手法 91.9 81.9 96.6 95.7 提案手法カテゴリ-記事間カテゴリ間評価データ数：各2500件パターンマッチでは抽出できないis-a関係を抽出 (精度) (網羅性) (精度) (網羅性) 例：携帯電話アプリ←EZ助手席ナビ、ベーシスト←ボブ・デイズリー

28.

28 • 提案手法において再現率を下げる原因再現率適合率再現率適合率判定対象 91.9 81.9
96.6 95.7 全てのカテゴリ・記事を対象カテゴリ-記事間カテゴリ間－分類器が作れるほどのカテゴリ・記事がない意味属性は対象外にしているため (例：スポーツ、規則、賞) 学習データを増やし、意味属性を追加すれば再現率を向上できる実験結果と考察 (2/3) 95.6 96.2 96.6 95.3 9種類の意味属性を対象－9種類の意味属性に限定すれば再現率は高い

29.

29 構築したオントロジーの規模－全ての項目で比較対象より数が多い実験結果と考察 (3/3) 2.7 64万 3.3万 0.3万
30万 2.3倍 6.2 桜井らの手法末端のカテゴリの平均深さ 1.3倍 83万小林らの手法カテゴリ-記事間のis-a関係数 1.5倍 5万桜井らの手法カテゴリ間の is-a関係数 11.3倍 3.4万 (Wiki全体の88.6%) カテゴリ数 1.4倍 42万 (Wiki全体の84.5%) 日本語語彙大系記事数 (インスタンス数) 比率提案手法比較対象抽出項目

30.


31.

31 おわりに・ Wikipedia全体の84.5%のカテゴリと88.6%の記事を 1つの階層からなるオントロジーに組みこめた・ 3手法でis-a関係でないリンクを判定することで、関連手法より再現率が約24ポイント向上した・学習データを増やし、意味属性を追加することで
さらなる再現率の向上を図るまとめ今後の課題近日、構築したオントロジーを公開予定

32.

32 ご清聴ありがとうございました

33.

33 補足資料

34.

34 桜井らの手法と本手法による抽出できるis-a関係の違い • 桜井らの手法では末尾の形態素が一致したものがとれない • 提案手法では、9種類の意味属性以外のis-a関係がとれない

35.

35 小林らの手法と本手法で抽出できるis-a関係の違い小林らの手法のみで抽出できたis-a関係 • 桜井らの手法では未知のカテゴリ名を含むis-a関係がとれない • 提案手法では、9種類の意味属性以外のis-a関係がとれない提案手法のみで抽出できたis-a関係

36.

36 意味属性の設定方針 1. 抽象的でない意味属性を網羅している 2. 一般的なオントロジーの粒度10前後の分類 →「日本語語彙大系」なら第4階層、「関根の拡張固有表現階層」なら第1階層 3. 分類器がつくれるほどのカテゴリ・記事数がある
→学問名、規則名などは対象外９種類の意味属性人組織施設地名地形具体物創作物動植物イベント

37.

37 －再現率(網羅率)をできるだけ下げずに適合率(抽出精度)を上げることが望ましい is-a関係でないリンク判定の手法別精度再現率適合率再現率適合率判定手法
100 74.7 100 72.1 全てのリンクをis-a関係とする 91.8 92.7 99.1 99.9 81.9 82.5 99.4 99.4 96.6 95.7 3手法の組合せ 94.5 82.7 75.5 91.9 78.2 79.2 1.意味属性分類 2.固有名詞抽出 3.文字列照合カテゴリ-記事間カテゴリ間カテゴリ間、カテゴリ-記事間のis-a関係判定精度評価データ数各2500件

38.

38 －再現率(網羅率)をできるだけ下げずに適合率(抽出精度)を上げることが望ましい is-a関係でないリンク判定の手法別貢献度評価データ数各2500件

39.

39 is-a関係でないリンク判定の手法別貢献度各手法のみで抽出できたis-a関係の例

40.

40 適合率を下げるエラー 1. 意味属性分類を誤った場合 2. 固有名詞抽出を誤った場合 3. 3 種類のis-a 関係判定手法の精度が100%でも
判定できないis-a 関係の場合 – 血液←血球 – 日本の内閣総理大臣←内閣総理大臣夫人 – 千葉県の道路←千葉県の道の駅 0.7～1.1ポイント、適合率を低下させる =全体から見れば少数の例外

41.

41 • 9種類の意味属性以外のis-a関係は抽出できないため – スポーツ←各国のスポーツ – 経済←日本の経済 • 親子の意味属性が違っても、is-a関係が成り立つ場合 –
チュニジアの世界遺産(具体物) ←イシュケル湖(地形) – ラムサール条約登録地(地名)←マレー湾(地形) • 親名が固有名詞でもis-a関係が成り立つ場合 – 沖縄県営鉄道←沖縄県営鉄道糸満線 • ◦◦←◦◦××でもis-a関係が成り立つ場合 – 映画←映画作品再現率を下げるエラー

42.

42 技術者楽器製作者技術主要カテゴリアマティ楽器道具製造業工業製品メーカー
製造ヤマハ演奏家スタインバーグせん断材料岩石銅の加工物銅アマティ Wikipediaの階層構造エレクトーンエレクトーンヴァイオリンカテゴリ記事 3手法を用いて9種類の意味属性以外のカテゴリ・記事とis-a関係でないリンクを削除 is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成部分的なオントロジーの構築

43.

43 人組織具体物判定した意味属性技術者楽器製作者技術主要カテゴリアマティ
楽器道具製造業工業製品メーカー製造ヤマハ演奏家スタインバーグせん断材料岩石銅の加工物銅アマティ Wikipediaの階層構造 × × × × エレクトーンエレクトーンヴァイオリン × × × × × 9種類の意味属性以外カテゴリ記事 3手法を用いて9種類の意味属性以外のカテゴリ・記事とis-a関係でないリンクを削除手法3,パターンマッチ手法1.意味属性分類手法1, 意味属性分類手法2.固有名詞抽出 is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成部分的なオントロジーの構築

44.

44 is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成技術者楽器製作者アマティ楽器
道具工業製品メーカーヤマハスタインバーグ材料岩石銅の加工物銅エレクトーンヴァイオリン演奏家同じ意味属性からなる部分的なオントロジーができるルートカテゴリルートカテゴリルートカテゴリルートカテゴリルートカテゴリルートカテゴリ人組織具体物判定した意味属性カテゴリ記事 3手法を用いて9種類の意味属性以外のカテゴリ・記事とis-a関係でないリンクを削除部分的なオントロジーの構築ルート記事

45.

45 技術者楽器製作者アマティ楽器道具工業製品メーカーヤマハスタインバーグ岩石
銅の加工物銅エレクトーンヴァイオリン演奏家最上位カテゴリ最上位カテゴリ最上位カテゴリ最上位カテゴリ(意味属性意味属性意味属性意味属性)に部分的なオントロジーを接続人組織具体物名詞最上位カテゴリ材料－ルートカテゴリ、ルート記事を同じ意味属性の下位に接続カテゴリ記事 is-a関係でないリンクの判定 ⇒ 部分的なオントロジーの構築 ⇒ 階層の再構成階層の再構成人組織具体物判定した意味属性

46.

46 素性に使う単語カテゴリ・記事名、周辺のカテゴリ・記事名、記事の本文中の単語主な素性各単語の末尾の形態素例：新潟県→県日本語語彙大系を用いて抽象化した単語例：総理大臣→政治家、人
－SVM による分類器で分類－one-vs-rest法 (2値分類を多値分類に拡張する手法)を用いるカテゴリと記事を意味属性に分類 1. 意味属性分類によるis-a関係でないリンク判定意味属性分類の機械学習のための学習データ数・カテゴリ分類：2,000件・記事分類：11,554件

47.

47 47 対象カテゴリに分類されている全ての記事の定義文から抽出した上位語対象カテゴリと同名記事の定義文から抽出した上位語音楽家は、曲を作ったり、演奏したりする人のこと。音楽家音楽家
音楽家音楽家音楽家 •ライター •小説家対象カテゴリ音楽関係者親カテゴリ子カテゴリ指揮者素性のための単語カテゴリの周辺単語6種類 (主に一般名詞から成る) b c d e a

48.

48 対象カテゴリと同名記事の定義文から抽出した上位語子供は、年齢の若い者を指す子供子供子供子供子供
（意味属性：未決）対象カテゴリ人の一生（意味属性：その他の名詞）親カテゴリ子カテゴリ児童文学（意味属性：創作物）ブートストラップ時に設定する素性カテゴリの周辺単語6種類 (主に一般名詞から成る) b e a 子カテゴリ子役（意味属性：人） c “者”は意味属性が”人”にマッチし、 ”子役”も意味属性”人”に分類されている ※ （意味属性：◦◦）は、前ステップまでに分類された意味属性を表す・両者とも語彙大系カテゴリ ”少年・少女”に属する

49.

49 記事分類のための素性・・・・・・・意味属性：具体物・・・意味属性：具体物・・・・・・・意味属性：具体物・・・・・・・意味属性：その他の名詞
a b c d

50.

50 超補足資料

51.

51 2. 固有名詞抽出によるis-a関係でないリンク判定形態素解析ツールMeCabを用いる手法英語Wikipediaを用いる手法－各形態素の頭文字が大文字なら固有名詞例:The Beatles －記事の文中で、単語の頭文字が大文字なら固有名詞
例: Fifteen prime ministers in Japan have studied at University of Tokyo. －◦県や◦市、辞書に登録されている固有名詞を表示例: 長岡市、遠藤周作

52.

52 意味属性別のis-a関係判定精度（グラフ）カテゴリ間のis-a関係カテゴリ-記事間のis-a関係

53.

53 カテゴリの固有名詞抽出精度普通名詞にも関わらず英語表記の各形態素の頭文字が全て大文字のアルファベッドだった場合－Independent Administrative Institution (独立行政法人) －Japan Defense
Ship (自衛官) 日本語Wikipedia と英語Wikipedia でカテゴリの意味が異なる場合－日本語Wikipedia のカテゴリ「過去のジャニーズ所属者（普通名詞）」は英語Wikipedia のカテゴリ「Johnny‘s Jr （固有名詞）」にリンクエラー解析

54.

54 意味属性別の分類精度（グラフ） 80 82 84 86 88 90 92 94
96 98 100 人組織施設地名地形具体物創作物動植物イベント total 適合率/再現率/F値[%] 適合率再現率 80 82 84 86 88 90 92 94 96 98 100 人組織施設地名地形具体物創作物動植物イベント total 適合率/再現率/F値[%] 適合率再現率カテゴリ分類記事分類

55.

55 意味属性別のリーフカテゴリの平均深さ深さ＝最上位カテゴリからリーフカテゴリまでの最長ルートのリンク数

56.

56 56 考察(1/3)カテゴリ分類の際のブートストラップ効果 96 96.5 97 97.5 98 98.5 99
99.5 100 0 1 2 3 4 5 6 7 ブートストラップ数適合率/再現率/Ｆ値 [%] 0 500 1000 1500 2000 2500 未抽出カテゴリ数適合率再現率Ｆ値未抽出カテゴリ数最初の分類器出力の適合率が98.3%と高く、全ての出力を次ステップの学習に使用してもほとんど適合率を下げることなく再現率を上げることができた。

57.

57 記事分類精度比較（藤田らの手法）適合率再現率 F値藤田ら 91.1 85.7 88.3 提案手法
97.2 91.7 94.4 差分 + 6.2 + 6.0 + 6.1 50 60 70 80 90 100 人組織施設地名地形具体物創作物動植物イベント total 適合率[%] 提案手法藤田らの手法 50 55 60 65 70 75 80 85 90 95 100 人組織施設地名地形具体物創作物動植物イベント total 再現率[%] 提案手法藤田らの手法 ※カテゴリに同じ意味属性がない記事も分母に入れているので再現率低い

58.

58 カテゴリ、記事の割合人 23.0% 組織 11.6% 施設 13.2% 地名 10.5%
地形 3.2% 具体物 5.7% 創作物 12.9% 動植物 2.3% イベント 3.9% その他 13.7% 人 28.6% 組織 9.5% 施設 14.4% 地名 7.4% 地形 2.2% 具体物 8.2% 創作物 12.9% 動植物 3.0% イベント 4.1% その他 9.6% 記事カテゴリ

59.

59 ルートノードの数

Wikipediaからの大規模な汎用オントロジー構築

Wikipediaからの大規模な汎用オントロジー構築

Want more?

Transcript