Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
Dependency-based empty category detection via ...
Search
takegue
June 22, 2015
Technology
120
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
Dependency-based empty category detection via phrase structure trees
文献紹介 Dependency-based empty category detection via phrase structure trees
takegue
June 22, 2015
More Decks by takegue
See All by takegue
不自然言語の自然言語処理: コード補完を支える最新技術
takegue
1
930
つかわれるプラットフォーム 〜デザイン編〜@DPM#2
takegue
2
13k
カルチャーとエンジニアリングをつなぐ データプラットフォーム
takegue
4
6.6k
toC企業でのデータ活用 (PyData.Okinawa + PythonBeginners沖縄 合同勉強会 2019)
takegue
4
1.2k
Rettyにおけるデータ活用について
takegue
0
950
Sparse Overcomplete Word Vector Representations
takegue
0
270
Aligning Sentences from Standard Wikipedia to Simple Wikipedia
takegue
0
260
High-Order Low-Rank Tensors for Semantic Role Labeling
takegue
0
150
A simple pattern-matching algorithm for recovering empty nodes and their antecedents
takegue
0
160
Other Decks in Technology
See All in Technology
カンファレンスに参加した後の浮遊感とセルフケア
pauli
0
220
AI臭い文章とは何なのか
nasuvitz
36
74k
PQC移行の今 -- IETF からみた現在地
satokan
4
650
spanner-autoscalerに学ぶ CRD設計パターン 〜自動化と緊急時対応を両立する Kubernetesコントローラーの作り方〜
tkuchiki
0
210
AI coding 整合正規方法
philipz
0
570
Antigravity SDK for the Java Developer
glaforge
0
240
AIエージェント時代のPlatform as a Product —— テックリードがPdMとして回す発見・導入・計測 / Platform as a Product in the AI Agent Era
toshi0607
1
520
可視化から始めたAI駆動開発_ochi_ver1.01 / AI-Driven Development Starting with Visualization_ver1.01
yayoi_dd
0
100
個別開発で終わらせない。 現場の課題をプロダクトの強さに変える StockmarkのFDE
ktkrhr
0
400
手を動かして実感する、Kiro が変える開発体験
inariku
0
420
Databricksメトリクスビューはじめてのもくもく会
taka_aki
0
130
「今盗んで、後で解く」に備える ― AWSのポスト量子暗号入門
yama3133
2
270
Featured
See All Featured
Leading Effective Engineering Teams in the AI Era
addyosmani
9
2.7k
Embracing the Ebb and Flow
colly
88
5.2k
Pawsitive SEO: Lessons from My Dog (and Many Mistakes) on Thriving as a Consultant in the Age of AI
davidcarrasco
0
250
It's Worth the Effort
3n
188
29k
Darren the Foodie - Storyboard
khoart
PRO
4
4k
How STYLIGHT went responsive
nonsquared
100
6.3k
Winning Ecommerce Organic Search in an AI Era - #searchnstuff2025
aleyda
2
2.2k
HTML-Aware ERB: The Path to Reactive Rendering @ RubyCon 2026, Rimini, Italy
marcoroth
5
750
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
17k
The Organizational Zoo: Understanding Human Behavior Agility Through Metaphoric Constructive Conversations (based on the works of Arthur Shelley, Ph.D)
kimpetersen
PRO
0
480
Leadership Guide Workshop - DevTernity 2021
reverentgeek
1
380
The Curse of the Amulet
leimatthew05
3
15k
Transcript
文献紹介: Dependency-based empty category detection via phrase structure trees 長岡技術科学大学
自然言語処理研究室 竹野 峻輔
概要 Chinese Treebank における 空範疇検出. 係り受け構造 におけるモデル化 - 出力は係り受け構造 素性抽出は句構造から
という特殊なモデル - 言語学的性質に着目した素性群の提案 Nianwen Xue and Yaqin Yang. 2013. Dependency-based empty category detection via phrase structure trees. In Proceedings of NAACL-HLT 2013, pages 1051–1060. .
導入 • なぜ空範疇検出に取り組むのか? – pro-drop language では 頻繁に空範疇が出現する – 空範疇
∋ ゼロ代名詞, NP痕跡, 関係代名詞の省略 … – 参照解決の問題. (文脈を機械的に理解するため) – 機械翻訳 では 大きな問題 • Word alignment の精度の改善(Xiang, 2013) • 空範疇を適切に埋めてやることでBLEUが大幅に向上 (Xian et al. 2013, Chung and Gildea 2010)
モデル 主辞hと隣接する単語t の (渉及, 的) → *OP* 組み合わせ (h, t)に対する空範疇の分類問題.
- 複数の空範疇が連続する場合にも対応できる - 主辞 と 空範疇の関係 が 明示的になる 主辞単位で評価できるので 簡潔で明確
モデル • 係り受け 構造に対して分類(上) • 素性抽出は句構造(再パースしたもの)から抽出(下)
素性抽出:overviews • 言語学的な性質に着目した素性群6種 – Horizonal features – Vertical features –
Targeted grammatical constructions – Head information – Transitivity features – Semantic role features
素性抽出:ablation test
素性抽出:Horizonal features • 主辞hや空範疇の隣接の単語p, t 前後関係を抽出したもの – 主辞h, 空範疇の隣接の単語p, tの
表層系およびPOS label – 上記ラベルの組み合わせ素性 – 主辞と空範疇の隣接の単語の距離 same, immediately before/after, near before/after, other – h ~ t までの間にある動詞の数 – h ~ t までの間にあるカンマの数
素性抽出:Vertical features • 主辞h や 空範疇の隣接の単語p, t の構造的な特 徴に着目した素性 –
t から p と t の共通の親 Aまでのパス – h ~ t までのパス – p と t の共通の親 A から hまでのパス
素性抽出:Targetd grammatical construction • 言語学的構造(IP node) に 着目した 特徴 –
隣接の単語t が IPの始まりに位置するか? – 隣接の単語t が 主語の無いIPの始まりに位置するか? – tが左端にある 親IPの 左兄弟/右兄弟のラベル – tが左端にある親IPのgovernning-verbの 表層系 – tが左端にある親IPはlocalizer phraseの補語になるか? – tが左端に有る親IPは主格の役割を持っているか?
素性抽出:Head information • 複数の述語が 一つの空範疇を共有する時の 構造情報を 捉えるための特徴 – 係り受け構造では ECに対し
head はひとつのみ – IP中に VPが複数あるような構造を対象とした素性 – 動詞が head になりうるか否かを表す2値 • 再パース 際の誤り も意識している • おそらく RNR(右枝節繰り上がり)の検出に効果的
素性抽出:ablation test
実験 CTBの空範疇の種類 • pro : small pro(ゼロ代名詞) • PRO: big
pro (主語代名詞. 文中に参照を持つ) • OP : 関係代名詞の省略を表す空範疇 • T : NP痕跡. 名詞句の移動を表す空範疇 • RNR: 右枝接点繰り上げ 構文を表す • * : 受動態や繰り上げの痕跡を表す • ? : 不明. その他の空範疇
実験-データセット • CTB v6.0
実験-結果
結論 • 係り受け構造に対する空範疇検出モデルの提案 – ECが複数有る場合にも対応できる(再現率の改善) – 言語学的性質に着目することで (Cai et al.
2011) のモデルより 大きく改善 +7.4ポイント – pro に 対する性能はかなり低い • cf. (Wang et al. 2015) では 大きく 改善されている