Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
テキストメディア特論 類似した「名前」の同一性の判定
Search
Lamron
October 01, 2023
Research
0
31
テキストメディア特論 類似した「名前」の同一性の判定
Lamron
October 01, 2023
Tweet
Share
More Decks by Lamron
See All by Lamron
テキストメディア特論 「会社名」の抽出
lamrongol
0
29
Blueskyでは何が話し合われているか。「情報技術は民主主義を生み、今は殺そうとしている」
lamrongol
0
300
要約: Formal Approaches in Categorization: Chapter.5 Semantics without categorization
lamrongol
0
1.9k
Blueskyの「今」がわかる!Bot
lamrongol
0
1.5k
Other Decks in Research
See All in Research
HP (Hitto Point: 筆頭ポイント)
tanichu
0
740
Weekly AI Agents News!
masatoto
12
3.5k
CVPR2023 EarthVision Workshopより衛星画像関連論文紹介 / Satellite Imaging Processing Papers in CVPR2023 EarthVision Workshop
nttcom
0
130
音声処理ツールキットESPnetの現在と未来
kanbayashi1125
3
550
Bridging Continuous and Discrete Spaces: Interpretable Sentence Representation Learning via Compositional Operations
rudorudo11
0
160
Target trial emulationの概要
shuntaros
2
1.1k
クロスモーダル表現学習の研究動向: 音声関連を中心として
ryomasumura
3
600
Breaking Tradeoffs: Extremely Scalable Multi-Agent Pathfinding Algorithms
kei18
0
150
Introduction of NII S. Koyama's Lab (AY2024)
skoyamalab
0
120
NeurIPS-23 参加報告 + DPO 解説
akifumi_wachi
4
1.5k
Webスケールデータセットに対する実用的なポイズニング手法 / Poisoning Web-Scale Training Datasets is Practical
nttcom
0
120
方策の長期性能に対する効率的なオフライン評価・学習 (Long-term Off-Policy Evaluation and Learning)
usaito
PRO
2
190
Featured
See All Featured
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
323
20k
The Cost Of JavaScript in 2023
addyosmani
18
3.9k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
245
20k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
17
1.6k
Six Lessons from altMBA
skipperchong
22
3k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
79
43k
Fontdeck: Realign not Redesign
paulrobertlloyd
76
4.9k
The Invisible Customer
myddelton
114
12k
Creatively Recalculating Your Daily Design Routine
revolveconf
211
11k
Imperfection Machines: The Place of Print at Facebook
scottboms
261
12k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
5
1.3k
Mobile First: as difficult as doing things right
swwweet
217
8.6k
Transcript
類似した「名前」の同一性判定 @lamrongol
共起単語からの推定 • 異なる分野の同名異人は共起する単語の違いに よって判別できる • 例 : 野球選手と音楽家なら、前者は野球に関連する単 語と共起し、後者は音楽に関する単語と共起する •
もし同じ分野で同名異人がいたら? • その場合、人間にとっても判別が難しいので、何らかの 識別記号がつくはず • 例 : もし「鈴木一朗」という野球選手が二人いたら、「鈴 木一朗(マリナーズ)」「鈴木一朗(巨人)」というように チーム名がつくかもしれない – 名前に隣接している単語ほど重みづけを大きくすれば上記例 などでは分類しやすくなる
データセット • 同一人物であることが分かっている文書群をどう やって集めるか • Wikipedia の「曖昧さ回避」のページを用いる
データセット • 同名でも「イチロー _(XXX) 」のように異なる人物に は異なる項目名が付けられるので、個別ページ以 外のページの文章も使用できる • 例 :
マリナーズのページ リンクから「イチロー」が野球選手の「イチロー」であるこ とがわかる
データセットの拡張 • Wikipedia を使用して得られた共起単語を元に、 他の構造化されてない文書に対して判定を行い、 それを新たな正解データとする • どの用法がよく使われているかを計算できる • 例えば「イチロー」なら、野球選手を指している場合が
圧倒的に多いという結果が出るはず • 文書が小さくて共起単語から推定できない場合も、 単純に頻度が高いものを推定として与えられる • 例 : 「イチローかっこいい」 → 野球選手
表記ゆれの問題 • 同一人物だが表記が何らかの理由で異なる場合 • 例 : 「鈴木一郎」「鈴木一朗」 • 変換ミスなどで起こる可能性がある誤表記と正しい 表記との距離を短く判定する編集距離を用いる
• 例 : 「沢」「澤」などの漢字をあらかじめ登録しておく、 読みが同じ漢字の置換は小さく見積もる、など • 編集距離が一定の閾値以下のものを「同一の可能 性がある」と判定 • 共起単語を用いて同一性の判定