Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
テキストメディア特論 類似した「名前」の同一性の判定
Search
Lamron
October 01, 2023
Research
0
63
テキストメディア特論 類似した「名前」の同一性の判定
Lamron
October 01, 2023
Tweet
Share
More Decks by Lamron
See All by Lamron
テキストメディア特論 「会社名」の抽出
lamrongol
0
85
Blueskyでは何が話し合われているか。「情報技術は民主主義を生み、今は殺そうとしている」
lamrongol
0
6.2k
要約: Formal Approaches in Categorization: Chapter.5 Semantics without categorization
lamrongol
0
2.8k
Blueskyの「今」がわかる!Bot
lamrongol
0
1.7k
Other Decks in Research
See All in Research
言語モデルLUKEを経済の知識に特化させたモデル「UBKE-LUKE」について
petter0201
0
240
資産間の相関関係を頑健に評価する指標を用いたファクターアローケーション戦略の構築
nomamist
0
140
NeurIPS 2024 参加報告 & 論文紹介 (SACPO, Ctrl-G)
reisato12345
0
350
20241226_くまもと公共交通新時代シンポジウム
trafficbrain
0
430
国際会議ACL2024参加報告
chemical_tree
1
440
DeepSeek-R1の論文から読み解く背景技術
personabb
3
340
CoRL2024サーベイ
rpc
1
1.6k
ECCV2024読み会: Minimalist Vision with Freeform Pixels
hsmtta
1
430
移動ビッグデータに基づく地理情報の埋め込みベクトル化
tam1110
0
240
大規模日本語VLM Asagi-VLMにおける合成データセットの構築とモデル実装
kuehara
5
1k
Poster: Feasibility of Runtime-Neutral Wasm Instrumentation for Edge-Cloud Workload Handover
chikuwait
0
360
博士学位論文予備審査 / Scaling Telemetry Workloads in Cloud Applications: Techniques for Instrumentation, Storage, and Mining
yuukit
1
1.7k
Featured
See All Featured
How STYLIGHT went responsive
nonsquared
98
5.4k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
226
22k
Code Reviewing Like a Champion
maltzj
521
39k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
33
2.1k
Become a Pro
speakerdeck
PRO
26
5.2k
Stop Working from a Prison Cell
hatefulcrawdad
267
20k
Rebuilding a faster, lazier Slack
samanthasiow
80
8.9k
Templates, Plugins, & Blocks: Oh My! Creating the theme that thinks of everything
marktimemedia
30
2.2k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
280
13k
How To Stay Up To Date on Web Technology
chriscoyier
790
250k
Reflections from 52 weeks, 52 projects
jeffersonlam
348
20k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
129
19k
Transcript
類似した「名前」の同一性判定 @lamrongol
共起単語からの推定 • 異なる分野の同名異人は共起する単語の違いに よって判別できる • 例 : 野球選手と音楽家なら、前者は野球に関連する単 語と共起し、後者は音楽に関する単語と共起する •
もし同じ分野で同名異人がいたら? • その場合、人間にとっても判別が難しいので、何らかの 識別記号がつくはず • 例 : もし「鈴木一朗」という野球選手が二人いたら、「鈴 木一朗(マリナーズ)」「鈴木一朗(巨人)」というように チーム名がつくかもしれない – 名前に隣接している単語ほど重みづけを大きくすれば上記例 などでは分類しやすくなる
データセット • 同一人物であることが分かっている文書群をどう やって集めるか • Wikipedia の「曖昧さ回避」のページを用いる
データセット • 同名でも「イチロー _(XXX) 」のように異なる人物に は異なる項目名が付けられるので、個別ページ以 外のページの文章も使用できる • 例 :
マリナーズのページ リンクから「イチロー」が野球選手の「イチロー」であるこ とがわかる
データセットの拡張 • Wikipedia を使用して得られた共起単語を元に、 他の構造化されてない文書に対して判定を行い、 それを新たな正解データとする • どの用法がよく使われているかを計算できる • 例えば「イチロー」なら、野球選手を指している場合が
圧倒的に多いという結果が出るはず • 文書が小さくて共起単語から推定できない場合も、 単純に頻度が高いものを推定として与えられる • 例 : 「イチローかっこいい」 → 野球選手
表記ゆれの問題 • 同一人物だが表記が何らかの理由で異なる場合 • 例 : 「鈴木一郎」「鈴木一朗」 • 変換ミスなどで起こる可能性がある誤表記と正しい 表記との距離を短く判定する編集距離を用いる
• 例 : 「沢」「澤」などの漢字をあらかじめ登録しておく、 読みが同じ漢字の置換は小さく見積もる、など • 編集距離が一定の閾値以下のものを「同一の可能 性がある」と判定 • 共起単語を用いて同一性の判定