Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
B3 コアタイム 第9回目 ( 2014年12月19日(金) )
Search
MIKAMI-YUKI
December 19, 2014
Education
0
120
B3 コアタイム 第9回目 ( 2014年12月19日(金) )
MIKAMI-YUKI
December 19, 2014
Tweet
Share
More Decks by MIKAMI-YUKI
See All by MIKAMI-YUKI
2016年_年次大会_発表資料
mikamiy
0
110
文献紹介_10_意味的類似性と多義解消を用いた文書検索手法
mikamiy
0
240
文献紹介_9_コーパスに基づく動詞の多義解消
mikamiy
0
91
文献紹介_8_単語単位による日本語言語モデルの検討
mikamiy
0
74
文献紹介_7_自動獲得した未知語の読み・文脈情報による仮名漢字変換
mikamiy
0
71
文献紹介_6_複数の言語的特徴を用いた日本語述部の同義判定
mikamiy
0
81
文献紹介_5_マイクロブログにおける感情・コミュニケーション・動作タイプの推定に基づく顔文字の推薦
mikamiy
0
110
文献紹介_4_結合価パターンを用いた仮名漢字変換候補の選択
mikamiy
0
370
文献紹介_3_絵本のテキストを対象とした形態素解析
mikamiy
1
390
Other Decks in Education
See All in Education
2024年度春学期 統計学 講義の進め方と成績評価について (2024. 4. 11)
akiraasano
PRO
0
110
【滋賀大学データサイエンス学部】PropTech(不動産テック)における AI・データサイエンス活用
takehikohashimoto
0
4.1k
パフォーマンス・チューニング入門
oracle4engineer
PRO
2
620
心房細動週間ポスター(2024年3月6日)
japanstrokeassociation
0
260
Switches
irocho
0
180
子どもたち創造的活動機会の必要性に関する提言/creativehub
codeforeveryone
0
230
Data Representation - Lecture 3 - Information Visualisation (4019538FNR)
signer
PRO
1
1.7k
Multimodal Interaction - Lecture 3 - Next Generation User Interfaces (4018166FNR)
signer
PRO
0
1.1k
Padlet opetuksessa
matleenalaakso
3
11k
LinkedIn
matleenalaakso
0
990
HCL Notes 14.0 「スタイルの変更」で「3 設定の確認」を深掘り
harunakano
0
2k
保育とふりかえりをコネクト! / connect childcare and retrospectives!
psj59129
1
150
Featured
See All Featured
Principles of Awesome APIs and How to Build Them.
keavy
121
16k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
78
42k
Pencils Down: Stop Designing & Start Developing
hursman
117
11k
Being A Developer After 40
akosma
57
580k
Build your cross-platform service in a week with App Engine
jlugia
225
17k
Designing Dashboards & Data Visualisations in Web Apps
destraynor
226
51k
10 Git Anti Patterns You Should be Aware of
lemiorhan
648
58k
Faster Mobile Websites
deanohume
299
30k
[RailsConf 2023] Rails as a piece of cake
palkan
23
4k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
18
6.9k
For a Future-Friendly Web
brad_frost
172
9k
Six Lessons from altMBA
skipperchong
21
3k
Transcript
「自然言語処理の基礎」 2章:辞書とコーパス B3 三上侑城
概念階層 シソーラスのイメージ図 抽象的 もの 行動 ・・・・・ ・・・・・ ・・・・・ 人工物 ・・・・・
・・・・・ 乗り物 陸上の乗り物 海上の乗り物 空中の乗り物 飛行機 ・・・ ヘリコプタ バイク 鉄道 自動車 船 ・・・ ヨット
類似度の計算 • 類似度はシソーラスにおいて、近くに位置する単語 同士ほど類似度は高いとする。 • 調べたい2つの単語のシソーラス中での根か らの深さをそれぞれ , とし、2つの共通の 上位語の根からの深さを
とした時、式は以 下のようになる。 sim( , ) = × + ※ 0 ≦ sim( , ) ≦ 1
類似度の計算例 • 「船」と「ヨット」は、それぞれ 根から5の深さがあるため、 = , =5 にする。 • お互いの共通する一番最初の
語は「海上の乗り物」であり、 根から4の深さがあるため、 = 4 にする。 • 先ほどの式に代入すると、 sim( , ) = × + = × + = 0.8 となる。 抽象的 もの 行動 ・・・・・ ・・・・・ ・・・・・ 人工物 ・・・・・ ・・・・・ 乗り物 陸上の乗り物 海上の乗り物 空中の乗り物 飛行機 ・・・ ヘリコプタ バイク 鉄道 自動車 船 ・・・ ヨット 左図のシソーラスにおいて「船」と「ヨット」の類似度を求める
コーパス •電子化された言語データの蓄積物を 「コーパス(corpus)」という。 •収集したままの状態で、何も情報を付 加していないコーパスを 「生コーパス(raw corpus)」という。 •何らかの情報を付加したコーパスを 「タグ付きコーパス(tagged corpus)」と
いう。
タグ付きコーパス •何らかの情報を付加したコーパス であり、 「品詞」 「構文構造」 「語義」 「テキスト構造」 の、4つの情報が付加されているも のが多い。
言語の統計 •文字の連続を考えてみる。 →nグラム •通常n=2,3とすることが多い。 •ある文章や、その国の言語の 傾向がわかる。 •例題2.1をやるとわかりやすい。
機械学習 •訓練データを用いて機械学習を させ、分類器を用いて生データを 分類させることができる。 •機械学習手法として、 「サポートベクトルマシン」 「ナイーブベイズ分類器」 「決定木学習」 などがある。
機械学習 機械学習のプロセス図 クラス ラベル データ 訓練データ データ テストデータ 機械学習 アルゴリズム
分類器 クラス ラベル