Upgrade to Pro — share decks privately, control downloads, hide ads and more …

分類モデルを用いた日本語学習者の格助詞誤り訂正

youichiro
June 22, 2020
Research
0
53

 分類モデルを用いた日本語学習者の格助詞誤り訂正

言語処理学会第25回年次大会(NLP2019)
テーマセッション: 言語教育と言語処理の接点 での発表スライド
原稿: https://www.anlp.jp/proceedings/annual_meeting/2019/pdf_dir/C4-8.pdf

youichiro

June 22, 2020
Tweet

More Decks by youichiro

See All by youichiro
日本語文法誤り訂正における誤り傾向を考慮した擬似誤り生成
youichiro
0
1.1k
Multi-Agent Dual Learning
youichiro
1
100
Automated Essay Scoring with Discourse-Aware Neural Models
youichiro
0
87
Context is Key- Grammatical Error Detection with Contextual Word Representations
youichiro
1
96
勉強勉強会
youichiro
0
57
Confusionset-guided Pointer Networks for Chinese Spelling Check
youichiro
0
130
A Neural Grammatical Error Correction System Built On Better Pre-training and Sequential Transfer Learning
youichiro
0
97
An Empirical Study of Incorporating Pseudo Data into Grammatical Error Correction
youichiro
0
130
Neural Grammatical Error Correction Systems with Unsupervised Pre-training on Synthetic Data
youichiro
0
160

Other Decks in Research

See All in Research
論文解説 ControlNet
koharite
0
130
壁のためのAIと卵のためのAI
yukinobaba
PRO
3
790
最近のVisual Odometry with Deep Learning
tattaka
1
360
Bridging the Gap: AI Research and Real-World Deployment in AI Companies
shurain
0
310
ザキ研Elixir研究動向2023
zacky1972
0
110
第24回チャンピオンズミーティング・アリエス杯ラウンド2集計 / Umamusume Aries 2023 Round2
kitachan_black
0
690
機械学習にもう一歩踏み込むための『最適輸送の理論とアルゴリズム』
joisino
3
670
NLPとVision-and-Languageの基礎・最新動向 (2) / DEIM Tutorial Part 2 Vision-and-Language
kyoun
16
7.1k
広告文生成タスクの規定とベンチマーク構築（NLP2023）
chemical_tree
0
230
これからのテスト・QAコミュニティとか イベントこうなってほしいってアイデアを みんなで話したいの（力を貸して）
____rina____
1
500
資源として見る実験プログラム
hpprc
8
1.5k
直感的に理解するConformal Prediction
masatoto
0
730

Featured

See All Featured
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
500
130k
Music & Morning Musume
bryan
37
4.9k
The Illustrated Children's Guide to Kubernetes
chrisshort
26
44k
Building Better People: How to give real-time feedback that sticks.
wjessup
346
18k
How GitHub (no longer) Works
holman
299
140k
Typedesign – Prime Four
hannesfritz
34
1.6k
A Modern Web Designer's Workflow
chriscoyier
689
190k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
152
13k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
25
5.3k
GraphQLの誤解/rethinking-graphql
sonatard
41
8.2k
Code Review Best Practice
trishagee
53
12k
Git: the NoSQL Database
bkeepers
PRO
420
60k

Transcript

  1. 0
    ෼ྨϞσϧΛ༻͍ͨ
    ೔ຊޠֶशऀͷ֨ॿࢺޡΓగਖ਼
    খ઒༾Ұ࿕ɼࢁຊ࿨ӳ
    ௕Ԭٕज़Պֶେֶ ࣗવݴޠॲཧݚڀࣨ
    ݴޠॲཧֶձୈճ೥࣍େձ

    View Slide

  2. 1
    ֨ॿࢺޡΓνΣοΧʔΛެ։͍ͯ͠·͢
    IUUQBQQKOMQPSHQDIFDLFS
    ֨ॿࢺʮ͕ɼΛɼʹɼͰʯΛగਖ਼

    View Slide

  3. 2
    എܠ
    గਖ਼Ϟσϧ
    ࣮ݧͱ݁Ռ
    ·ͱΊ
    ෼ྨϞσϧΛ༻͍ͨ೔ຊޠֶशऀͷ֨ॿࢺޡΓగਖ਼

    View Slide

  4. จ๏ޡΓగਖ਼
    จ๏ޡΓగਖ਼ͱ͸ɼจষதͷ͋ΒΏΔจ๏తͳޡΓΛ
    ࣗಈͰగਖ਼͢ΔλεΫͷ͜ͱ
    3
    ं͕ങ͏ ंΛങ͏
    ϚΠΫ಺ଁ ϚΠΫ಺ଂ
    ϝʔϧΛදࣔ͞Ε·͢ ϝʔϧΛදࣔ͠·͢
    डಈଶೳಈଶ

    ಉԻҟٛޠ

    ॿࢺ

    View Slide

  5. ޡΓͷछྨ
    4
    ॿࢺ ׆༻ ઀ଓࢺ ࢦࣔࢺ ٙ໰ࢺ
    ޠॱ ଶ ੍࣌ ಉԻҟٛޠ ྨٛޠ ฼ޠͷ࢖༻
    ΧλΧφޠ ଅԻ௕Ի୙Ի ޡࣈ୤ࣈ ʜ

    View Slide

  6. ޡΓͷछྨ
    5
    ॿࢺ ׆༻ ઀ଓࢺ ࢦࣔࢺ ٙ໰ࢺ
    ޠॱ ଶ ੍࣌ ಉԻҟٛޠ ྨٛޠ ฼ޠͷ࢖༻
    ΧλΧφޠ ଅԻ௕Ի୙Ի ޡࣈ୤ࣈ ʜ
    ޡΓͷछྨ͸ଟذʹ౉Δ

    View Slide

  7. ೔ຊޠֶशऀͷޡΓ܏޲
    6
    4
    1 %
    8 1
    93
    903
    2
    /"*45ޡ༻ίʔύε͔Βͷௐࠪ

    View Slide

  8. ೔ຊޠֶशऀͷޡΓ܏޲
    7
    4
    1 %
    8 1
    93
    903
    2
    /"*45ޡ༻ίʔύε͔Βͷௐࠪ
    ೔ຊޠֶशऀʹͱͬͯ
    ॿࢺͷ࢖͍ํ͕࠷΋೉͍͠

    View Slide

  9. ೔ຊޠߍਖ਼πʔϧͷௐࠪ
    8
    ެ։͞Ε͍ͯΔߍਖ਼πʔϧʹޡΓจΛղੳͤ͞Δ
    ೔ຊޠߍਖ਼αϙʔτ IUUQXXXLJKJDIFDLDPN
    ςΩετॲཧπʔϧ r จষߍਖ਼ IUUQTTP[PVKQXFCBQQUFYUQSPPGSFBEJOH
    ΦϯϥΠϯ೔ຊޠߍਖ਼ิॿπʔϧ IUUQXXXQBQFSHMBTTFTDPNKQMBO
    ϓϨεϦϦʔεߍਖ਼πʔϧ IUUQTXXXWBMVFQSFTTDPNQSPPGSFBEFS
    &OOPIUUQTFOOPKQ
    .JDSPTPGU8PSE
    +VTU3JHIUʢ༗ྉʣIUUQTXXXKVTUTZTUFNTDPNKQQSPEVDUTKVTUSJHIU
    "50,Ϋϥ΢υνΣοΧʔʢ༗ྉʣIUUQTKQSPPGSFBEJOHBUPLDPN
    ௐࠪͨ͠πʔϧ

    View Slide

  10. ೔ຊޠߍਖ਼πʔϧͷௐࠪ
    9
    ॿࢺ ࣭໰ΛରԠ͢Δ
    ׆༻ ϒοΫΛ։͖͍ͯͩ͘͞
    ઀ଓࢺ ମௐ͕ѱ͍͔ͩΒٳΈ·͢
    ࢦࣔࢺ ͦͷҎԼͷαΠζʹઃఆ
    ٙ໰ࢺ ͦͷωοΫϨε͸͍ͭ͘Ͱ͔͢ʁ
    ޠॱ ྑ͍Ͱ͠ΐ͏ɻผʹ͔ͩΒ෰ͳΜͯ
    ଶ ϝοηʔδΛදࣔ͞Ε·͢
    ੍࣌ ࡢ೔͸Ӎ͕߱Δ
    ಉԻҟٛޠ ϝϞϦ಺ଁ
    ྨٛޠ շ଎ʹॲཧ͠·͢
    ฼ޠͷ࢖༻ ษڧ͢ΔͨΊʹϩʔϯΛऔͬͨ
    ΧλΧφޠ ΞΠίϯΛΫϦʔΫ͢Δ
    ଅԻ௕Ի୙Ի ࣭໰͕͋ͨΒ͓ئ͍͠·͢
    ޡࣈ୤ࣈ ࢲཱͪͰ΍Γ·͢
    ݕূͨ͠ޡΓจ

    View Slide

  11. ೔ຊޠߍਖ਼πʔϧͷௐࠪ
    10
    π
    ʔ
    ϧ
    ॿ
    ࢺ
    ׆
    ༻
    ઀
    ଓ
    ࢺ
    ࢦ
    ࣔ
    ࢺ
    ٙ
    ໰
    ࢺ
    ޠ
    ॱ ଶ
    ࣌
    ੍
    ಉ
    Ի
    ҟ
    ٛ
    ޠ
    ฼
    ޠ
    ͷ
    ࢖
    ༻
    Χ
    λ
    Χ
    φ
    ޠ
    ଅ
    Ի
    ௕
    Ի
    ୙
    Ի
    ޡ
    ࣈ
    ୤
    ࣈ
    º º º º º º º º º º ˚ º ˓
    º º º º º º º º º º ˚ º ˓
    º º º º º º º º º º ˚ º ˓
    º º º º º º º º º º ˚ º ˓
    º º º º º º º º º º º º º
    º ˓ ˚ º º º º º º ˚ º º ˚
    º º º º º ˚ º º º º ˚ º º
    º º º º º º º º º º ˓ º º
    º ݕग़ͳ͠ ˓ ਖ਼͘͠ݕग़ ˚ ݕग़͕ͨ͠ཧ༝͕ҧ͏

    View Slide

  12. π
    ʔ
    ϧ
    ॿ
    ࢺ
    ׆
    ༻
    ઀
    ଓ
    ࢺ
    ࢦ
    ࣔ
    ࢺ
    ٙ
    ໰
    ࢺ
    ޠ
    ॱ ଶ
    ࣌
    ੍
    ಉ
    Ի
    ҟ
    ٛ
    ޠ
    ฼
    ޠ
    ͷ
    ࢖
    ༻
    Χ
    λ
    Χ
    φ
    ޠ
    ଅ
    Ի
    ௕
    Ի
    ୙
    Ի
    ޡ
    ࣈ
    ୤
    ࣈ
    º º º º º º º º º º ˚ º ˓
    º º º º º º º º º º ˚ º ˓
    º º º º º º º º º º ˚ º ˓
    º º º º º º º º º º ˚ º ˓
    º º º º º º º º º º º º º
    º ˓ ˚ º º º º º º ˚ º º ˚
    º º º º º ˚ º º º º ˚ º º
    º º º º º º º º º º ˓ º º
    ೔ຊޠߍਖ਼πʔϧͷௐࠪ
    11
    º ݕग़ͳ͠ ˓ ਖ਼͘͠ݕग़ ˚ ݕग़͕ͨ͠ཧ༝͕ҧ͏
    શવݕग़ͯ͘͠Εͳ͍ʜ

    View Slide

  13. 12
    എܠ
    గਖ਼Ϟσϧ
    ࣮ݧͱ݁Ռ
    ·ͱΊ
    ෼ྨϞσϧΛ༻͍ͨ೔ຊޠֶशऀͷ֨ॿࢺޡΓగਖ਼

    View Slide

  14. ໰୊ઃఆ
    13
    ໰୊Λ؆୯Խͯ͠औΓ૊Ή
    ֨ॿࢺʮ͕ɼΛɼʹɼͰʯͷޡΓʹݶఆͯ͠గਖ਼
    จதʹ֨ॿࢺޡΓ͕ՕॴͷΈ
    ޡΓՕॴ͸ط஌Ͱ͋Δͱ͢Δ
    ୒ͷ݀ຒΊ໰୊Λղ͘

    View Slide

  15. గਖ਼Ϟσϧ
    14
    <͕ɼΛɼʹɼͰ>
    ͷͲΕ͕౰ͯ͸·Δ͔Λ༧ଌ͢Δ
    ࢲ ͸ ं ʁങͬ ͨ

    View Slide

  16. ઌߦݚڀ
    15
    l೔ຊޠֶशऀͷޡΓ܏޲Λߟྀͨ֨͠ॿࢺగਖ਼z
    ּݪ੣࢘ ౻໺୓໵ খொक Ӭాণ໌ দຊ༟࣏
    ݴޠॲཧֶձୈճ೥࣍େձൃද࿦จू QQr
    Ø छྨͷॿࢺΛର৅ʹగਖ਼
    Ø ݴޠϞσϧख๏ͱ/PJTZ$IBOOFM.PEFMख๏Ͱ࣮ݧ
    ຊݚڀͰ͸
    3//Ϟσϧͱ$//ϞσϧͰ࣮ݧΛߦͳͬͨ

    View Slide

  17. 3//Ϟσϧ
    16
    ... ...
    ...
    ...
    ... ...
    *OQVUXPSET
    BOTXFS
    8PSE
    FNCFEEJOHT
    -45.
    "UUFOUJPO
    .-1 QSFEJDUJPO

    View Slide

  18. $//Ϟσϧ <-FFUBM >
    17
    !"
    !#
    !$
    ʜ
    MBZFST
    LFSOFMTJ[F
    5"3(&5
    .-1
    DPODBU

    View Slide

  19. 18
    എܠ
    గਖ਼Ϟσϧ
    ࣮ݧͱ݁Ռ
    ·ͱΊ
    ෼ྨϞσϧΛ༻͍ͨ೔ຊޠֶशऀͷ֨ॿࢺޡΓగਖ਼

    View Slide

  20. ܇࿅σʔλ
    19
    l #$$8+-BOH గਖ਼จ
    Λ࢖༻ .L.

    l จʹؚ·ΕΔ֨ॿࢺͷ͏ͪҰͭΛϚεΫͯ͠܇࿅
    ࢲ ͸ ं Λ ങͬ ͨ
    ࢲ ͸ ं ."4,ങͬ ͨ

    View Slide

  21. ܇࿅σʔλ
    20
    l #$$8+-BOH గਖ਼จ
    Λ࢖༻ .L.

    l จʹؚ·ΕΔ֨ॿࢺͷ͏ͪҰͭΛϚεΫͯ͠܇࿅
    ࢲ ͸ ं Λ ങͬ ͨ
    ࢲ ͸ ं ."4,ങͬ ͨ
    ΞϊςʔγϣϯίʔύεΛඞཁͱ͠ͳ͍

    View Slide

  22. ςετσʔλ
    21
    l /"*45ޡ༻ίʔύε͔Β֨ॿࢺʮ͕ɼΛɼʹɼͰʯ
    ͷޡ༻λάΛؚΉจΛநग़ จ

    l ͦͷλάҎ֎͸͋Β͔͡Ίగਖ਼͓ͯ͘͠
    ंHPZPDSSbΛ`UZQFbQHBXP`͕HPZPങͬͨ
    ं 5"3(&5ങͬ ͨ BOTXFSΛ

    View Slide

  23. ϕʔεϥΠϯ
    22
    ݴޠϞσϧΛ༻͍ͨగਖ਼ํ๏
    l #$$8+-BOH͔Β୯ޠHSBNݴޠϞσϧΛߏங
    l ʮ͕ɼΛɼʹɼͰʯͷ͏ͪݴޠϞσϧ֬཰͕࠷΋ߴ͘
    ͳΔ΋ͷΛબ୒͢Δ

    View Slide

  24. ࣮ݧઃఆ
    23
    ࣄલֶशࡁΈ୯ޠ෼ࢄදݱΛ࢖༻ FNC

    ‎ /8+$7FDΛXPSEFNCFEEJOHTͷॳظ஋ͱ͢Δ
    ܇࿅ςετσʔλΛશͯฏԾ໊ʹม׵ LBOB

    ‎ ೔ຊޠֶशऀ͸׽ࣈΑΓ΋ฏԾ໊Λଟ༻͢ΔͨΊ

    View Slide

  25. ֨ॿࢺޡΓగਖ਼ͷ࣮ݧ݁Ռ
    24
    Ϟσϧ ਖ਼ղ཰

    ݴޠϞσϧ ϕʔεϥΠϯ

    $//
    $//FNC
    $//FNCLBOB
    -45.
    "UUO-45.
    "UUO-45.FNC
    "UUO-45.FNCLBOB
    +8.41
    +8.59

    View Slide

  26. ग़ྗྫ
    25
    ˓
    ఏ
    Ҋ
    ख
    ๏
    Ͱ
    ޲
    ্
    గਖ਼Օॴ͔Β཭Εͨ୯ޠ ػೳޠ
    ΛߟྀͰ͖͍ͯΔ

    View Slide

  27. ग़ྗྫ
    26
    ؒҧ͍͕ͩจ๏తʹ͸ਖ਼͍͠
    º
    ఏ
    Ҋ
    ख
    ๏
    Ͱ
    ΋
    ؒ
    ҧ
    ͍

    View Slide

  28. 27
    ͲΜͳίʔύεΛ܇࿅ͤͨ͞Βྑ͍ͷ͔ʁ!

    View Slide

  29. ܇࿅ίʔύεͷൺֱ
    28
    /"*45ޡ༻ίʔύεɼ-BOHɼ#$$8+ɼ೔ܦ৽ฉίʔύε
    ͷ ׽ࣈͷׂ߹ɼฏۉจ௕Λௐࠪ
    24.7
    29
    35.7
    54
    28.6 30.1
    32.8
    47.7
    0
    10
    20
    30
    40
    50
    NAIST
    Lang-8 BCCWJ
    (%) ()
    ֶशऀίʔύε

    View Slide

  30. ܇࿅ίʔύεͷൺֱ
    29
    #$$8+ɼ೔ܦ৽ฉίʔύεͰαΠζΛສจʹ౷Ұͯ͠
    ϞσϧΛ܇࿅
    ೔ܦ৽ฉ #$$8+
    ݴޠϞσϧ
    $//FNC
    -45.FNC
    #$$8+Ͱ܇࿅ͨ͠ํ͕໌Β͔ʹਫ਼౓͕ߴ͍

    View Slide

  31. ܇࿅ίʔύεͷൺֱ
    30
    #$$8+ɼ೔ܦ৽ฉίʔύεͰαΠζΛສจʹ౷Ұͯ͠
    ϞσϧΛ܇࿅
    ೔ܦ৽ฉ #$$8+
    ݴޠϞσϧ
    $//FNC
    -45.FNC
    #$$8+Ͱ܇࿅ͨ͠ํ͕໌Β͔ʹਫ਼౓͕ߴ͍
    ֶशऀίʔύεʹz͍ۙzίʔύε͕༗ޮͰ͋Δ

    View Slide

  32. 31
    എܠ
    గਖ਼Ϟσϧ
    ࣮ݧͱ݁Ռ
    ·ͱΊ
    ෼ྨϞσϧΛ༻͍ͨ೔ຊޠֶशऀͷ֨ॿࢺޡΓగਖ਼

    View Slide

  33. ·ͱΊ
    32
    l ֨ॿࢺʮ͕ɼΛɼʹɼͰʯͷޡΓʹݶఆͨ͠గਖ਼
    ϞσϧΛߏஙͨ͠
    l ݴޠϞσϧख๏ʹൺ΂ͯɼจશମΛߟྀͨ͠గਖ਼
    Λ͢Δ͜ͱ͕Ͱ͖Δ
    l ΑΓྑ͍గਖ਼ʹ͸ɼֶशऀίʔύε͋Δ͍͸ͦΕ
    ʹl͍ۙzίʔύεͰ܇࿅͢Δ͜ͱ͕༗ޮͰ͋Δ
    ֨ॿࢺޡΓνΣοΧʔΛެ։͍ͯ͠·͢
    IUUQBQQKOMQPSHQDIFDLFS

    View Slide

  34. 33
    ֨ॿࢺޡΓνΣοΧʔΛެ։͍ͯ͠·͢
    IUUQBQQKOMQPSHQDIFDLFS

    View Slide

  35. 34

    View Slide

  36. ෇࿥
    35

    View Slide

  37. 36
    32 6
    17
    17
    17
    17
    %
    17 %
    17
    17 "
    17
    17
    %
    /"*45ޡ༻ίʔύε͔Βௐ΂ͨॿࢺޡΓͷ಺༁

    View Slide

  38. ೔ຊޠֶशऀίʔύε
    37
    n /"*45ޡ༻ίʔύε
    ࡞จର༁%#ʹΞϊςʔγϣϯ
    จষɼछྨͷޡ༻λά
    n -BOH-FBSOFS$PSQPSB
    ݴޠशಘαʔϏε-BOH͔Βऩू
    ೔ຊޠֶशऀ࡞จ จ
    n ࡞จର༁%#
    ࡞จσʔλ݅
    ఴ࡟͞Εͨ࡞จσʔλ݅
    n ࣉଜޡ༻ྫूσʔλϕʔε
    σʔλ૯਺ จ
    ޡ༻λά෇͖จ਺ จ
    n ֶशऀίʔύεʮͳͨͶʯ
    n ΦϯϥΠϯ೔ຊޠޡ༻ࣙయ
    ޡ༻λά෇͖࡞จ݅
    n ೔ຊޠֶशऀ࡞จίʔύε
    ໊෼ͷ࡞จσʔλ

    View Slide