On Adversarial Example for Character-Level Neural Machine Translation

弊研究室で行なったCOLING2018読み会の発表資料です。

Transcript

1.    
    
2. A C ( A ) , A ( - A D • L • White-box adversarial example • U • T O E • M NMT N O • EJ 2
3. • - - MadA x M wmt boecN - M • N p vsM h vsM h - i • - T Mk M Tn r • Mg - ad l 3
4. m 4 n ) 1M T F 7777777 2 0 ) 1 2 k o i m h g F a k e ( i ct b AM rd
5. & & - & B & - & B I O 5 & &
6. - 6 hx hy #(x, y) 4 ' d a b W • - f e • - i e • e • e
7. ! 7 x = $%% , … , $%( ; $*% , … , $*( ; … $+% , … , $+( ! , - - ⃗ !/01 = 0; … ; 0, … , 0, … , −1,0, … , 1,0 0 , … , 0 / ; 0, … , - ! ∇6789 : x, y = ∇< :(x, y)? @ ⃗ !/01 = A: 1 A$/0 − A:(B) A$/0 ! -
8. )( & ) )( & 8 )( & A A&( ) & & & & TC , )(C A ! "($, &' ) A A & ) )( & &( ) & & & & TC ! !′ −"($, &'+ ) A A
9. - 5 9 5-2 e i O n O % mehG i O B omG g Mm mac G n O 0 5 - % l d
10. hnr 10 D C-41.2 i C a a VWa 2 5 2 25 9 3 56 0 1 D Nt 5 5 e ckN e D L RNN r E gb LTN sISoLN F
11. 5 E6C E 9 EE68 11 EE68 0 B 1 D CE . E 4F6B F E 7 68 F E 7 68 F E 7 68 F E 7 68 03 
     
     
    
    . 
     
     
     
     -4 
     
     
     
     o sw 2 5 ec A D AE hIdkb S U r S n F E 7A ci Ig 2 5 x a S SDF6Bb a F E 7 68 2 5bl aR a A6 AC E 9 ci Ig nb Lp t
12. 12 ! = #$ #% … #' … #( #' C !) = #$ #% … UNK … #( C success !123 = 4 1, if BLEU(!, !123 ) BLEU(!, !) ) ≥ ? 0, otherwise A
13. - 13
14. 14 !" = $% $& … $() … $*
17. 17 • c T M aN Me N M gM • b N h b N h M e N d M gM • - - i M gM