文献紹介: Decomposable Neural Paraphrase Generation

文献紹介: Decomposable Neural Paraphrase Generation

2019/07/23の文献紹介で発表

F637b583c221c132af26c91cb3dba0ca?s=128

Yumeto Inaoka

July 23, 2019
Tweet

Transcript

  1. Decomposable Neural Paraphrase Generation

  2. https://arxiv.org/abs/1906.09741

  3. • • • •

  4. • • •

  5. • • •

  6. • • •

  7. • •

  8. • • = [1 , … , ] • =

    [1 , … , ]
  9. • • • ℎ = BiLSTM( ; ℎ−1 , ℎ+1

    ) • = LSTM ℎ , −1 ; −1 • = GumbelSoftmax( , )
  10. • • = − encoderz (, ) • 1:−1 ,

    = − encoderz , 1:−1
  11. • • 1:−1 , = σ 1:−1 , ( |1:−1

    , )
  12. • 0 , 1 • = LSTM 0 ; 1

    ; −1 ; −1 • 1:−1 , = GumbelSoftmax ,
  13. • • ∗ = 0 ∗ = 1

  14. • • ℒ = σ=1 log 1:−1 , + σ=1

    log ∗ + σ=1 log ( ∗ 1:−1 ,
  15. • • •

  16. • •

  17. • •

  18. • •

  19. • •

  20. • •

  21. • •

  22. • • From 1(best) to 4(worst)

  23. • • • • •