深層ニューラルネットワークにおける訓練高速化のための自動最適化

My slide at "第168回HPC研究会".
http://id.nii.ac.jp/1001/00194707/

Transcript

1. ਂ૚χϡʔϥϧωοτϫʔΫ ʹ͓͚Δ܇࿅ߴ଎ԽͷͨΊͷ ࣗಈ࠷దԽ ۔୔࿨༸
   ݐ෦मݟ
   
   ஜ೾େֶେֶӃ
   γεςϜ৘ใ޻ֶݚڀՊ
   
   ஜ೾େֶ
   ܭࢉՊֶݚڀηϯλʔ
   ۔୔
   ࿨༸
   ݐ෦
   मݟ
   ਂ૚χϡʔϥϧωοτϫʔΫʹ͓͚Δ܇࿅ߴ଎Խͷͨ Ίͷࣗಈ࠷దԽ
   ৘ใॲཧֶձ
   ୈճ
   )1$
   ݚڀձใࠂ
   )1$
   7PM
   )1$
   /P
   
   .BS
    
   !
   ੴ઒
   ࢁ୅Թઘ
   ྤཨޫ
2. ൃද಺༰ w ݚڀഎܠ
   w ؔ࿈ݚڀʢϋΠύʔύϥϝʔλνϡʔχϯάɼ෼ࢄ%//ʣ
   w ༧උ࣮ݧ
   w ఏҊख๏
   w ఏҊख๏
   (16ར༻཰Λར༻ͨ͠࠷దԽ
   w ఏҊख๏
   ܇࿅ॲཧ࣌ؒͷਪҠΛར༻ͨ͠࠷దԽ
   w ධՁ࣮ݧ
   w ݁࿦ 2
3. ݚڀͷഎܠʢʣ w ۙ೥ɼਂ૚χϡʔϥϧωοτϫʔΫʢҎԼ%//ʣΛ༻͍ ͨػցֶशͷར༻͕׆ൃԽ      Ґ Ґ Ґ ̐Ґ Ґ Ґ Ґ IUUQJNBHFOFUPSHDIBMMFOHFT-473$SFTVMUTIUNM
   ΑΓҾ༻ #FUUFS *-473$ͷ
   ը૾ೝࣝ෦໳ͷUPQ
   Τϥʔ཰<> "MFY/FU
   ৞ΈࠐΈχϡʔϥϧ ωοτϫʔΫ Λ࠾༻ 3
4. ݚڀͷഎܠʢʣ Ϟσϧͷઃܭ ϋΠύʔ
   ύϥϝʔλͷ ܾఆ ܇࿅ॲཧ ܇࿅ࡁΈ
   ϞσϧͷධՁ ਺࣌ؒʙ਺೔ؒ ϑΟʔυόοΫ ܇࿅࣌ؒͷ௕ظԽ ঎༻αʔϏεʹ͓͍ͯ
   ػձଛࣦͷՄೳੑ͕ݒ೦͞ΕΔ 4
5. w %//ͷ܇࿅࣌ؒ୹ॖͷͨΊͷΞϓϩʔν
   w (16ͷ࠾༻
   w ϛχόον܇࿅ͷ࠾༻
   w ෼ࢄॲཧԽ
   w ઐ༻ϋʔυͷ࠾༻
   w Ϟσϧѹॖ ݚڀͷഎܠʢʣ ຊݚڀͰѻ͏ྖҬ 5
6. ݚڀͷ໨త w ϊʔυ(16ͷ؀ڥʹ͓͍ͯɼϛχόονͷύϥϝʔλͰ͋Δ ϛχόοναΠζΛɼ܇࿅࣌ؒΛ࠷খԽ͢ΔΑ͏ʹࣗಈͰ࠷ద Խ͢Δख๏ΛఏҊ͢Δ
   w ఏҊख๏ΛػցֶशϑϨʔϜϫʔΫ$IBJOFSʹ࣮૷͠ධՁΛߦ͏ 6
7. ؔ࿈ݚڀʢʣ w ෼ࢄॲཧΛ༻͍ٖͯࣅతʹେن໛ͳϛχόον܇࿅Λ࣮ݱ
   w ύϥϝʔλαʔόΛ༻͍ͨඇಉظ෼ࢄฒྻ܇࿅
   <%FBO
   FU
   BM
   >
   w .1*ͷ"MM3FEVDFΛ༻͍ͨಉظ෼ࢄฒྻ܇࿅
   <"LJCB
   FU
   BM
   > େྔͷܭࢉϊʔυΛલఏͱͨ͠ख๏Ͱ͋Γɼϊʔυ୯ҐͰͷ࠷దԽ·Ͱ ͸ߟྀ͍ͯ͠ͳ͍ ຊݚڀͰ͸ϊʔυ(16୯ҐͰͷ܇࿅଎౓Λ޲্ͤ͞ɼ ෼ࢄ܇࿅ʹద༻ͯ͠΋ߴ଎Խʹد༩Ͱ͖Δख๏ΛఏҊ͢Δ 7
8. ؔ࿈ݚڀʢʣ w ػցֶशϞσϧͷਫ਼౓Λ࠷େԽ͢ΔϋΠύʔύϥϝʔλ νϡʔχϯά
   w 3BOEPN
   TFBSDI
   ໦ߏ଄1BS[FOਪఆثΛ࢖༻ͨ͠ख๏ <#FSHTUSB
   FU
   BM
   >
   w ϕΠζ࠷దԽΛ༻͍ͨख๏<4OPFL
   FU
   BM
   > ܇࿅଎౓Λ࠷େԽ͢ΔͨΊͷϋΠύʔύϥϝʔλνϡʔχϯάख๏͸
   ͜Ε·ͰఏҊ͞Ε͍ͯͳ͍ ຊݚڀͰ͸܇࿅଎౓Λ࠷େԽ͢ΔͨΊͷϛχόον αΠζͷࣗಈ࠷దԽख๏Λݕ౼ 8
9. ϛχόον܇࿅ʹ͍ͭͯ
   ʢʣ ϛχόονΛ࠾༻ͤͣʹ܇࿅͢Δ৔߹ɼ
   ܇࿅σʔλͷ਺͕܇࿅ճ਺ʹ௚݁͢Δ ܇࿅σʔλ͕ ຕ ࠷௿Ͱ΋
    
   JUFSBUJPOͷ܇࿅͕ඞཁ 9
10. ܇࿅σʔλ͕ ຕ  
    
     
    JUFSBUJPO
    ͷ܇࿅͕ඞཁ ϛχόον͝ͱʹFNCBSSBTTJOHMZ
    QBSBMMFMͳ
    σʔλฒྻԽ͕Մೳ ϛχόον܇࿅ʹ͍ͭͯ
    ʢʣ ϛχόονԽʹΑΓ܇࿅ճ਺ͷ࡟ݮ͕ՄೳʹͳΔ 10
11. ϛχόοναΠζΛ૿Ճͤ͞ଓ͚Δͱ(16ଆͷԋࢉίετ͕಄ ଧͪʹͳͬͯॲཧ࣌ؒͷ࡟ݮޮՌ͕ࣦΘΕΔ͜ͱ͕૝ఆ͞ΕΔ ϛχόοναΠζ ϛχόοναΠζ ܇࿅࣌ͷ߹ܭԋࢉྔ<qPQ> ߹ܭ܇࿅ॲཧ࣌ؒ<TFD> ཧ࿦্ͷ܇࿅ॲཧ࣌ؒͷਪҠ
    ʢը૾ຕ͋ͨΓͷॲཧ͕࣌ؒ
    Ұఆͷ৔߹ʣ ཧ࿦্ͷԋࢉྔͷਪҠ  U  U O   O ϛχόον܇࿅ʹ͍ͭͯ
    ʢʣ 11 Ұൠతʹ͸ɼͳͲ͕ϛχόοναΠζͱͯ͠࢖༻͞Ε͍ͯΔ͕
    ϛχόοναΠζΛܾఆ͢Δ٬؍తͳࢦඪ͸஌ΒΕ͍ͯͳ͍
12. ༧උ࣮ݧʢʣ w ϛχόοναΠζΛͷൣғͰม͑ͳ͕Β৞ΈࠐΈ χϡʔϥϧωοτϫʔΫʢ7((̍̒ʣΛ܇࿅ͯ͠ɺҎԼͷ ؔ܎Λௐࠪ͢Δ
    w ϛχόοναΠζͱ܇࿅࣌ؒͷؔ܎
    w ϛχόοναΠζͱฏۉ(16ར༻཰ͷؔ܎ ฏۉ(16ར༻཰
    
    ܇࿅தʹOWQSPGͰඵִؒͰܭଌͨ͠஋ͷฏۉ஋ 12
13. ༧උ࣮ݧʢʣ ϛχόοναΠζΛ૿΍͢
    
    ը૾ຕ͋ͨΓͷ܇࿅͕࣌ؒ୹ॖ ϛχόοναΠζ͝ͱͷ܇࿅ॲཧ࣌ؒͷਪҠ ϛχόοναΠζ͕
    Λ௒͑ͨ౰ͨΓͰมԽ͕ऩଋ ͠εέʔϧ͠ͳ͘ͳΔ 'BTUFS 13
14. ༧උ࣮ݧʢʣ ϛχόοναΠζΛ૿΍͢
    
    ฏۉ(16ར༻཰্͕ঢ ϛχόοναΠζ͝ͱͷฏۉ(16ར༻཰ͷਪҠ ϛχόοναΠζ͕
    Λ௒͑ͨ౰ͨΓͰ
    ฏۉ(෇ۙʹ౸ୡ 14
15. ༧උ࣮ݧʢʣ ϛχόοναΠζΛա৒ʹ૿΍͢
    
    ϞσϧͷੑೳʹѱӨڹ     FQPDI ը૾ೝࣝਖ਼ղ཰ #FUUFS ϛχόοναΠζ͝ͱͷϞσϧੑೳ 15    
16. ༧උ࣮ݧ͔Βߟ͑ΒΕΔԾઆ ϛχόοναΠζΛ૿΍͢ w ը૾ຕ͋ͨΓͷ܇࿅͕࣌ؒݮগ
    w ฏۉ(16ར༻཰্͕ঢ
    w ྆ऀͱ΋ҰఆͷαΠζͰऩଋ
    w ա৒ʹ૿΍͢ͱϞσϧੑೳʹѱӨڹ ฏۉ(16ར༻཰ͷมԽ͕ऩଋ࢝͠ΊΔલޙͷ ϛχόοναΠζ͕܇࿅࣌ؒΛ࠷খԽ͢Δ ༧උ࣮ݧΑΓ 16 खಈͰϛχόοναΠζ͝ͱʹ(16ར༻཰Λܭଌ͠ͳ͕Β
    ϚχϡΞϧͰϛχόοναΠζΛௐ੔͢Δͷ͸ඇৗʹख͕͔͔ؒΔ
17. ఏҊख๏ w ҎԼ̎ͭͷख๏ΛఏҊ
    w ఏҊख๏
    ฏۉ(16ར༻཰͕ࢦఆͨ͠஋ʹۙͮ͘Α͏ʹ ܇࿅Λߦ͍ͳ͕ΒϛχόοναΠζΛ
    ࣗಈͰ࠷దԽ
    w ఏҊख๏
    ܇࿅ॲཧ࣌ؒͷมԽ͕࠷খʹͳΔΑ͏ʹ܇࿅ Λߦ͍ͳ͕ΒϛχόοναΠζΛࣗಈͰ࠷దԽ 17
18. ఏҊख๏ʢʣ ᶃฏۉ(16ར༻཰͕໨ඪͷ஋ ྫ͑͹ ʹ
    ۙͮ͘Α͏ʹϛχόοναΠζΛมԽͤ͞Δ ᶄϛχόοναΠζͷมԽ͕
    ऩଋͨ͠Βͦ͜Λ࠷ద஋ͱͯ͠
    ࠾༻͢Δ ໨ඪͷฏۉ(16ར༻཰
    
    ܭଌͨ͠ฏۉ(16ར༻཰ ͕
    ࠷খʹͳΔΑ͏ʹ࠷దԽ 18
19. ఏҊख๏ʢʣ /ճ܇࿅Λߦ͏ ্Ґͷܭଌ஋͔Βฏۉ(16ར༻཰Λܭࢉ ඵ͝ͱͷ(16ར༻཰
    ΛOWNMͰඇಉظͰܭଌ ϛχόοναΠζΛௐ੔
    ฏۉ(16ར༻཰͕໨ඪͷ஋ΑΓখ͍͞
    
    ૿Ճ
    
    ࡟ݮ ϛχόοναΠζΛॳظԽ ϛχόοναΠζͷมԽ͕ऩଋͨ͠
    
    'BMTF 5SVF ࠷దԽऴྃ ॲཧϑϩʔ 19
20. ఏҊख๏̎ʢʣ ᶃॳظϛχόοναΠζͷ
    
    
    
    ॲཧ࣌ؒΛϕʔεϥΠϯͱ͢Δ ᶄϕʔεϥΠϯ͔Βͷॲཧ࣌ؒͷվળ཰͕
    
    
    
    ऩଋͨ͠Βͦͷ࣌఺ͷϛχόοναΠζΛ
    ɹ࠷ద஋ͱͯ͠࠾༻͢Δ ϕʔεϥΠϯ͔Βͷ܇࿅ॲཧ࣌ؒͷվળ཰͕มԽ͠ͳ͘ͳΔ·Ͱ
    ϛχόοναΠζΛ૿Ճͤ͞Δ 20
21. ఏҊख๏̎ʢʣ 
    FQPDI౰ͨΓͷ܇࿅ॲཧ࣌ؒ<TFD>
    
    
    JUFSBUJPO౰ͨΓͷॲཧ࣌ؒ<TFD>
    Y
    
    FQPDIʹඞཁͳΠςϨʔγϣϯ਺
    σʔλαΠζϛχόοναΠζʣ 21 ϕʔεϥΠϯͷ܇࿅ॲཧ࣌ؒ
    
    ϛχόον͝ͱͷ܇࿅ॲཧ࣌ؒ ϕʔεϥΠϯͷ܇࿅ॲཧ࣌ؒ 
    FQPDI౰ͨΓͷ܇࿅ॲཧ࣌ؒͷվળ཰
    
    
22. ఏҊख๏̎ʢʣ /ճ܇࿅Λߦ͍ɼॲཧ࣌ؒΛܭଌ 
    FQPDI͋ͨΓͷ܇࿅ॲཧ࣌ؒվળ཰Λࢉग़ ϛχόοναΠζΛ૿Ճ ϛχόοναΠζΛॳظԽ 
    FQPDI͋ͨΓͷ܇࿅ॲཧ࣌ؒվળ཰ͷมԽ͕ऩଋͨ͠ʁ 'BMTF 5SVF ࠷దԽऴྃ ॲཧϑϩʔ ॳճͷܭଌ஋Λϕʔε ϥΠϯͱͯ͠อଘ 22
23. $IBJOFSΛ༻͍࣮ͨ૷ํ๏ 
    .PEFMΛΠϯελϯεԽ
    NPEFM
    
    7((
    
    0QUJNJ[FSΛΠϯελϯεԽͯ͠.PEFMͱώϞ෇
    PQUJNJ[FS
    
    .PNFOUVN4(% NPEFM
    
    
    ςετσʔλΛϩʔυͯ͠*UFSBUPSΛΠϯελϯεԽ
    JUFSBUPS
    
    4FSJBM*UFSBUPS HFU@DJGBS
    
    
    6QEBUFSΛΠϯελϯεԽͯ͠JUFSBUPS
    PQUJNJ[FSͱώϞ෇
    VQEBUFS
    
    4UBOEBSE6QEBUFS JUFSBUPS
    PQUJNJ[FS
    
    
    5SBJOFSΛΠϯελϯεԽͯ͠VQEBUFSͱώϞ෇
    USBJOFS
    
    5SBJOFS VQEBUFS
    
    
    ఏҊख๏Λ࣮૷ͨ͠&YUFOTJPOΛ௥Ճ
    USBJOFSFYUFOE .JOJCBUDI4J[F0QUJNJ[FS
    
    
    ܇࿅ϧʔϓΛ࣮ߦ
    USBJOFSSVO $IBJOFSΛ༻͍ͨ܇࿅ॲཧεΫϦϓτͷ࣮૷ྫͱओཁΫϥεͷॴ༗ؔ܎ 23
24. ධՁ࣮ݧ֓ཁʢʣ w ఏҊख๏ Λ༻͍ͯҎԼͷ಺༰ΛධՁ͢Δ
    w ҙਤͨ͠ͱ͓Γʹ࠷దԽ͕ਐΈऩଋ͢Δ͔Ͳ͏͔
    w ऩଋ৚݅
    w ఏҊख๏
    ϛχόοναΠζͷมԽ͕Ҏ಺
    w ఏҊख๏
    
    FQPDI͋ͨΓͷॲཧ࣌ؒվળ཰͕Ҏ಺ 24
25. ධՁ࣮ݧ֓ཁʢʣ ࢖༻͢ΔσʔληοτͱωοτϫʔΫͷ૊Έ߹Θͤ σʔληοτʢը૾ղ૾౓<QJYFM>ʣ ωοτϫʔΫ $JGBSʢYʣ 7(( $JGBSʢYʣ 3FT/FU *NBHF/FULʢYʣ 7(( *NBHF/FULʢYʣ 3FT/FU 25
26. ධՁ࣮ݧ֓ཁʢʣ ධՁ؀ڥ TQFD $16 9FPO 3
    $16
    &
    W
    !
    ()[
    Y
    
    .FNPSZ (J# (16 /7*%*"
    5FTMB
    7
    (J# 04 $FOU04
     1ZUIPO  $IBJOFS B GPSL࣌఺ $6%"  DV%// W 26
27. ఏҊख๏̍ʹ͓͚Δ
    $JGBSͷධՁ݁Ռ $JGBSͷ
    ฏۉ(16ར༻཰ऩଋͷ༷ࢠ 7(( 3FT/FU w ࠷దԽͷਐߦͱڞʹฏۉ(16ར༻཰͕૿Ճ
    w ϛχόοναΠζͱฏۉ(16ར༻཰ͱͷؒʹਖ਼ͷ૬ؔੑ͕ݟΒΕΔ 27 $JGBSͷϛχόοναΠζͱ
    ฏۉ(16ར༻཰ͷؔ܎ 7(( 3FT/FU )JHIFS ࠷దԽਐḿ େ খ
28. *NBHF/FULͷ
    ฏۉ(16ར༻཰ऩଋͷ༷ࢠ 7(( 3FT/FU $JGBSͱಉ༷ͷ܏޲͕ݟΒΕΔ͕ܭଌ͞Εͨ(16ར༻཰ͷ෼ࢄ͕େ͖͍ ఏҊख๏̍ʹ͓͚Δ
    *NBHF/FULͷධՁ݁Ռ 28 7(( 3FT/FU *NBHF/FULͷϛχόοναΠζͱ
    ฏۉ(16ར༻཰ͷؔ܎ )JHIFS ࠷దԽਐḿ େ খ
29. ఏҊख๏̎ʹ͓͚Δ
    $JGBSͷධՁ݁Ռ $JGBSͷ܇࿅ॲཧ࣌ؒ
    վળ཰ऩଋͷ༷ࢠ #FUUFS   29 7(( 3FT/FU $JGBSͷϛχόοναΠζͱ
    ܇࿅ॲཧ࣌ؒվળ཰ͷؔ܎ w ࠷దԽͷਐߦͱڞʹ
    FQPDI౰ͨΓͷॲཧ࣌ؒվળ཰͕૿Ճ
    w ϛχόοναΠζͱվળ཰ͱͷؒʹਖ਼ͷ૬ؔੑ͕ݟΒΕΔ ࠷దԽਐḿ େ খ
30. ఏҊख๏̎ʹ͓͚Δ
    *NBHF/FULͷධՁ݁Ռ *NBHF/FULͷ܇࿅ॲཧ࣌ؒ
    վળ཰ऩଋͷ༷ࢠ $JGBSͷධՁ݁Ռͱ΄΅ಉ౳ͷ܏޲Λ͕ࣔ͢
    $JGBSΑΓվળ཰͕௿͍   30 7(( 3FT/FU *NBHF/FULͷϛχόοναΠζͱ
    ܇࿅ॲཧ࣌ؒվળ཰ͷؔ܎ #FUUFS ࠷దԽਐḿ େ খ
31. ಘΒΕͨ࠷ద஋Λ༻͍ͯ
    
    FQPDI܇࿅ͨ݁͠Ռ $JGBSͷܭଌ݁Ռ *NBHF/FULͷܭଌ݁Ռ #FUUFS ಘΒΕͨϛχόονͷ࠷ద஋Λ༻͍ͯ
    FQPDIͷ܇࿅Λߦ͍
    ܇࿅࣌ؒΛܭଌͨ݁͠ՌɼͲͷέʔεʹ͓͍ͯ΋ϕʔεϥΠϯ͔Βվળ͕ݟΒΕͨ CBTF QSPQPTFE
     QSPQPTFE
     CBTF QSPQPTFE
     QSPQPTFE
     #FUUFS         31
32. ධՁ݁Ռ·ͱΊ ධՁύλʔϯ ఏҊख๏ ఏҊख๏̎ ύλʔϯ   ύλʔϯ   ύλʔϯ   ύλʔϯ   ࠷ద஋ͱͯ͠ಘΒΕͨϛχόοναΠζ ࠷ద஋ͱͯ͠ಘΒΕͨϛχόοναΠζΛൺֱ͢Δͱ
    ࠷దԽख๏ؒຖͰ͕ࠩݟΒΕͨ 32
33. $JGBSͰͷධՁ݁Ռ
    ʹ͓͚Δߟ࡯ʢʣ ύλʔϯ
    ʢ$JGBSʣʹ͓͚Δ྆ख๏ͰಘΒΕͨ࠷ద஋ͱվળ཰ͷൺֱ 7(( 3FT/FU ఏҊख๏Ͱ
    ಘΒΕͨ࠷ద஋ ఏҊख๏̎Ͱ
    ಘΒΕͨ࠷ద஋ #FUUFS $JGBSͰಘΒΕͨ࠷ద஋͸ఏҊख๏̎ख๏ͷํ͕࠷ద 33
34. $JGBSͰͷධՁ݁Ռ
    ʹ͓͚Δߟ࡯ʢʣ #FUUFS 7(( 3FT/FU ఏҊख๏ ఏҊख๏ ฏۉ(16ར༻཰͕ۙ͘ʹͳͬͨҎ߱΋
    ϛχόονʹΑΔॲཧ࣌ؒͷ࡟ݮޮՌ͕֬ೝ͞ΕΔ 
    FQPDI౰ͨΓͷ܇࿅ॲཧ͕࣌ؒ
    ϛχόοναΠζͷมԽʹ൓ൺྫ͢ Δ৔߹ͷཧ૝஋ۂઢ ఏҊख๏̎ 34 (16཯଎ ϛχόοναΠζ཯଎
35. ύλʔϯ̏
    ̐ʢ*NBHF/FULʣʹ͓͚Δ྆ख๏ͰಘΒΕͨ࠷ద஋ͱվળ཰ͷൺֱ 7(( 3FT/FU #FUUFS *NBHF/FULͰಘΒΕͨ࠷ద஋͸྆खํؒͰେ͖ͳࠩ͸ݟΒΕͳ͍ ఏҊख๏ͰಘΒΕͨ࠷ద஋ ఏҊख๏̎Ͱ
    ಘΒΕͨ࠷ద஋ *NBHF/FULͰͷධՁ݁Ռ
    ʹ͓͚Δߟ࡯ʢʣ 35
36. *NBHF/FULͰͷධՁ݁Ռ
    ʹ͓͚Δߟ࡯ʢʣ 7(( 3FT/FU #FUUFS ఏҊख๏ ఏҊख๏ (16ʹΑΔߴ଎ԽϛχόονʹΑΔॲཧ࡟ݮޮՌͷ྆ํ͕
    ͋·ΓޮՌతͰͳ͍ վળ཰ͷਪҠ͕ॳظ஋͔Βͷ
    ϛχόοναΠζͷมԽʹൺྫ ͢Δ৔߹ͷվળ཰ਪҠ վળ཰ͷਪҠ͕ॳظ஋͔Βͷ
    ϛχόοναΠζͷมԽʹͷΈ ൺྫ͢Δ৔߹ͷཧ૝஋ۂઢ 36
37. ฏۉ(16ར༻཰ͷ෼ࢄʹ
    ؔ͢Δߟ࡯ʢʣ $JGBS
    
    7(( ύ$JGBS
    
    3FT/FU *NBHF/FUL
    
    7(( *NBHF/FUL
    3FT/FU w ฏۉ(16ར༻཰ͷ෼ࢄ͸
    *NBHF/FUL
    
    $JGBS
    w σʔληοτͷαΠζࠩʹΑͬͯ(16ͷར༻ঢ়گ͕
    ҟͳΔՄೳੑ͕ߟ͑ΒΕΔ 37
38. *NBHF/FULΛ࢖༻ͨ͠৔߹ɼJUFSBUJPO͝ͱʹ
    ໿ඵ(16Χʔωϧ͕࣮ߦ͞Ε͍ͯͳ͍࣌ؒଳ͕ଘࡏ͢Δ ܇࿅ॲཧதʢ
    JUFSBUJPOʣͷ(16ར༻ঢ়گΛώʔτϚοϓͱͯ͠ՄࢹԽͨ͠ਤ $JGBS *NBHF/FUL ܇࿅ॲཧதͷ(16Χʔωϧ࣮ߦঢ়گ ฏۉ(16ར༻཰ͷ෼ࢄʹ
    ؔ͢Δߟ࡯ʢʣ 38 (16͕ར༻͞Ε͍ͯͳ͍࣌ؒଳ͸
    ը૾ಡΈࠐΈ࣌ͷ%JTL
    *0΍ը૾͔Βߦྻ΁ͷม׵ॲཧ͕ߦΘΕ͍ͯΔͱߟ͑ΒΕΔ
39. ݁࿦ w ຊݚڀͰ͸ɼ(16ར༻཰ͱ܇࿅଎౓ͷվળ཰ʹண໨ͨ͠ϛχόονα Πζͷ࠷దԽख๏ΛఏҊͨ͠
    w $JGBSΛ༻͍ͨ܇࿅ʹ͓͍ͯɼϛχόοναΠζͱൺֱͯ͠࠷ େͰ
    FQPDI౰ͨΓͷ܇࿅ॲཧ࣌ؒΛվળ͢Δϛχόονα ΠζΛࣗಈͰ୳ࡧ͢Δ͜ͱ͕Ͱ͖ͨ
    w *NBHF/FULΛ༻͍ͨ܇࿅ʹ͓͍ͯɼϛχόοναΠζͱൺֱͯ͠ ࠷େͰ
    FQPDI౰ͨΓͷ܇࿅ॲཧ࣌ؒΛ࠷େվળ͢Δϛχ όοναΠζΛࣗಈͰ୳ࡧ͢Δ͜ͱ͕Ͱ͖ͨ
    w *NBHF/FULΛ༻͍ͨ܇࿅Ͱ͸܇࿅ॲཧͷ(16Λར༻͍ͯ͠Δ࣌ؒͷ ׂ߹͕$JGBSͱൺ΂ͯ௿͍͜ͱ͕֬ೝ͞Εͨ 39
40. ࠓޙͷ՝୊ w JUFSBUJPOؒͷ(16Χʔωϧ͕࣮ߦ͞Ε͍ͯͳ͍࣌ؒͷ࡟ ݮํ๏Λݕ౼͢Δ
    w ܇࿅σʔλϩʔυ࣌ͷ%JTL
    *0ͷߴ଎Խ
    w ܇࿅σʔλͷม׵ॲཧͳͲͷલॲཧͷӅṭ 40
41. ҎԼ༧උεϥΠυ 41
42. ఏҊख๏̎ͷ
    ධՁ݁Ռͷݕূ ධՁύλʔϯ ఏҊख๏̎ख๏Ͱਪଌ͞Εͨ࠷ద஋ ʹ͓͚Δվળ཰<> ࣮ࡍʹܭଌ͞Εͨվળ཰<> ύλʔϯ   ύλʔϯ   ύλʔϯ   ύλʔϯ   ಘΒΕͨϛχόονͷ࠷ద஋Λ༻͍ͯ
    FQPDIͷ܇࿅Λߦ͍ɼ
    ॳظ஋͔Βͷվળ཰Λܭଌͨ͠ͱ͜Ζɼਪଌ஋ͱܭଌ஋͸΄΅ಉ஋Λࣔͨ͠ 42
43. ఏҊख๏ͷ
    ධՁ݁Ռͷݕূʢৄࡉʣ ධՁύλʔϯ ਪଌ͞Εͨվળ཰ <> ܭଌ͞Εͨվળ཰ <> ॳظ஋Ͱͷܭଌ஋ <TFD> ࠷ద஋Ͱͷܭଌ஋ <TFD> ύλʔϯ     ύλʔϯ     ύλʔϯ       ύλʔϯ       ಘΒΕͨϛχόονͷ࠷ద஋Λ༻͍ͯ
    FQPDIͷ܇࿅Λߦ͍
    ॲཧ࣌ؒͱॳظ஋͔Βͷվળ཰Λܭଌͨ͠ 43
44. ఏҊख๏ͱఏҊख๏ͷ
    ࠷ద஋ൺֱ ධՁύλʔϯ ॳظ஋Ͱͷܭଌ஋<TFD> ఏҊख๏ͷ࠷ద஋Ͱͷ ܭଌ஋<TFD> ఏҊख๏Ͱͷ࠷ద஋Ͱ ͷܭଌ஋<TFD>
    ύλʔϯ    ύλʔϯ    ύλʔϯ       ύλʔϯ       ಘΒΕͨϛχόονͷ࠷ద஋Λ༻͍ͯ
    FQPDIͷ܇࿅Λߦ͍
    ॲཧ࣌ؒΛܭଌͨ͠ 44
45. ఏҊख๏ͷ
    ධՁ݁Ռͷݕূ σʔληοτ ωοτϫʔΫ ϕʔεϥΠϯ<TFD> ఏҊख๏ʹ͓͚Δ࣮ଌ ஋<TFD> $JGBS 7((     3FT/FU     *NBHF/FUL 7((     3FT/FU     ఏҊख๏ͰಘΒΕͨ࠷ద஋Λ༻͍ͯ
    FQPDIܭଌͨ݁͠Ռ 45
46. ఏҊख๏ͷ
    ධՁ݁Ռͷݕূ σʔληοτ ωοτϫʔΫ ϕʔεϥΠϯ<TFD> ఏҊख๏ʹ͓͚Δ࣮ଌ ஋<TFD> $JGBS 7((     3FT/FU     *NBHF/FUL 7((     3FT/FU     ఏҊख๏ͰಘΒΕͨ࠷ద஋Λ༻͍ͯ
    FQPDIܭଌͨ݁͠Ռ 46
47. $JGBS
    
    7((ʹ͓͚Δ
    ϛχόοναΠζ͝ͱͷਫ਼౓ NBJOBDDVSBDZ FQPDI    WBMJEBUJPOBDDVSBDZ FQPDI    47
48. $JGBS
    
    3FT/FUʹ͓͚Δ
    ϛχόοναΠζ͝ͱͷਫ਼౓ NBJOBDDVSBDZ FQPDI    WBMJEBUJPOBDDVSBDZ FQPDI    48
49. 
    FQPDI͋ͨΓͷॲཧ࣌ؒվળ ཰ͷཧ૝ۂઢͷܭࢉϩδοΫ 49
50. ධՁதͷܭଌ஋ྫ   
      
      
      
      
    DIFDL
    
    
    
      
      
      
      
      
    DIFDL
    
    
    
    DPOWFSHFODF
         
      
      
      
      
    DIFDL
    
    
    
    লུ
      
      
      
    DIFDL
    
    
    
    DPOWFSHFODF
       ఏҊख๏ ఏҊख๏̎ ϛχόον αΠζ ϛχόον αΠζ 50