雑に理解する生成系LLM

ENOG89 Meeting で発表した資料です。
なんとなくどんな感じで動いているかと学習って何やってんのかにフォーカスしていて、
埋め込みや自己注意や MoE などの LLM の重要技術には全くふれてません。時間もなかったし。
なんで生成系 LLM が最近こんなに頭が良くなってるのかはなんとなくわかるようになるかも？

Transcript

1. ࡶʹཧղ͢Δੜ੒ܥ--. ઙؒਖ਼࿨
   !
   &/0(
    ਺***਺$ͷཧղ͢Β
   લఏͱ͠ͳ͍ 1
2. શମͷྲྀΕ w ͳΜͱͳ͘ੜ੒--.
   w γϯϓϧͳχϡʔϥϧωοτͷਪ࿦ͱֶश
   w ੜ੒--.͕จষΛੜ੒͢Δ࢓૊Έ
   w ੜ੒--.ͷࣄલֶश
   w ੜ੒--.ͷڭࢣ͋Γඍௐ੔
   w ੜ੒--.ͷڧԽֶश %FFQ4FFL3ͷ৔߹
   w ·ͱΊ 2 ˣ
   ͳΜͱͳ͘ͲΜͳײ͡Ͱಈ͍͍ͯΔͷ͔ͱֶश͍ͯ͠Δͷ͔Λͬ͘͟Γͱ
3. ͳΜͱͳ͘ੜ੒ܥ--. w $IBU(15ઌੜᐌ͘ ੜ੒ܥ--.͸
   w ͻͱ͕ॻ͍ͨΑ͏ͳจষΛͦͷ৔Ͱ࡞Γग़͢"*
   w ʮ΋ͷͨ͘͘͢͝͞ΜͷຊΛಡΜͩͻͱ͕ଓ͖ΛଈڵͰॻ͍ͯ͘ΕΔʯ Α͏ͳ΋ͷ
   w ݴ༿Λཧղ͍ͯ͠ΔΑ͏ʹݟ͑Δʮจষੜ੒Τϯδϯʯ
   w --.͸େن໛ݴޠϞσϧΛҙຯ͢Δ
   -BSHF
   -BOHVBHF
   .PEFM
   ͷུ
   w --.ʹ͸ੜ੒ܥҎ֎ ෼ྨɾݕࡧɾநग़ͳͲ ΋͋Δ ͷͰ͜͜Ͱ͸Θ͟ Θ͟ʮੜ੒ܥʯͱͯ͠Δ
   w ੜ੒ܥ--.ΛؚΉ--.͸͢΂ͯχϡʔϥϧωοτͱ͍͏ػցֶशͷ࢓૊Έ Ͱ࣮ݱ͞Ε͍ͯΔ 3
4. ͜ΜͳͷΛߟ͑Δ χϡʔϥϧωοτ lz χϡʔϥϧωοτʹखॻ͖ͷ਺ࣈΛೖྗ͢Δͱ
   ͦΕ͕͍ͭ͘ͳͷ͔ࣝผͯ͠ग़ྗ͢Δ 4
5. ೖྗ͸͜Μͳײ͡ʹ͢Δ χϡʔϥϧωοτ < >      ˡ
   ը૾ͷ   ͷೱ͞ ˡ
   ը૾ͷ   ͷೱ͞ ˡ
   ը૾ͷ   ͷೱ͞ ˡ
   ը૾ͷ   ͷೱ͞ ºݸͷ഑ྻ ը૾ͷϐΫηϧͷೱ͞Λ͔Βͷ஋ʹม׵͠
   <   ͷ஋
     ͷ஋
     ͷ஋
   
     ͷ஋>ͷΑ͏ʹ഑ྻʹ͢Δ 5
6. ग़ྗ͸͜Μͳײ͡ʹ͢Δ χϡʔϥϧωοτ lz < >      ˡ
   lz
   ͬΆ͞ ˡ
   lz
   ͬΆ͞ ˡ
   lz
   ͬΆ͞ ˡ
   lz
   ͬΆ͞ lzʙlzͷݸͷ഑ྻ ը૾͕ͬΆ͍΄Ͳݸ໨ͷ஋͕ʹ͖ۙͮ
   ͬΆ͍΄Ͳݸ໨ͷ஋͕ʹ͖ۙͮͱ͍ͬͨײ͡ʹ͢Δ
   ֬཰ͬΆ͘ݸͷ஋ͷ߹ܭ͕ʹͳΔΑ͏ௐ੔͞Ε͍ͯΔײ͡ 6
7. த਎͸͜Μͳײ͡ʹ͢Δ < >      < >      8  º 8  º 8  º ʜ 8  º #  8  º 8  º 8  º ʜ 8  º #  8  º 8  º 8  º ʜ 8  º #  8 O º 8 O º 8 O º ʜ 8 O º # O ͳΜ͔͍͍ײ͡ʹେ͖͞Λௐ੔͢Δؔ਺ ͳΜ͔͍͍ײ͡ʹ֬཰ͬΆ͘͢Δؔ਺ ºݸͷ഑ྻ lzʙlzͷݸͷ഑ྻ < >      8  º˓ʜ 8  º˓ʜ 8  º˓ʜ 8  º˓ʜ ͳΜ͔͍͍ײ͡ʹ
   ϋζΕײΛٻΊΔؔ਺ ૚ ૚ ೖྗ ग़ྗ ਖ਼ղ ݸͷ஋ Oݸͷ஋    मਖ਼લ w ૚Ͱݸͷೖྗʹ8YΛֻ͚#YΛ଍͠ͳΜ͔͍͍ײ͡ʹେ͖͞Λௐ੔ͨ͠஋ΛOݸ༻ҙ
   w ૚Ͱ͸૚Ͱ༻ҙͨ͠஋ʹ8YΛֻ͚#YΛ଍͠ͳΜ͔͍͍ײ͡ʹ֬཰ͬΆͨ͘͠஋Λ ݸ༻ҙͦ͠ΕΛग़ྗͱ͢Δ ˞্ͷਤͰ͸লུ͍ͯ͠Δ͕࣮ࡍʹ͸૚ͱಉ͡ײ͡ͷߏ੒
   w 8Y͸ºO Oºݸɺ#Y͸O ݸଘࡏ͜͠ΕΒ͕χϡʔϥϧωοτͷύϥϝʔλͱͳΔ
   w 8Yɺ#Y͸ͱΓ͋͑ͣద౰Ͱྑ͍ ͕౰વͦͷग़ྗ͸σλϥϝͱͳΔ 7
8. ͜Μͳײ͡Ͱֶश͢Δ < >      < >          8  º 8  º 8  º ʜ 8  º #  8  º 8  º 8  º ʜ 8  º #  8  º 8  º 8  º ʜ 8  º #  8 O º 8 O º 8 O º ʜ 8 O º # O ͳΜ͔͍͍ײ͡ʹେ͖͞Λௐ੔͢Δؔ਺ ͳΜ͔͍͍ײ͡ʹ֬཰ͬΆ͘͢Δؔ਺ ºݸͷ഑ྻ lzʙlzͷݸͷ഑ྻ < >      8  º˓ʜ 8  º˓ʜ 8  º˓ʜ 8  º˓ʜ ͳΜ͔͍͍ײ͡ʹ
   ϋζΕײΛٻΊΔؔ਺ ૚ ૚ ೖྗ ग़ྗ ਖ਼ղ ݸͷ஋ Oݸͷ஋      मਖ਼લ w ࢼ͠ʹ8  Λগ͚ͩ͠େ͖ͯ͘͠ΈΔ
   w ΋͠ग़ྗ͕มԽ͠ϋζΕײ஋͕8  Λେ͖͘͢ΔલΑΓখ͘͞ͳͬͨΒظ଴͢Δಈ࡞ʹ ۙͮ͘͜ͱʹͳΔͷͰͦͷ··8  Λେ͖͘͠ٯʹେ͖͘ͳͬͨΒ8  Λখ͘͢͞Δ
   w શͯͷ8Yͱ#YͰಉ༷ͷૢ࡞Λ͠ଞͷը૾ʹࠩ͠ସ͑ಉ༷ͷૢ࡞Λ͢Δ
   w ͜ΕΛԿ౓΋܁Γฦ͢͜ͱͰͦͷ͏ͪը૾͔Βਖ਼ղʹ͍ۙग़ྗ͕ಘΒΕΔΑ͏ʹͳΔ 8
9. χϡʔϥϧωοτ w ೖྗΛ8Y ͜ΕΛॏΈͱ͍͏ ͱ#Y ͜ΕΛόΠΞεͱ͍͏ ͰͳΜ͔͍͍ײ ͡ʹܭࢉ͠ग़ྗ͢Δؔ਺
   w ֶश༻ͷσʔλͰϋζΕײ஋ ͜ΕΛଛࣦͱ͍͍ଛࣦΛٻΊΔؔ਺Λଛࣦ ؔ਺ͱ͍͏ ΛٻΊ8Y ॏΈ ΍#Y όΠΞε ΛมԽͤ͞ϋζΕײ஋ ଛࣦ ͕ খ͘͞ͳΔΑ͏ͦΕΒΛௐ੔͢Δ
   w େྔͷσʔλͰ8Y ॏΈ ͱ#Y όΠΞε Λௐ੔͢Δ͜ͱΛϋζΕײ஋ ଛ ࣦ ͕े෼খ͘͞ͳΔ·ͰԿ౓΋Կ౓΋܁Γฦ͍ͯ͘͠ͱͦͷ͏ͪͦΕͬ Ά͍ग़ྗΛ͢ΔΑ͏ʹͳΔ ֶश
   w ิ଍ Θ͔Γ΍͢͞ͷͨΊʹ8Y΍#YΛͻͱͭͣͭͪΐͬͱͣͭमਖ਼ͯ͠ ͍Δ͕࣮ࡍʹ͸มԽྔ͸ղੳతʹٻΊΔ͜ͱ͕Ͱ͖Ұ౓ʹमਖ਼͞ΕΔ 9
10. ੜ੒ܥ--.ͷ৔߹ χϡʔϥϧωοτ χϡʔϥϧωοτʹจࣈྻΛೖྗ͢Δͱ
    ͦΕͬΆ͍ͦͷଓ͖Λग़ྗ͢Δ ೔ຊͰҰ൪ߴ͍ࢁ͸ ෋࢜ࢁ 10
11. ೖྗ͸͜Μͳײ͡ʹ͢Δ χϡʔϥϧωοτ < >      ˡ
    l೔ຊz
    ͷτʔΫϯ*% ˡ
    lͰz
    ͷτʔΫϯ*% ˡ
    lҰ൪z
    ͷτʔΫϯ*% ˡ
    l͸z
    ͷτʔΫϯ*% ೖྗτʔΫϯ௕ͷ഑ྻ ೖྗจࣈྻΛτʔΫϯʹ෼ׂ͠τʔΫϯ*%ͷ഑ྻʹ͢Δ
    τʔΫϯ*%͸τʔΫϯΛҰҙʹද͔͢Β࢝·Δ੔਺
    τʔΫϯͷू߹Λޠኮͱ͍͏ ೔ຊͰҰ൪ߴ͍ࢁ͸ 11
12. ग़ྗ͸͜Μͳײ͡ʹ͢Δ χϡʔϥϧωοτ ˡ
    lͲ͜z
    ͬΆ͞ ˡ
    l෋࢜ࢁz
    ͬΆ͞ ޠኮͷ਺ͷ഑ྻ ޠኮʹ͋ΔશτʔΫϯ*%ͷͦΕͬΆ͞Λ਺஋Խͨ͠഑ྻΛग़ྗ͢Δ
    τʔΫϯ*%ΛΠϯσοΫεͱͨ͠഑ྻͷ஋͕ͦͷτʔΫϯͬΆ͞ʹͳΔ
    ֬཰ͬΆ֤͘τʔΫϯͷ஋ͷ߹ܭ͕ʹͳΔΑ͏ௐ੔͞Ε͍ͯΔײ͡ ෋࢜ࢁ < >      12
13. ܨ͍͛ͯ͘͜ͱͰจষΛ࡞Δ χϡʔϥϧωοτ ೔ຊͰҰ൪ߴ͍ࢁ͸ ෋࢜ࢁ 13 χϡʔϥϧωοτ ೔ຊͰҰ൪ߴ͍ࢁ͸෋࢜ࢁ Ͱ͢ χϡʔϥϧωοτ ຊͰҰ൪ߴ͍ࢁ͸෋࢜ࢁͰ͢ ɻ   
14. ੜ੒ܥ--.ͷྫ (15044 < >      ೖྗτʔΫϯ௕ͷ഑ྻ ͳΜ͔͍͍ײ͡ʹ
    ϋζΕײΛٻΊΔؔ਺ ೖྗ ਖ਼ղ  मਖ਼લ w جຊతͳߟ͑ํ͸ը૾ˠ਺ࣈͷχϡʔϥϧωοτͱಉ͡ͰϋζΕײ஋ ଛࣦ ͕খ͘͞ͳΔΑ ͏ʹύϥϝʔλ 8Yͱ#Y ΛมԽͤ͞ΔॲཧΛ๲େͳςΩετͰԿ౓΋Կ౓΋܁Γฦ͢
    w ͨͩ͠ύϥϝʔλͷ਺͕ͱΜͰ΋ͳ͘ଟ͍ খن໛Ͱ਺ेԯݸ͘Β͍େن໛ͩͱ਺ஹݸҎ্
    w ิ଍ ্ͷྫͰ͸τʔΫϯֶͣͭश͢ΔΑ͏ʹͳ͍ͬͯΔ͕࣮ࡍ͸ ֶश࣌͸ Ұ౓ʹશτʔ ΫϯͰߦ͏ Ұํͷਪ࿦࣌͸ஞ࣍తʹ࣮ߦ͢Δ͔͠ͳ͍ 14 ޠኮͷ਺ͷ഑ྻ ग़ྗ < >      < >      τʔΫϯ*%Λখ਺ྻʹม׵͠
    ͦΕΒͷҐஔ৘ใΛՃ͑Δ෦඼ ஫ҙػߏ ૚ਖ਼نԽ શ݁߹ʁ ૚ਖ਼نԽ ॲཧͷմ ࢒ࠩ ࢒ࠩ ॲཧͷմΛ਺ेճ܁Γฦ͢ ஫ҙػߏ ૚ਖ਼نԽ શ݁߹ʁ ૚ਖ਼نԽ ॲཧͷմ ࢒ࠩ ࢒ࠩ τʔΫϯ*%ຖͷ༧ଌ֬཰Λฦ͢෦඼ l෋࢜ࢁz lͲ͜z ˡ ˡ ˠ ˠ
15. ࣄલֶश ಡॻͷ࣌ؒ w ੜ੒ܥ--.͸࠷ॳͱʹ͔͘େྔͷจষΛֶश͢Δ ࣄલֶश1SFUSBJOJOH
    w ্ͷྫͰ͸
    <l೔ຊz>
    ͕དྷͨΒ࣍͸lͰz͕ग़ྗ͞Ε
    <l೔ຊz lͰz>
    ͕དྷͨΒ࣍ ͸lҰ൪z͕ग़ྗ͞Εʜͱ͍͏Α͏ʹύϥϝʔλΛௐ੔͍ͯ͘͠
    w ࣄલֶशʹΑΓੜ੒ܥ--.͸ʮ୯ޠͱ୯ޠͷؔ࿈ੑʯ΍ʮจ๏ʯ΍ʮจ຺ ཧղʯΛਂΊΔͱߟ͑ΒΕ͍ͯΔ
    w ิ଍ #04͸จষͷ࢝·ΓΛ&04͸จষͷऴΘΓΛද͢ಛघτʔΫϯ ੜ੒ܥ--. l೔ຊz lͰz lҰ൪z lߴ͍z lࢁz l͸z l෋࢜ࢁz lͰ͢z lɻz #04 l೔ຊz lͰz lҰ൪z lߴ͍z lࢁz l͸z l෋࢜ࢁz lͰ͢z lɻz &04 ೖྗ ਖ਼ղ 15
16. ڭࢣ෇͖ඍௐ੔ ର࿩ͷ࣌ؒ w ࣄલֶशʹΑͬͯݴޠཧղΛಘͨͱ͜ΖͰର࿩ ͜͏ฉ͔ΕͨΒ͜͏ฦ͢ ͷύλʔϯΛֶश͢Δ ڭࢣ෇͖ඍௐ੔4VQFSWJTFE
    'JOFUVOJOH4'5
    w ࣄલֶशΛ͚ͨͩ͠Ͱ͸࣭໰Λͯ͠΋ͦͷ࣭໰ͷޙʹଓ͖ͦ͏ͳͦΕΒ͠ ͍จষΛੜ੒͢Δ͚ͩʹͳͬͨΓ͢Δ͜ͱ͕͋Δ͕ڭࢣ෇͖ඍௐ੔Λߦ͏ ͜ͱͰͦΕΒ͍͠ճ౴Λฦͯ͘͠ΕΔΑ͏ʹͳΔ
    w ิ଍ cVTFScͱcBTTJTUBOUc΋ಛघτʔΫϯ ੜ੒ܥ--. cVTFSc lࠓ೔z lఱؾz l͸z lʁz cBTTJTUBOUc l੖Εz lͰ͢z lɻz #04 l੖Εz lͰ͢z lɻz &04 ೖྗ ਖ਼ղ 16
17. ڧԽֶश ख़ߟͷ࣌ؒ w ࣄલֶशͱڭࢣ෇͖ඍௐ੔Ͱ͸͋Β͔͡Ίਖ਼ղ͕༩͑ΒΕͦͷਖ਼ղΛฦ͢ Α͏ύϥϝʔλΛௐ੔͕ͨͦ͠͏Ͱ͸ͳ͘ग़ྗΛԿΒ͔ͷํ๏ͰධՁͦ͠ ͷධՁ͕ߴ͘ͳΔΑ͏ֶश͢Δ͜ͱͰΑΓ޷·͍͠ग़ྗ͕ಘΒΕΔΑ͏ʹ ֶश͢Δ ڧԽֶश ˣ
    Ҏ߱Ͱ͸%FFQ4FFL3͕(310ͱ͍͏ख๏Λ༻͍ͯ
    ۩ମతʹͲͷΑ͏ʹਪ࿦ੑೳΛ޲্ͤͨ͞ͷ͔ৄ͘͠Έ͍ͯ͘ 17
18. $IBJOPG5IPVHIU
    1SPNQUJOH w ࣭໰͢Δ࣌ʹ۩ମతͳܭࢉํ๏Λؚ ΊͨྫΛࣔ͢ͱճ౴ͷ඼্࣭͕͕Δ
    w ͦΕͲ͜Ζ͔ʜ +BTPO
    8FJ
    9VF[IJ
    8BOH
    %BMF
    4DIVVSNBOT
    .BBSUFO
    #PTNB
    #SJBO
    *DIUFS
    'FJ
    9JB
    &E
    $IJ
    2VPD
    -F
    %FOOZ
    ;IPV
     
    $IBJOPGUIPVHIU
    QSPNQUJOH
    FMJDJUT
    SFBTPOJOH
    JO
    MBSHF
    MBOHVBHF
    NPEFMT
    IUUQTBSYJWPSHBCT ˢ'JHVSF
    
    ͔ΒҾ༻
    ˡ
    'JHVSF
    
    ͔Β
    (4.,
    ෦෼ͷ Έൈ͖ग़͠Ҿ༻
    (4.,
    ͸খֶߍϨϕϧͷ਺ֶ໰ ୊͔ΒͳΔσʔληοτͰ໰୊Λ ղ͘ͷʹ͔Βεςοϓඞཁͱ͞ Ε͍ͯΔ 18
19. ;FSP4IPU
    3FBTPOFST w ࣭໰ʹ۩ମతͳܭࢉํ๏ΛؚΊͳ ͯ͘΋-FUT
    UIJOL
    TUFQ
    CZ
    TUFQ
    ͱॻ͚ͩ͘Ͱճ౴ͷ඼্࣭͕͕Δ
    w ͱ͍͏͜ͱ͸΋͔ͯ͠͠ʜ
    ͢Ͱʹෳࡶͳਪ࿦Λ͢Δೳྗࣗମ ͸͍࣋ͬͯΔͷʹͦΕΛ࢖͍͑ͯͳ ͍ʁͦΕΛ࢖͍͜ͳͤΔΑ͏ڧԽ ֶश͢Ε͹ΑΓੑೳ͕ྑ͘ͳΔʁ 5BLFTIJ
    ,PKJNB
    4IJYJBOH
    4IBOF
    (V
    .BDIFM
    3FJE
    :VUBLB
    .BUTVP
    :VTVLF
    *XBTBXB
     
    -BSHF
    -BOHVBHF
    .PEFMT
    BSF
    ;FSP4IPU
    3FBTPOFST
    
    IUUQTBSYJWPSHBCT ˢ'JHVSF
    
    ͔ΒҾ༻
    ˡ
    'JHVSF
    
    ͔Β
    (4.,
    PO
    1B-.
    ෦෼ͷΈൈ͖ग़͠ Ҿ༻
    (4.,
    ͸খֶߍϨϕϧͷ਺ֶ໰୊͔ΒͳΔσʔληο τͰ໰୊Λղ͘ͷʹ͔Βεςοϓඞཁͱ͞Ε͍ͯΔ 19
20. ͬ͘͟Γ%FFQ4FFL3ͷڧԽֶश ੜ੒ܥ--. ࣭໰Λ͢ΔͷͰ࠷ॳʹͲ͏ճ౴͢Δͷ͕ྑ͍͔ߟ͔͑ͯΒճ౴ͯ͠Ͷɻ
    ճ౴͸ߟ͑ͨ಺༰ΛUIJOLUIJOLͰɺ࠷ऴతͳ౴͑ΛBOTXFSBOTXFSͰɺ
    ͦΕͧΕׅͬͯฦͯ͠ͶɻͰ͸࣭໰
    ΧϑΣςϦΞʹ͸ݸͷϦϯΰ͕͋Γʜ ೖྗ UIJOL࠷ॳݸ͚͋ͬͨͲ ·ͣݸ࢖ͬͯʜUIJOL
    BOTXFSBOTXFS ग़ྗ" ग़ྗ# UIJOLʜUIJOL
    BOTXFSBOTXFS ౴͕͑ؒҧͬͯΔ  ग़ྗ$ ϑΥʔϚοτ͕ҧ͏ ᶃ
    ೖྗ͔Β͍͔ͭ͘ग़ྗΛੜ੒ ᶄ
    ͦΕͧΕͷใुΛܭࢉ ᶅ
    ใु͕ߴ͍ग़ྗ͕ग़΍͘͢
    ɹ
    ௿͍ग़ྗ͕ग़ʹ͘͘ͳΔΑ͏
    ɹ
    ؇΍͔ʹύϥϝʔλΛௐ੔ 20
21. ͬ͘͟Γ%FFQ4FFL3ͷڧԽֶश w ࣄલֶशͱڭࢣ෇͖ඍௐ੔͸ʮਖ਼ղʹ͍ۙग़ྗ͕ ग़΍͘͢ͳΔʯΑ͏ʹௐ੔͢Δ࡞ۀ͕ͩͬͨڧԽ ֶश͸ʮใुͷߴ͍ग़ྗ͕ग़΍͘͢ͳΔʯΑ͏ʹ ύϥϝʔλΛௐ੔͢Δ࡞ۀ
    w ౴͑ΛػցతʹධՁͰ͖Δ਺ֶ΍ϓϩάϥϛϯάͳ Ͳ͕ର৅ ڧԽֶशࣗମ͸ਓखΛհ͢ํ๏΋͋Δ
    w ࿦จ্͸ UIJOLUIJOLͷத਎ʹ͍ͭͯ͸ධՁ ͍ͯ͠ͳ͍͕݁Ռͱͯ͠UIJOLUIJOL͕͔ͬ͠ Γͨ͠ճ౴ͷํ͕ਖ਼౴཰͕ߴ͘ͳΔͷͰੜ෺ʹ͓͚ Δࣗવબ୒ʹΑΔదऀੜଘͷΑ͏ͳ͜ͱ͕ى͜Δ %FFQ4FFL"*
     
    %FFQ4FFL3
    *ODFOUJWJ[JOH
    3FBTPOJOH
    $BQBCJMJUZ
    JO
    --.T
    WJB
    3FJOGPSDFNFOU
    -FBSOJOH
    IUUQTBSYJWPSHBCT ˢ'JHVSF
    
    ͔ΒҾ༻ 21
22. ·ͱΊʁ w ࢓૊Έతʹ͸
    lຊ౰ʹz
    ࣍ʹ͖ͦ͏ͳͦΕͬΆ͍ଓ͖Λग़ྗ͠ଓ͚͍ͯΔ ͚ͩͬΆ͍ ͘͢͝ා͍
    w ࠓճ͸ओʹֶशʹϑΥʔΧε͚ͨ͠Ͳਪ࿦࣌ͷ޻෉Ͱ΋඼࣭ΛվળͰ͖Δ
    w 3"( ৘ใΛ଍͢
    w ֎෦จॻΛݕࡧ͔ͯ͠ΒͦΕΛೖྗʹؚΊͯ໰͍߹ΘͤΔ
    w "1*.$1 πʔϧΛ࢖͏
    w ܭࢉ΍ݕࡧ΍֎෦ૢ࡞Λπʔϧʹ೚ͤΔ
    w 5SFFPG5IPVHIU4FMG$POTJTUFODZ ߟ͑Δճ਺Λ૿΍͢
    w ଟஈͰਪ࿦Λߦ͏ ਪ࿦ͷ෼ղɾൺֱɾ࠶ݕ౼ 22