AIスーパーコンピュータにおけるLLM学習処理性能の計測と可観測性 / AI Supercomputer LLM Benchmarking and Observability

https://www.ipsj-chugoku.jp/kouenkai/2025-20251222.html

+ 演題:
AIスーパーコンピュータにおけるLLM学習処理性能の計測と可観測性

+ 講師:
坪内 佑樹 氏（さくらインターネット株式会社 さくらインターネット研究所 上級研究員）

+ 講演概要:
LLMに代表される大規模なAI基盤モデルの学習には、数百から数万基の高性能GPU、高帯域・低遅延のネットワークや分散ストレージを統合した高性能計算基盤（AIスパコン）が不可欠である。AIスパコンでは、ハードウェアの故障・劣化やソフトウェア設定の不備により、学習ジョブの停止や性能劣化、非効率な実行が引き起こされるが、数多くの異種デバイスが協調して動作することから、原因やボトルネックの特定はときに困難である。そのため、システム内部の観測性向上やテレメトリーデータを機械学習で分析する手法が近年研究されている。本講演では、AIモデル学習のワークロード、AIスパコンの計算機アーキテクチャ、信頼性の基本概念と最新の研究動向を解説する。さらに、さくらインターネットが提供するAIスパコンサービス「さくらONE」を事例に、MLPerfベンチマークによる性能計測と可観測性向上の取り組みを紹介する。

Transcript

1. 坪内 佑樹（@yuuk1t） 　 さくらインターネット研究所 AIスーパーコンピュータにおける LLM学習処理性能の計測と可観測性 2025年度 情報処理学会中国 支 部主催講演会
2. 坪内 佑樹 2013 2019 2020 2025 ݱࡏ Monitoring SaaS SRE さくら インターネット 研究所 はてな 京都 大 学 大 学院 情報学研究科 博 士 後期課程 博 士 （情報学） 取得 AIOps AI Supercomputer eBPF 大 阪 大 学 大 学院 情報科学 研究科 (中途退学)
3. 専 門 性 ΞϓϦέʔγϣϯ 43&
   ʢ4JUF
   3FMJBCJMJUZ
   &OHJOFFSJOHʣ ܭࢉػɾωοτϫʔΫ
   ج൫ തֶ࢜Ґ࿦จ
4. 本発表の趣旨 w "*ֶशϫʔΫϩʔυʢΞϓϦέʔγϣϯʣΛى఺ʹܭࢉػͱωοτϫʔΫ ΞʔΩςΫνϟߏ੒͕࠷దԽ͞ΕΔΑ͏ʹͳ͖ͬͯͨɻ
   w ٕज़ऀ͕ॎஅతʹ֤૚ͷཁૉٕज़Λཧղͯ͠ɺ࠷దͳઃܭΛಋ͘ඞཁੑ͕ ͋Δɻ
   w ݚڀऀͷ؍఺Ͱ͸ɺ࠷దͳΠϯϑϥઃܭ΍ɺॲཧੑೳ޲্ɺޮ཰తͳো֐ ؅ཧʹ޲͚ͯɺςϨϝτϦʔٕज़Λ࣠ʹߩݙ͢Δɻ
   w ೥ؒͷऔΓ૊ΈΛ঺հ͢Δɻ
5. アジェンダ 
   ਂ૚ֶशͱܭࢉػΞʔΩςΫνϟ
   
   ͘͞Β0/&
   
   ֶशδϣϒͷཤྺσʔλͷ܏޲෼ੳ
   
   --.෼ࢄֶशͷϕϯνϚʔΩϯά
   
   ΦϒβʔόϏϦςΟʢՄ؍ଌੑʣ
   
   "*εύίϯͷো֐؅ཧʹؔ͢Δݚڀಈ޲
   
   ·ͱΊ
   
6. 
   ਂ૚ֶशͱܭࢉػΞʔΩςΫνϟ
   
   ͘͞Β0/&
   
   ֶशδϣϒͷཤྺσʔλͷ܏޲෼ੳ
   
   --.෼ࢄֶशͷϕϯνϚʔΩϯά
   
   ΦϒβʔόϏϦςΟʢՄ؍ଌੑʣ
   
   "*εύίϯͷো֐؅ཧʹؔ͢Δݚڀಈ޲
   
   ·ͱΊ
   アジェンダ "*εύίϯͷཁૉٕज़ͷ
   ֓ཁΛ঺հ͢Δɻ w ਂ૚ֶशͷܭࢉෛՙ
   w ਂ૚ֶशͱ(16
   w ෳ਺(16ʹΑΔ෼ࢄਂ૚ֶश
   w Ϋϥελߏ੒
   w ωοτϫʔΫ
   w ετϨʔδ
7. 
   ਂ૚ֶशͱܭࢉػΞʔΩςΫνϟ
   
   ͘͞Β0/&
   
   ֶशδϣϒͷཤྺσʔλͷ܏޲෼ੳ
   
   --.෼ࢄֶशͷϕϯνϚʔΩϯά
   
   ΦϒβʔόϏϦςΟʢՄ؍ଌੑʣ
   
   "*εύίϯͷো֐؅ཧʹؔ͢Δݚڀಈ޲
   
   ·ͱΊ
   アジェンダ ͘͞ΒΠϯλʔωοτͷ
   Ϛωʔδυ)1$αʔϏε w 501ͷ݁Ռ
   w γεςϜߏ੒
8. 
   ਂ૚ֶशͱܭࢉػΞʔΩςΫνϟ
   
   ͘͞Β0/&
   
   ֶशδϣϒͷཤྺσʔλͷ܏޲෼ੳ
   
   --.෼ࢄֶशͷϕϯνϚʔΩϯά
   
   ΦϒβʔόϏϦςΟʢՄ؍ଌੑʣ
   
   "*εύίϯͷো֐؅ཧʹؔ͢Δݚڀಈ޲
   
   ·ͱΊ
   アジェンダ ͘͞Β0/&Ͱ࣮ߦ͞Εͨ
   δϣϒͷ܏޲෼ੳ
9. 
   ਂ૚ֶशͱܭࢉػΞʔΩςΫνϟ
   
   ͘͞Β0/&
   
   ֶशδϣϒͷཤྺσʔλͷ܏޲෼ੳ
   
   --.෼ࢄֶशͷϕϯνϚʔΩϯά
   
   ΦϒβʔόϏϦςΟʢՄ؍ଌੑʣ
   
   "*εύίϯͷো֐؅ཧʹؔ͢Δݚڀಈ޲
   
   ·ͱΊ
   アジェンダ ͘͞Β0/&ʹ͓͚Δ
   (15ͷϕϯνϚʔΫ w /7*%*"
   &04ͱͷൺֱ
   w ɺϊʔυͱͷൺֱ
   w ֶशͷ໨ඪੑೳࢦඪ
10. 
    ਂ૚ֶशͱܭࢉػΞʔΩςΫνϟ
    
    ͘͞Β0/&
    
    ֶशδϣϒͷཤྺσʔλͷ܏޲෼ੳ
    
    --.෼ࢄֶशͷϕϯνϚʔΩϯά
    
    ΦϒβʔόϏϦςΟʢՄ؍ଌੑʣ
    
    "*εύίϯͷো֐؅ཧʹؔ͢Δݚڀಈ޲
    
    ·ͱΊ
    アジェンダ ͘͞Β0/&ʹ͓͚Δ
    Մ؍ଌੑ޲্ͷऔΓ૊Έ w μογϡϘʔυ։ൃ
    w ςϨϝτϦʔγεςϜߏ੒
    w F#1'ʹΑΔθϩܭ૷
    
11. 
    ਂ૚ֶशͱܭࢉػΞʔΩςΫνϟ
    
    ͘͞Β0/&
    
    ֶशδϣϒͷཤྺσʔλͷ܏޲෼ੳ
    
    --.෼ࢄֶशͷϕϯνϚʔΩϯά
    
    ΦϒβʔόϏϦςΟʢՄ؍ଌੑʣ
    
    "*εύίϯͷো֐؅ཧʹؔ͢Δݚڀಈ޲
    
    ·ͱΊ
    アジェンダ "*εύίϯ޲͚ͷ
    ো֐ݪҼ΍ੑೳ༧ଌͷݚڀಈ޲ w ػցֶशϕʔεΞϓϩʔν
    w ϧʔϧϕʔεͷߏ଄తΞϓ ϩʔν
    w ϑΝγϦςΟɾ༧ଌ
12. 1. 深層学習と計算機アーキテクチャ 
13. 深層学習のワークロード
14. 深層学習モデルの「学習」と「推論」 ֶश ਪ࿦ ΞϓϦέʔγϣϯ "1* σʔληοτ ֶशδϣϒ Ϟσϧͷத਎ʢॏΈͳͲʣΛ࡞Δ޻ఔ ϞσϧΛ࢖ͬͯ౴͑Λฦ͢޻ఔ (16 (16 (16 (16 (16 (16 ϞσϧαʔϏϯά νϟοτ΍ΤʔδΣϯτͳͲ ֶशࡁΈϞσϧ ॏΈύϥϝʔλͳͲ σϓϩΠ ຊߨԋͷର৅ 14
15. 深層学習の処理の流れ 反復構造をもつ ॱ఻ൖ ޡࠩ
    ٯ఻ൖ ॏΈߋ৽ ޡࠩࢉग़ ޯ഑ ֶशσʔλ ॱ఻ൖ ʜ ֶशσʔλ ΦϓςΟϚΠβ ޡࠩΛখ͘͢͞Δ
    ύϥϝʔλࢉग़ ΠςϨʔγϣϯ̍ ΠςϨʔγϣϯ̎ ΠςϨʔγϣϯ਺͸਺ສ͔Β਺ඦສʹ ΋ٴͿͨΊɺ࣮ߦΛߴ଎Խ͍ͨ͠ 15 (16Λ࢖͏
16. Transformerにおける 行 列積和演算 -BZFS/PSN -BZFS/PSN %SPQPVU -JOFBS -JOFBS -JOFBS 4FMG
    "UUFOUJPO 9 : %SPQPVU (F-6 ॱ఻ൖ ٯ఻ൖ "UUFOUJPO .-1 5SBOTGPSNFS
    -BZFS Y
    l ଛࣦ ೖྗຒΊࠐΈʢτʔΫϯͳͲʣ O(Bsh2) O(Bs2h + Bsh2) O(Bsh2)
    ɿγʔέϯε௕ s
    ɿӅΕ૚ͷ࣍ݩ਺ h
    ɿόοναΠζ B <>
    /BSBZBOBO
    %FFQBL
    FU
    BM
    & ff i DJFOU
    MBSHFTDBMF
    MBOHVBHF
    NPEFM
    USBJOJOH
    PO
    HQV
    DMVTUFST
    VTJOH
    NFHBUSPO-. 4$ ܭࢉྔ͸<>Λ جʹΦʔμʔ දهʹม׵ O(Bsh2)
    ɿॏΈύϥϝʔλ਺ͷ ࢧ഑߲ lh2
17. LLMの重みパラメータ数と層数 Ϟσϧ ॳग़ ॏΈύϥϝʔλ਺ ૚਺
    (15  #  -MBNB
      #  -MBNB
      #  %FFQ4FFL
    7  #  2XFO
      #  2XFO
      #  2XFO$PEFS  #  --.KQ  #  l
18. 深層学習とGPU
19. AIモデル開発とGPU “I love the smell of GPUs melting” ˞
    IUUQTYDPNTBNBTUBUVT 
    
    ΑΓҾ༻ʢଠࣈ෦෼͸վมʣ CZ
    4BN
    "MUNBO ˞ 'SBOL
    )FMNT
    l)PX
    "*
    8PSLMPBET
    4IBQF
    )BSEXBSF
    "SDIJUFDUVSFz
    l5IF
    )PU
    $IJQ
    JT
    B
    3BDLz
    "*
    -JUFSBMMZ
    %FNBOET
    XF
    5IJOL
    0VUTJEF
    UIF
    #PY
    )PU
    $IJQT
    
    ΑΓసࡌ (16Ϋϥελن໛͸
    ೥Ͱ͔ΒL
    (16·Ͱ૿େ 19
20. Transformerの計算とGPUの適合性 5SBOTGPSNFSͷܭࢉಛੑ • 大 規模な 行 列積和演算 • 並列性が 高 い （トークンの計算の独 立 性） • メモリアクセスが頻繁 • 超並列処理 • 数千コアによる同時演算実 行 • 専 用 Tensor Core • 高 いメモリ帯域幅（HBM） (16ΞʔΩςΫνϟ
21. TransformerがGPU上で計算されるイメージ (16 5SBOTGPSNFS /BOP
    #BOBOB
    1SP
22. /BOP
    #BOBOB
    1SP
23. 分散深層学習
24. 分散深層学習 - データ並列（DP） モデルをGPUごとに複製し、データを分割して並列処理 ॱ఻ൖ ٯ఻ൖ ύϥϝʔλ
    ߋ৽ ॱ఻ൖ ٯ఻ൖ ύϥϝʔλ
    ߋ৽ ॱ఻ൖ ٯ఻ൖ ύϥϝʔλ
    ߋ৽
    ʢ૯࿨ʣ (16 (16 (16 ֤(16͔ΒಘΒΕͨޯ഑Λू໿ԋࢉ͠ɺ ֤(16্ͷϝϞϦ΁݁ՌΛڞ༗ ूஂ௨৴ 24
25. 集団通信 　 AllReduce ෳ਺ͷ3BOLʢ(16ͳͲʣ͕ࢀՃͯ͠ɺ͋ΔنଇʹैͬͯσʔλΛަ׵ɾू ໿͢Δ௨৴ύλʔϯͷ૯শ <>
    /7*%*"
    $PSQPSBUJPO
    l'BTU
    .VMUJ(16
    DPMMFDUJWFT
    XJUI
    /$$-z
    
    IUUQTEPDTOWJEJBDPN EFFQMFBSOJOHODDMVTFSHVJEFEPDTVTBHFDPMMFDUJWFTIUNM <>ΑΓసࡌ "MM3FEVDF͸ɺ֤(16্Ͱ૯࿨Λܭࢉ͢Δɻશһ͕ಉ͡ू໿݁ՌΛಘΔɻ యܕతʹ͸ɺσʔλ ฒྻͷޯ഑ฏۉʹ࢖ ༻͞ΕΔɻ
26. 集団通信 　 AllGather <>
    /7*%*"
    $PSQPSBUJPO
    l'BTU
    .VMUJ(16
    DPMMFDUJWFT
    XJUI
    /$$-z
    
    IUUQTEPDTOWJEJBDPN EFFQMFBSOJOHODDMVTFSHVJEFEPDTVTBHFDPMMFDUJWFTIUNM <>ΑΓసࡌ ֤(16͕࣋ͭҟͳΔσʔλΛɺશ(16͕ू໿ͯ͠શһ͕ಉ͡ʮ׬શͳ σʔλʯΛ࣋ͭঢ়ଶ ޙड़͢ΔϞσϧฒྻ΍;F30ʹ͓͍ͯɺ෼ࢄ഑ஔ͞ΕͨύϥϝʔλΛܭࢉ௚લʹ ू໿͢Δࡍʹ࢖༻ εΩοϓ
27. 集団通信 　 ReduceScatter <>
    /7*%*"
    $PSQPSBUJPO
    l'BTU
    .VMUJ(16
    DPMMFDUJWFT
    XJUI
    /$$-z
    
    IUUQTEPDTOWJEJBDPN EFFQMFBSOJOHODDMVTFSHVJEFEPDTVTBHFDPMMFDUJWFTIUNM <>ΑΓసࡌ ֤(16ͷσʔλΛ߹ܭ 3FEVDF ͭͭ͠ɺ݁ՌΛ෼ׂ֤ͯ͠(16ʹ഑෼͢Δɻ εΩοϓ
28. モデルのパラメータ数増 大 メモリの壁（Memory Wall） (IPMBNJ
    "NJS
    FU
    BM
    "J
    BOE
    .FNPSZ
    8BMMz
    *&&&
    .JDSP
    
    
    'JH
    B
    ΑΓసࡌ Ϟσϧύϥϝʔλ਺͕
    ೥Ͱഒ "*ΞΫηϥϨʔλʢ(16 516ʣͷϝϞϦྔ͸೥Ͱഒ 28
29. GPUメモリ上の代表的なデータ ύϥϝʔλʢXFJHIUTʣ ΦϓςΟϚΠβঢ়ଶ (16
    73".ۭؒ Ϟσϧঢ়ଶʢֶशεςοϓΛԣஅʣ Ұ࣌σʔλʢΠςϨʔγϣϯ಺ͷΈʣ ϛχόον தؒ׆ੑԽʢBDUJWBUJPOTʣ ॏΈߦྻͳͲ '1ϚελॏΈɺޯ഑ͷ ཤྺɾ෼෍౷ܭྔͳͲ ಛ௃ྔɾϥϕϧͳͲ ॱ఻ൖͷ૚͝ͱͷܭࢉ݁Ռ ޯ഑ʢHSBEJFOUTʣ ٯ఻ൖͰܭࢉ͞ΕΔ݁Ռ େن໛Ϟσϧ͸
    ̍(16ϝϞϦ ʹ৐Γ੾Βͳ͍ 29
30. 分散深層学習 - モデル並列 モデルを分割する ςϯιϧฒྻʢ51ʣ ॱ ߋ৽ (
    1
    6
     ٯ ύΠϓϥΠϯฒྻʢ11ʣ ॱ ॱ ॱ ٯ ٯ ٯ ߋ৽ (
    1
    6
     Ϟσϧͷ૚Λ࿈ଓͨ͠εςʔδʹ෼ׂ ૚ ૚ ݸʑͷ૚಺ͷςϯιϧʢߦྻʣΛ෼ׂ ߋ৽ ߋ৽ ॱ ॱ ٯ ٯ ूஂ௨৴ ूஂ௨৴ (16 (16 30 ௨৴ͷස౓͸௿͍ ௨৴ͷස౓͸ߴ͍ 11
31. パイプライン並列 ー Naive Model Parallel <>
    /BSBZBOBO
    %FFQBL
    FU
    BM
    1JQF%SFBN
    (FOFSBMJ[FE
    QJQFMJOF
    QBSBMMFMJTN
    GPS
    %//
    USBJOJOH
    04%*
     <>
    'JHVSF
    ΑΓసࡌ ಉ࣌ʹύΠϓϥΠϯ಺ʹଘࡏͰ͖Δೖྗ͕ݸ͚ͩͳͷͰɺ΄ͱΜͲͷεςʔ δ͕଴ͨ͞Εɺ(16ར༻཰͕ඇৗʹ௿͍ɻ ύΠϓϥΠϯ
    εςʔδ਺ɿ 5SBOTGPSNFSͷ૚਺
    ͕ͳΒ͹
    
    MBZFST
    
    TUBHF ٯ఻ൖ͕Ϛεଓ͘ͷ͸ߦྻੵ࿨ԋࢉͷίετΛදݱ͍ͯ͠Δ
32. パイプライン並列 ー GPipe <>
    /BSBZBOBO
    %FFQBL
    FU
    BM
    1JQF%SFBN
    (FOFSBMJ[FE
    QJQFMJOF
    QBSBMMFMJTN
    GPS
    %//
    USBJOJOH
    04%*
     ೖྗσʔλʢϛχόονʣΛ͞ΒʹϚΠΫϩόονʹ෼ׂͯ͠ྲྀ͢ <>ΑΓ
    'JHVSF
    ΑΓసࡌ ݸશͯͷόονͷॱ఻ൖΛྲྀ͖͠Γɺ ݸͷٯ఻ൖΛྲྀ͠੾Δ m( = 4) m
33. パイプライン並列 ー 1F1B <>
    /BSBZBOBO
    %FFQBL
    FU
    BM
    1JQF%SFBN
    (FOFSBMJ[FE
    QJQFMJOF
    QBSBMMFMJTN
    GPS
    %//
    USBJOJOH
    04%*
     ʮॱ఻ൖϚΠΫϩόονʯͱʮٯ఻ൖϚΠΫϩόονʯΛަޓʹ࣮ߦ͢Δ <>ΑΓ
    'JHVSF
    ΑΓసࡌ
34. テンソル並列（TP）+シーケンス並列（SP） <>
    ,PSUIJLBOUJ
    7JKBZ
    "OBOE
    FU
    BM
    3FEVDJOH
    "DUJWBUJPO
    3FDPNQVUBUJPO
    JO
    -BSHF
    5SBOTGPSNFS
    .PEFMT
    BS9JW
     <>
    'JHVSF
    ΑΓసࡌ ςϯιϧฒྻ͸ɺ"UUFOUJPOϒϩοΫͱ.-1ϒϩοΫͷߦྻΛ(16ؒͰ෼ׂ "MM3FEVDF
    
    3FEVDF4DBUUFS
    
    "MM(BUIFS "MM(BUIFS
    
    3FEVDF4DBUUFS
    
    "MMUP"MM
35. ３次元並列（ハイブリッド並列） <>
    %VBO
    +JBOHGFJ
    FU
    BM
    & ff i DJFOU
    5SBJOJOH
    PG
    -BSHF
    -BOHVBHF
    .PEFMT
    PO
    %JTUSJCVUFE
    *OGSBTUSVDUVSFT
    "
    4VSWFZ
    BS9JW
     <>
    'JH
    Λղ૾౓ ͱΞεϖΫτൺΛ มߋͯ͠࡞੒ σʔλฒྻʢ%1ʣ
    ύΠϓϥΠϯฒྻʢ11ʣ
    
    ςϯιϧฒྻʢ51ʣͷ̏ͭ Λಉ࣌ʹ૊Έ߹Θͤͯɺ(16܈Λ࣍ݩͷ֨ࢠͱͯ͠ѻ͏ɻ
36. AIスパコンのインフラ
37. AIスパコンの基本構成 37 (16
    /PEF (16
    /PEF (16
    /PEF (16
    /PEF *OUFSDPOOFDU
    /FUXPSL 4UPSBHF
    /FUXPSL 4UPSBHF #BDLFOE
    /FUXPSLͱ΋ݺ͹ΕΔ 3%."εΠονͱ/*$ʹجͮ͘ (16ؒ௨৴༻ωοτϫʔΫ ετϨʔδ༻ωοτϫʔΫ ΠϯλʔίωΫτωοτϫʔΫͱ ڞ༗ʹͳΔέʔε΋͋Δ ฒྻ෼ࢄετϨʔδ ֶशσʔλ΍νΣοΫϙΠϯτ͕ อଘ͞ΕΔ
38. ノード内通信とノード間通信 • 同 一 サーバ内の複数のGPU間の通信 • 高 速なバス通信技術（例：NVLink） • 数百GB/s級 • 異なるサーバ間のGPU通信 • RDMAによる 高 速ネットワーク技術 • 数百Gbps級
39. ノード内通信 ー GPU間の直接通信へ <>
    6OBU
    %JEFN
    FU
    BM
    5IF
    -BOETDBQF
    PG
    (16$FOUSJD
    $PNNVOJDBUJPO BS9JW  <>
    'JH
    
    ΑΓసࡌ ঃʑʹ$16ͷ໾ׂ͕ݮ͍͖ͬͯɺ(16ؒͰ׬݁͢ΔΑ͏ʹͳΔ )PTU
    /BUJWF )PTU
    $POUSPMMFE %FWJDF
    /BUJWF )PTU
    GBMMCBDL
40. ノード内通信 ー GPU間の直接通信へ /7-JOL
    ͸
    /7*%*"
    (16
    ؒͷߴଳҬ෯ͱ௿஗Ԇͷ௚઀ΞΫηεΛ༰қʹ͢Δ ಠࣗͷΠϯλʔίωΫτٕज़Ͱ͋Δɻ <>
    6OBU
    %JEFN
    FU
    BM
    5IF
    -BOETDBQF
    PG
    (16$FOUSJD
    $PNNVOJDBUJPO BS9JW  <>
    5BCMF
    
    Λվมͯ͠࡞੒ ૒ํ޲ू໿ଳҬ෯
41. ノード間通信がボトルネックへ <>
    4BQJP
    "NFEFP
    FU
    BM
    4DBMJOH
    EJTUSJCVUFE
    NBDIJOF
    MFBSOJOH
    XJUI
    *O/FUXPSL
    BHHSFHBUJPO
    /4%*
    
     <>
    ,MFOL
    #FOKBNJO
    FU
    BM
    "O
    JOOFUXPSL
    BSDIJUFDUVSF
    GPS
    BDDFMFSBUJOH
    TIBSFENFNPSZ
    NVMUJQSPDFTTPS
    DPMMFDUJWFTz
    *4$"
     ਂ૚ֶशͷֶश࣌ؒʹ઎ΊΔ"MMSFEVDFͷׂ߹ਪఆ͸ɺ <> <> (CQTωοτϫʔΫͰ໿
    (CQTωοτϫʔΫͰr 41 (16ͷුಈখ਺఺ੑೳ͸೥Ͱഒ৳ͼͨɻ
    ҰํͰωοτϫʔΫଳҬͷഒ৳௕ʹ͸໿೥Λཁͨ͠ɻ<>
42. Ethernetのリンク速度向上 (C&͕഑උ ͞Ε5C&΋Έ ͖͑ͯͨ <>
    &UIFSOFU
    "MMJBODF
    l
    &UIFSOFU
    3PBENBQz
    IUUQTFUIFSOFUBMMJBODFPSHXQDPOUFOUVQMPBET &UIFSOFU3PBENBQ4JEFE8FCQEG
    <>ΑΓసࡌ
43. 3%." ʢ04ΧʔωϧόΠύεʹΑΓ$16 ͱ%3".Λܦ༝ͤͣʹ௚઀సૹʣ *O fi OJCBOE /*$ʹϝϞϦసૹΦϑϩʔυ 3%."ΛωΠςΟϒ αϙʔτͨ͠ઐ༻ωο τϫʔΫ૬ޓ઀ଓٕज़ 3P$&W *1ϧʔςΟϯάՄೳͳ6%1ϕʔε3%." ϩεϨε ϑϩʔ੍ޚ΍᫔᫓੍ޚʹΑΓύέοτϩεΛθϩʹ͚ۙͮΔ <>
    -J
    8FOYVF
    FU
    BM
    6OEFSTUBOEJOH
    DPNNVOJDBUJPO
    DIBSBDUFSJTUJDT
    PG
    EJTUSJCVUFE
    USBJOJOHz
    "1/FU
     <>
    'JHVSF
    
    B ΑΓసࡌ RDMA 43
44. NVIDIA GPUDirect /7*%*"͕ఏڙ͢Δʮ(16Λத৺ͱͨ͠σʔλసૹͷγϣʔτΧοτٕज़ʯͷ૯শ ঃʑʹ$16ͷ໾ׂ͕ݮ͍͖ͬͯɺ(16ͱ/*$͚ͩͰ׬݁͢ΔΑ͏ʹͳΔ <>
    6OBU
    %JEFN
    FU
    BM
    5IF
    -BOETDBQF
    PG
    (16$FOUSJD
    $PNNVOJDBUJPO BS9JW 
45. Rail Optimized Topology <>
    ,
    .BOEBLPMBUIVS
    FU
    BM
    
    %PVCMJOH
    BMMBMM
    1FSGPSNBODF
    XJUI
    /7*%*"
    $PMMFDUJWF
    $PNNVOJDBUJPO
    -JCSBSZ
     ҟͳΔϊʔυ্ͷʮಉ͡(16
    *%ʯΛ࣋ͭ(16ؒͰͷ௨৴͕සൟʹൃੜɻ͜ͷಛੑ Λ౿·͑ͯ഑ઢΛ࠷దԽ͢Δɻ <>ΑΓసࡌ ൪ͷ(16ͱ/*$ͷ*%Λ ಉ͡-FBGεΠονʹऩ༰
46. AIスパコンのクラスタ構成例（Meta） ,PLPMJT
    "QPTUPMPT
    FU
    BM
    3FWJTJUJOH
    3FMJBCJMJUZ
    JO
    -BSHFTDBMF
    .BDIJOF
    -FBSOJOH
    3FTFBSDI
    $MVTUFSTz
    )1$"
    
    'JH
    ΑΓసࡌ αʔόɾϥοΫɾ1PEؒ
    ΠϯλʔίωΫτωοτϫʔΫ d(CQT αʔό಺ΠϯλʔίωΫτ (#T 46
47. AIモデル学習におけるストレージのユースケース 
    ϞσϧνΣοΫϙΠ ϯςΟϯά 
    ֶशσʔληοτ ͷಡΈग़͠ w ֶश్தͷঢ়ଶΛอଘ͠ɺো֐࣌ʹ࠶։ ͢ΔͨΊͷఆظνΣοΫϙΠϯςΟϯά
    w ਺෼ʙ਺े෼ʹҰ౓όʔετॻ͖ࠐΈ
    w #ͷ--.Ͱ͸νΣοΫϙΠϯταΠζ ͸5#΄ͲʹͳΔ
    w ߴεϧʔϓοτͰͷಡΈॻ͖
    w ਺ඦ਺ઍϊʔυن໛Ͱͷฒྻอଘɾฒྻ ಡΈग़͠εέʔϥϏϦςΟ w --B."
    ͸ஹҎ্ͷτʔΫϯͰֶ श͞Εɺ͓Αͦ5#ͷσʔλʹ૬౰
    w ଟ਺ͷ(16ϊʔυ͔Βฒྻγʔέϯ γϟϧಡΈग़͠
    w લॲཧ΍ΫϦʔχϯάͰ͸ɺϥϯμϜ Ϧʔυ΍খϑΝΠϧಡΈग़͠΋ࠞࡏ εΩοϓ
48. +POHSZPPM
    ,JN
    l& ff i DJFOU
    --.
    $IFDLQPJOUJOHXJUI
    .FNPSZ
    BOE
    4UPSBHFz
    IUUQT fi MFTGVUVSFNFNPSZTUPSBHFDPNQSPDFFEJOHT @$0.1@,JNQEG
    
    ܝࡌਤΛ΋ͱʹվมͯ͠࡞੒ チェックポインティングに 至 る流れ εΩοϓ
49. 並列分散ファイルシステムの構成 -VTUSFͷߏ੒ྫ ϝλσʔλ؅ཧͱσʔλຊମ؅ཧΛ෼཭͠ɺͦΕͧΕΛݸผʹεέʔϧΞ΢τՄೳ
    ϑΝΠϧΛετϥΠϓαΠζ୯ҐͰෳ਺045΁෼ׂ഑ஔ͠ɺΫϥΠΞϯτ͸ฒྻ*0 εΩοϓ
50. AIスパコンのソフトウェアスタック例 多層に折り重なった複雑な構成 εέδϡʔϥ 4MVSN
    ,VCFSOFUFT ίϯςφ /7*%*"
    $POUBJOFS
    5PPMLJU
    &OSPPU 1ZYJT
    4JOHVSBMJUZ ෼ࢄֶशϑϨʔϜϫʔΫ .FHBUSPO-.
    %FFQ4QFFE
    1ZUPSDI
    '4%1
    /F.P ֶशϑϨʔϜϫʔΫ 1Z5PSDI
    5FOTPS fl PX
    +"9 ूஂ௨৴ϥΠϒϥϦ /$$-
    3$$- 3%."ϥΠϒϥϦ JCWFSCT
    SENBDPSF ܭࢉߴ଎ԽϥΠϒϥϦ DV#-"4DV#-"4-U
    DV%//
    5SBOTGPSNFS
    &OHJOF ϥϯλΠϜυϥΠό $6%"
    OWJEJBESJWFST ˞
    IUUQTEPDTOWJEJBDPNOFNPGSBNFXPSLVTFSHVJEFMBUFTUTPGUXBSFDPNQPOFOUWFSTJPOTIUNM
    Ϣʔβʔ͕
    ֶशδϣϒΛൃߦ 50
51. 1章 まとめ ᶃ
    ਂ૚ֶशͷܭࢉෛՙͱ(16ͷద߹ੑ ᶄ
    େن໛ϞσϧʹରԠ͢Δ෼ࢄਂ૚ֶशٕज़ ᶅ
    ϊʔυ಺ɾϊʔυؒͷߴ଎ΠϯλʔίωΫτ 5SBOTGPSNFSͷେن໛ͳߦྻੵ࿨ԋࢉʹ͸ɺߴฒྻ ੑʢ਺ઍίΞɺ5FOTPS
    $PSFʣͱߴଳҬϝϞϦ ʢ)#.ʣΛ΋ͭ(16͕ద͢Δɻ .FNPSZ
    8BMMΛղܾ͢ΔͨΊɺσʔλฒྻɺύΠ ϓϥΠϯฒྻ΍ςϯιϧฒྻͷ૊Έ߹Θ͕ͤඞਢɻ ෼ࢄֶशதͷޯ഑ಉظͳͲͷͨΊʹɺ௨৴Ϙτϧ ωοΫΛղফɻϊʔυ಺ʢ/7-JOLʣͱϊʔυؒ ʢ3%."ɼ3P$&WʣͰूஂ௨৴Λߴ଎Խɻ
52. 2. さくらONE
53. さくらONE IUUQTXXXTBLVSBBEKQTBLVSBPOF
    ͘͞ΒΠϯλʔωοτ
    ݚڀॴ͕ओװ マネージドGPUスパコンサービスを提供中 ˞(16ϕΞϝλϧαʔϏεߴՐྗ1):΋ఏڙத εύίϯੑೳϥϯΩϯά 501
    ੈքҐ֫ಘ ʢ*4$ʣ 53
54. TOP500（ISC2025 June, 2025） 501 )1-
    -*/1"$, ੈքҐ )1$( )1$਺஋ԋࢉΞϓϦέʔγϣϯ ੈքҐ )1-.Y1 "*޲͚ͷ୯ਫ਼౓΍൒ਫ਼౓ԋࢉੑೳ ੈքҐ *0 ετϨʔδ*0ੑೳ ੈքҐ ΠϯλʔίωΫτωοτϫʔΫ͸ɺ
    ্ҐҐҎ಺Ͱ͸།ҰϕϯμʔதཱͰ Φʔϓϯͳٕज़Λ࠾༻ *4$ʹͯεύίϯੑೳϥϯΩϯά501
    ੈքҐΛ֫ಘ 40/J$
    04ͱ
    (C&
    &UIFSOFU 54
55. TOP500 (ISC2025) 世界49位 国内9位 3BOL 4ZTUFN 0SHBOJ[BUJPO 3NBY 1'MPQT  'VHBLV 3*,&/
    $FOUFS
    GPS
    $PNQVUBUJPOBM
    4DJFODF   "#$*
     "*45   $)*& 4PGU#BOL
    $PSQ   $)*& 4PGU#BOL
    $PSQ   "#$*2 "*45   '15
    "*
    'BDUPSZ
    +BQBO '15
    "*
    'BDUPSZ
    +BQBO   .JZBCJ( +PJOU
    $FOUFS
    GPS
    "EWBODFE
    )JHI
    1FSGPSNBODF
    $PNQVUJOH   546#".& $**
    *OTUJUVUF
    PG
    4DJFODF
    5PLZP   4",63"0/& 4",63"
    *OUFSOFU
    *OD
    
    
    1SVOVT
    4PMVUJPOT
    *OD  ࠃ಺γεςϜ্ҐͷΈൈਮ IUUQTUPQPSHMJTUTUPQ
    55
56. TOP500（SC2025 November, 2025） 3BOL 4ZTUFN 0SHBOJ[BUJPO 3NBY 1'MPQT  4",63"0/& 4",63"
    *OUFSOFU
    *OD
    
    
    1SVOVT
    4PMVUJPOT
    *OD  
    4",63"0/&
    $:$ 4",63"
    *OUFSOFU
    *OD
    
    
    1SVOVT
    4PMVUJPOT
    *OD   4",63"0/&
    $:# 4",63"
    *OUFSOFU
    *OD
    
    
    1SVOVT
    4PMVUJPOT
    *OD  IUUQTXXXUPQPSHMJTUTUPQMJTU
    $:$ͱ$:#ͱݺ͹ΕΔͭͷΫϥελΛ৽نʹ௥Ճɻ
57. さくらONEの3つのクラスタ ୈҰΫϥελ ୈೋΫϥελʢ$:$ʣ ୈࡾΫϥελʢ$:#ʣ ܭࢉϊʔυ਺    (16 /7*%*"
    )
    
    49.
    (# /7*%*"
    )
    49.
    (# /7*%*"
    #
    
    49.
    (# $16
    *OUFM
    9FPO
    1MBUJOVN
    
    º
    $16
    DPSFT
    
    *OUFM
    9FPO
    1MBUJOVN
    
    º
    $16
    DPSFT
    *OUFM
    9FPO
    1
    º
    $16
    DPSFT ϝϞϦ %%35# %%35# %%35# ϩʔΧϧετ Ϩʔδ
    (#
    Y
     5#
    º
     5#
    º
     ڞ༗ετϨʔδ -VTUSF
    1# -VTUSF
    5# -VTUSF
    5# ΠϯλʔίωΫ τωοτϫʔΫ (C&
    º
     (C&
    º
     (C&
    º
     IUUQTXXXTBLVSBBEKQTBLVSBPOF
    
58. さくらONE 第 一 クラスタの構成 '
    ,POJTIJ
    4",63"0/&
    &NQPXFSJOH
    5SBOTQBSFOU
    BOE
    0QFO
    "*
    1MBUGPSNT
    UISPVHI
    1SJWBUF4FDUPS
    )1$
    *OWFTUNFOU
    JO
    +BQBO
    BS9JW
     58 (16
    /PEF (16
    /PEF (16
    /PEF (16
    /PEF *OUFSDPOOFDU
    /FUXPSL 4UPSBHF
    /FUXPSL 4UPSBHF 
    OPEFT  
    $16
    DPSFT
    
    (16T
    )
    
    /*$T
    
    (C& 40/*$
    04
    
    (C& 
    (C& 1# %%/
    &YBTDBMFS
59. さくらONEの構成詳細 ΠϯλʔίωΫτ
    ωοτϫʔΫ ܭࢉϊʔυ ετϨʔδ
60. さくらONEの構成詳細（NW） ܭࢉϊʔυ 4QJOF -FBG 3BJM
    0QUJNJ[FE
    5PQPMPHZ 3P$&W
61. AIスパコンの利 用 （さくらONEの例） δϣϒ
    εέδϡʔϥ
    ʢ4MVSNʣ ϩάΠϯϊʔυ 44) ฒྻ෼ࢄ
    ετϨʔδ IPNF
    ҎԼΛ Ϛ΢ϯτ δϣϒ౤ߘ NPVOU NPVOU NPVOU εέδϡʔϥ͕Ϣʔβʔʹࢦఆ͞Εͨ(16ϊʔυΛ
    ֬อ͠ɺ֤ϊʔυ্ͰεΫϦϓτΛಉ࣌ىಈ͢Δ TMVSNDUME TMVSNE TDSJQU TMVSNE TDSJQU TMVSNE TMVSNE TDSJQU TDSJQU 61
62. ,POJTIJ
    'VNJLB[V
    4",63"0/&
    &NQPXFSJOH
    5SBOTQBSFOU
    BOE
    0QFO
    "*
    1MBUGPSNT
    UISPVHI
    1SJWBUF4FDUPS
    )1$
    *OWFTUNFOU
    JO
    +BQBO
    BS9JW
    QSFQSJOU
    BS9JW
      さくらONEの ホワイトペーパー 62
63. 3. 学習ジョブの履歴データの傾向分析 
64. ジョブ履歴データについて w σʔλͷ಺༰
    w 4MVSNʹ౤ߘ͞Εͨδϣϒͷ࣮ߦ։࢝ɾऴྃɺϢʔβʔɺύʔςΟγϣϯɺ ֬อ͞ΕͨϦιʔεʢϊʔυɺ(16ͳͲʣɺδϣϒ໊ɺίϚϯυͳͲ
    w ෼ੳର৅ظؒ
    w --.։ൃϓϩδΣΫτ"ͷ೥݄೔͔Β೥݄೔·Ͱ
65. 観察１ (16઎༗࣌ؒͷେ൒͸Ϣʔβओಋͷҙਤతͳதஅ͕઎ΊΔ Ұํɺࣦഊδϣϒͷ(16઎༗࣌ؒ͸ʹཹ·ͬͨɻ --.ͷֶशͩͱࣄલʹద੾ͳֶशεςοϓ਺ΛܾΊΒΕͳ͍ͷͰɺ ࠷େεςοϓ਺Λେ͖Ίʹઃఆ్ͯ͠தͰࢭΊΔӡ༻Λ͍ͯͨ͠
66. 観察２ খن໛δϣϒ͕େଟ਺Λ઎ΊΔҰํɺେن໛δϣϒ͕ (16Ϧιʔε઎༗࣌ؒͷେ෦෼Λফඅ͍ͯ͠Δ 66
67. δϣϒͷଟ͘͸୹࣌ؒͰऴྃ͢Δ͕ɺେن໛δϣϒ Ͱ͸࣮ߦ࣌ؒͷ෼෍ͷ੄͕௕͍ δϣϒ࣮ߦ࣌ؒͷྦྷੵ෼෍ 観察３ 67 தԝ஋͸਺෼͔Β਺े෼ͷൣғʹूத ͍ͯ͠ΔɻҰํͰɺϊʔυ਺͕େ͖͍ δϣϒ΄Ͳ࣮ߦ࣌ؒͷ෼෍͕ӈํ޲ʹ ޿͕Δɻ ϊʔυͷେن໛δϣϒͰ͸ɺ िؒΛ௒࣮͑ͯߦ͞Εͨδϣϒ΋ શମͷʹୡͨ͠
68. 観察４ ϓϩδΣΫτͷਐߦʹ൐͍ɼେن໛δϣϒ͔Βதن໛δϣϒ த৺΁ͱϦιʔεར༻͕ਪҠ͍ͯ͠Δɻ ࣄલֶश ϑΝΠϯνϡʔχϯά ิ଍తͳ࣮ݧ
69. (16Ϋϥελͷۭ͖ঢ়گ͕ ͻͱ໨ͰΘ͔Δ (16ిྗফඅྔͷྫ ۭ͖͕ଟ͍ͱ΋͍ͬͨͳ͍ 69
70. 第三章まとめ w --.։ൃϥΠϑαΠΫϧͰ͸ɺৗʹେن໛δϣϒΛྲྀ͢ඞཁ͸ͳ͍
    w (16ͷۭ͖͕ͰΔظؒ͸͋Δ
    w --.։ൃͰ͸࠷ߴੑೳͷ௥ٻΑΓ΋ɺ։ൃͷ҆ఆੑ͕ॏࢹ͞ΕΔ
    w Πϯϑϥ౤ࢿʹແବ͕ͰΔՄೳੑ͕͋Δ 70
71. 4. LLM分散学習ベンチマーキング 
72. 分散学習ベンチマーキングの動機 w 501ʹ͓͚ΔϕϯνϚʔΫ͸ҰൠͷܭࢉػੑೳΛܭଌ͢Δ΋ͷͰ͋Δ
    w ͘͞Β0/&͕ϑΥʔΧε͢Δ--.ֶशʹ͓͚ΔੑೳΛܭଌ͍ͨ͠
    w ۀքͷඪ४తͳϕϯνϚʔΫͱͯ͠.-1FSGʹண໨ͨ͠
    w .-1FSGϕϯνϚʔΫεΠʔτɿ5SBJOJOH*OGFSFODF4UPSBHFͳͲ̍̍छ
    w 5SBJOJOHͷ͏ͪɺ͘͞Β0/&ͷ૝ఆϢʔεέʔεʹ͍ۙ͠ɺ(15
    #ࣄ લֶशͱ-MBNBϑΝΠϯνϡʔχϯάΛબ୒ ຊ೔ͷର৅ 72
73. MLPerf Training w είΞ͸ֶश։͔࢝Βֶशऴྃ·Ͱͷ࣮࣌ؒʢNJOʣ
    w ૚਺΍ֶश཰ɺγʔέϯε௕ͳͲͷֶशؔ࿈ͷϋΠύʔύϥϝʔλ͸ݻఆ
    w ֶशσʔληοτ͸༻ҙ͞Ε͍ͯΔ
    w ଛࣦ͕نఆͷᮢ஋ʹୡ͢Δͱ࣮ߦΛఀࢭʢ(15Ͱ͸-PH
    1FSQMFYJUZ͕ʣ
    w ͋Δఔ౓ֶशΛਐΊΒΕͨঢ়ଶΛอଘͨ͠νΣοΫϙΠϯτ͔Βֶश։࢝
    w ֶशதͷνΣοΫϙΠϯςΟϯάʢετϨʔδ΁ͷఆظอଘʣ͸ͳ͠ モデル側のパラメータ固定や学習終了条件の明 示 ˞
    $MPTFE
    %JWJTJPOͷ৔߹ 73
74. GPT-3事前学習のスコア 0SHBOJ[BUJPO 4ZTUFN
    /BNF (16਺ .PEFM
    /BNF -BUFODZ NJO /7*%*" &PTEGX@O   )49.(#  0SBDMF Y#.(16)  )49.(#  0SBDMF Y#.(16)  )49.(#  4",63"
    JOUFSOFU 4",63"0/&@O  )49.(# 
    VOWFSJ fi FE /7*%*" &PT@O  )49.(#  4",63"
    JOUFSOFU 4",63"0/&@O  )49.(# 
    VOWFSJ fi FE /7*%*" &PT@O  )49.(# 
    IUUQTNMDPNNPOTPSHCFODINBSLTUSBJOJOH
    
    3PVOE
    W
    ͔ΒҰ෦ൈਮ ˞VOWFSJ fi FE͸.-$PNNPOTڠձʹ Αͬͯݕূ͞Ε͍ͯͳ͍݁ՌͰ͋Δɻ 74
75. GPT-3事前学習（規模が近い他システム 比 較①） 0SHBOJ[BUJPO 4ZTUFN
    /BNF (16਺ .PEFM
    /BNF -BUFODZ NJO 4",63"
    JOUFSOFU 4",63"0/&@O  )49.(# 
    VOWFSJ fi FE /7*%*" &PT@O  )49.(#  (16਺ɺ(16Ϟσϧɺ/8ଳҬ෯͕ಉ৚݅Ͱͷൺֱ &PT@Oʹରͯ͠ɺ4",63"0/&@O
    ͸
    
    ͷֶश࣌ؒͱͳͬͨ 75
76. GPT-3事前学習（規模が近い他システム 比 較②） (16਺͕ۙ͘͠ಉҰϞσϧɺ/8ଳҬ෯ಉҰͰͷൺֱ 0SHBOJ[BUJPO 4ZTUFN
    /BNF (16਺ .PEFM
    /BNF -BUFODZ NJO 4",63"
    JOUFSOFU 4",63"0/&@O  )49.(# 
    VOWFSJ fi FE /7*%*" &PT@O  )49.(#  &PT@OΛԾʹϊʔυͱ͢Δͱཧ૝׵ࢉͰ NJO ͱͳΓɺ 4",63"0/&@O͸ͷֶश࣌ؒ ˞
    4",63"0/&ʹ͸ෆརͳ৚݅Ͱͷൺֱ ྆ऀ1PEʢ46ʣ ԣஅ௨৴͋Γ 76
77. 学習ワークロードの代表的な 目 標性能指標 εϧʔϓοτ ܭࢉޮ཰ .'6
    .PEFM
    'MPQT
    6UJMJ[BUJPO  Ϟσϧ͕ཧ࿦తʹ࢖༻͢Δ '-014ͷ࣮ଌ஋ ϋʔυ΢ΣΞͷϐʔΫ'-014 ֶशεϧʔϓοτɹUPLFOTTFD
    TBNQMFTTFD ԋࢉεϧʔϓοτɹ'-014ʢ'MPBUJOHQPJOU
    0QFSBUJPOT
    1FS
    4FDPOEʣ ϨΠςϯγ 5JNF
    UP
    5SBJO
    ɹֶश։͔࢝Β׬ྃ·Ͱͷ࣌ؒ 77
78. GPT-3事前学習（さくらONEスケーリング評価） ϊʔυ਺   5JNF
    UP
    5SBJO ʢNJOʣ   .'6    5'-014(16   5PLFOTTFD(16   ֶश࣌ؒ୹ॖ཰
    ɹɹഒ ϊʔυ਺͕ഒʹରͯ͠ )
    '1ࠞ߹ਫ਼౓Ͱͷԋࢉޮ཰ʢ.'6ʣͷ૬৔͸ ԋࢉޮ཰(16ɹɹɹ ରཧ૝εέʔϦϯά
    
     78 ʢԋࢉεϧʔϓοτͷ૬৔͸r
    5'-014(16ʣ
79. H100 BF16/FP8混合精度 MFU w ϐʔΫ'-014ͱͯ͠ɺจݙͰ͸ 
    5'-014
    Λ࠾༻͞Ε͍ͯΔ
    w '1
    5FOTPS
    $PSF͸
     
    5'-014ʢ˞ʣ͕ͩɺ4QBSTFͳ͠ͳΒ  ˞
    /7*%*"
    )
    5FOTPS
    $PSF
    (16
    %BUBTIFFU
    IUUQTSFTPVSDFTOWJEJBDPNFOVTIPQQFSBSDIJUFDUVSFOWJEJBUFOTPSDPSFHQV EBUBTIFFU
    ˞
    IUUQTDBUBMPHOHDOWJEJBDPNPSHTOWJEJBUFBNTEHYDCFODINBSLJOHSFTPVSDFTMMBNBCEHYDCFODINBSLJOHD
    ˞ -MBNB
    
    # .'6
    d
     ˞ ˞
    IUUQTTFNJBOBMZTJTDPNIDMVTUFSTQPXFSOFUXPSL
    .'6
    
     ˞ USJMMJPO
    QBSBNFUFS
    USBJOJOH -MBNB
    
    # ˞
    IUUQTTFNJBOBMZTJTDPNIWTHCOWMUSBJOJOHCFODINBSLT
    .'6
    
     ˞ ˞
    IUUQTXXXEBUBCSJDLTDPNKQCMPHUVSCPDIBSHFEUSBJOJOHPQUJNJ[JOHEBUBCSJDLTNPTBJDBJTUBDLGQ
    .15CdC .'6
    d
     ˞ 79
80. GPT-3事前学習（パラメータの組み合せ） 51 11 %1 (MPCBM
    #4 .JDSP
    #4 '-014 (16 5JNF
    UP
    5SBJO ʢNJOʣ      /P
    EBUB                       51ςϯιϧฒྻ౓
    11ύΠϓϥΠϯฒྻ౓
    %1σʔλฒྻ౓
    (MPCBM#4άϩʔόϧόοναΠζ
    .JDSP#4ϚΠΫϩόοναΠζ 96ノード શମͰݸͷύϥϝʔλͷ͏ͪ୅දతͳ΋ͷΛൈਮ ςϯιϧฒྻͷ ௨৴Λαʔό಺ /8Ͱ׬݁ͤͨ͞ ͍ͨΊ51 73".ʹऩ·Δൣ ғͰ%1Λ্͛Ε ͹͍͍ͱࢥ͍ͬͯ ͕ͨҙ֎ͱͦ͏Ͱ ΋ͳ͍ 80
81. GPT-3事前学習の結果の考察 w ͘͞Β0/&Ͱ͸૬৔ͷൣғ಺ͷԋࢉޮ཰Λୡ੒Ͱ͖͍ͯΔɻ
    w ΠϯλʔίωΫτ௨৴͕े෼ߴ଎ɻ෼ࢄֶशͷνϡʔχϯά΋૬৔Ϩϕϧɻ
    w ҰํͰɺ͘͞Β0/&͸&04ͱϊʔυൺֱͰɺϊʔυ׵ࢉൺֱ Ͱͷੑೳͱͳͬͨɻ
    w ཁҼͷՄೳੑɿ&UIFSOFU 3P$&W ର*O fi OJCBOEɺ͋Δ͍͸୯ʹνϡʔχϯάෆ଍
    w ΠϯλʔίωΫτͷτϙϩδߏ੒ʢ3BJM
    0QUJNJ[FEʣ͸ಉҰͷ͸ͣ
    w ιϑτ΢ΣΞελοΫ͸04ͱΧʔωϧϞδϡʔϧʢυϥΠόͳͲʣҎ֎ͷόʔ δϣϯ͸ಉҰͷ͸ͣ 81
82. 苦労したこと w .-1FSGެࣜͷϦϑΝϨϯε࣮૷ΑΓɺաڈͷϥ΢ϯυͰ౤ߘɾެ։͞Ε࣮ͨ૷ ͷ΄͏͕੔ཧ͞Ε͍ͯΔɻϦϑΝϨϯε࣮૷͔Β࢝Ίͯ͠·ͬͨɻ
    w ίϯςφͰόʔδϣϯ͕ݻఆ͞Ε͍ͯͯ΋ɺ෺ཧߏ੒ͷඍົͳࠩҟʹΑͬͯಈ͔ ͳ͍ઃఆ΍ίʔυ͸͍͔ͭ͋͘Γɺमਖ਼ͷඞཁ͋Γ
    w ෼ࢄֶशͷ֤छ֓೦ʢ%ฒྻɺूஂ௨৴ͳͲʣ΍ιϑτ΢ΣΞʢ4MVSNɺ /F.Pɺ.FHBUSPOʣΛ৽نʹֶͿඞཁ͕͋ͬͨ
    w ϕϯνϚʔΫظؒ͸ݶΒΕΔͨΊɺ৸ΔલʹδϣϒΛෳ਺ݸ౤ೖͯ͠ே݁ՌΛΈ Δੜ׆Λ͍ͯͨ͠ ˞
    IUUQTHJUIVCDPNNMDPNNPOTUSBJOJOH@SFTVMUT@WUSFFNBJO/7*%*"
    ˞ 82
83. 4章：まとめ w --.ֶशͰඞཁͱ͞ΕΔجຊతͳฒྻԽٕज़΍/8ٕज़ɺΫϥελߏ੒Λ؆୯ʹ ղઆͨ͠ɻ
    w ͘͞ΒΠϯλʔωοτͰ͸Ϋϥελ؅ཧ͕ϚωʔδυԽ͞Εͨεύίϯʮ͘͞Β 0/&ʯΛ։ൃ͠ɺ501ͰΦʔϓϯͳ/8ٕज़ͷൣᙝͰҐΛୡ੒ͨ͠ɻ
    w ͘͞Β0/&Ͱ(15ͷࣄલֶशϕϯνϚʔΫΛ࣮ࢪ͠ɺ૬৔ͷൣғ಺ͷԋࢉޮ཰ Λୡ੒ɻνϡʔχϯάʹ՝୊ͷ༨஍͋Γɻ
    w ʢ࣌ؒ౎߹ͰׂѪʣ-MBNBϑΝΠϯνϡʔχϯάͰ͸ϕϯνϚʔΫࢀՃاۀΒͱ ಉ౳ఔ౓ͷੑೳΛୡ੒ͨ͠ɻ 83
84. 5. オブザーバビリティ（可観測性） 
85. AIスパコンサービスのオブザーバビリティ Ϣʔβʔ ϓϩόΠμʔ ֶशॲཧੑೳ ো֐ɾނো؅ཧ ܭࢉࢿݯͷར༻཰ ܭࢉࢿݯͷར༻཰ ໨ඪࢦඪ ਂ૚ֶशͷॲཧͷ಺༁ ֶशɾԋࢉεϧʔϓοτ ΞϓϦέʔγϣϯ σόΠε ঢ়ଶνΣοΫ
    ϦιʔεফඅྔɾΤϥʔ Ҽࢠ෼ղ ϫʔΫϩʔυ
    ෼ੳ Ϧιʔε
    ෼ੳ 85
86. 責任境界による計装・収集の制約 Ϣʔβʔ ϓϩόΠμʔ 04 δϣϒ
    εέδϡʔϥ ੹೚ڥք σόΠε ΞϓϦέʔγϣϯ υϥΠό γεςϜϥΠϒϥϦ ΞϓϦέʔγϣϯ
    ϩάͷऔಘෆՄ ΞϓϦέʔγϣϯ
    ίʔυͷܭ૷ෆՄ 86
87. まずはできるところからやる Ϧιʔε෼ੳͷͨΊͷςϨϝτϦʔऩू ϫʔΫϩʔυ
    ෼ੳ Ϧιʔε
    ෼ੳ 
88. リソース分析の概観 Grafanaダッシュボードの構成 ۭؒϏϡʔ
    ࣌ܥྻϏϡʔ
    δϣϒϏϡʔ
    ࠓͳʹ͕ى͖͍ͯΔʁ աڈԿ͕ى͖͔ͨʁ ಛఆδϣϒʹண໨ ݸผ࣌ܥྻϏϡʔ ಛఆ(16ͳͲ %BUB
    MJOL %BUB
    MJOL 88
89. (16ిྗফඅɺԹ౓ɺϝϞϦ࢖༻ྔɺετϨʔδ࢖༻ྔ 空間ビュー：クラスタ統計 89
90. 空間ビュー：パーティション別統計① ԋࢉεϧʔϓοτ
    ʢ%$(.ਪఆ஋ʣ (16࢖༻཰ ςϯιϧίΞ࢖༻཰ --.ֶशͰ͸͙ Β͍࢖͍͑ͯΔͱྑ͍ ˞
    7
    "OESFJ
    FU
    BM
    4:45&.!4$"-&
    "*
    0CTFSWBCJMJUZ
    IUUQTBUTDBMFDPOGFSFODFDPNTZTUFNTDBMFBJPCTFSWBCJMJUZ
     ˞ Ͱ͋ͬͯ΋(16ͷԋ ࢉޮ཰͕ߴ͍ͱ͸ݶΒͳ͍ 90
91. 空間ビュー：パーティション別統計② (16ϝϞϦ࢖༻཰ (16ϝϞϦ
    ଳҬ෯࢖༻཰ (16ϝϞϦ
    ΞΫηε࢖༻཰ ͍ۙͱ͏· ͘࢖͍͑ͯΔ 91
92. 空間ビュー：GPUグリッド表 示 )1&
    $MVTUFSWJFX ˞
    IUUQTHSBGBOBDPNHSBGBOBQMVHJOTIQFIQDHSBGBOBDMVTUFSWJFXQBOFM
    ˞ ύωϧϓϥάΠϯ ϥοΫˠαʔόˠ
    (16 ͳͲͷೖΕࢠදݱՄ (16ిྗফඅྔͷྫ ࣾ಺ͷ)1$ઐ໳ Ոʹ޷ධ ೴಺Πϝʔδʹ
    ͍ۙϏϡʔ 92
93. 空間ビュー：NVLink別グリッド表 示 ܭࢉϊʔυ಺
    (16ؒόεͷ
    ड৴εϧʔϓοτ 93
94. 空間ビュー：NICグリッド表 示 ̍ܭࢉϊʔυ͋ͨΓ
    ΠϯλʔίωΫτ༻/*$ຕ
    ετϨʔδ༻/*$
    ຕ /*$ͷड৴
    εϧʔϓοτ 94
95. 時系列ビュー① /*$ͷ
    εϧʔϓοτ ετϨʔδ
    εϧʔϓοτ νΣοΫϙΠϯτॻ͖ग़͠ͷ༷ࢠ 95
96. 時系列ビュー② (16Ϋϥελͷۭ͖ঢ়گ͕ ͻͱ໨ͰΘ͔Δ (16ిྗফඅྔͷྫ ϓϩδΣΫτ"ͷ೥—݄̏ͷσʔλ Λ΋ͱʹՄࢹԽ ۭ͖͕ଟ͍ͱ΋͍ͬͨͳ͍ 96
97. ジョブビュー 　 ガントチャート 4MVSNδϣϒͷώετϦʢ.BSJB%#ʹอଘʣΛݩʹՄࢹԽ 97
98. プロファイルの可視化 γϯϘϧະղܾͱͳΔؔ਺͕ଟ͍ ॱ఻ൖॲཧͷ಺༁͕Θ͔Δ
    ͨͩ͠$16
    UJNF 98
99. データパイプラインの構成（全体像） (16
    /PEFT
     -PHJO
    /PEFT
     *OUFSDPOOFDU
    4XJUDIFT #BDLFOET 05F-
    $PMMFDUPS
    (BUFXBZ 05F-
    $PMMFDUPS
    "HFOU 1ZSPTDPQF 7JDUPSJB.FUSJDT 7JDUPSJB-PHT .FUSJDT -PHT 1SP fi MFT 05-1 05-1 &YQPSUFST &YQPSUFST &YQPSUFST 4ZTMPH -PHT -PHT 4DSBQF ˠ
    ͸σʔλͷྲྀΕΛද͢ 7JTVBMJ[BUJPO (SBGBOB 99
100. GPUノードの構成 (16
     /PEFT
      05F-
     $PMMFDUPS
     "HFOU *1.*
     &YQPSUFS +PVSOBME 3%."
     &YQPSUFS /PEF
     &YQPSUFS %$(.
     &YQPSUFS -VTUSF
     &YQPSUFS 1SPDFTT
     &YQPSUFS 4DSBQF 1SPNFUIFVT
     
     3FDFJWFS πʔϧ਺Λগͳ͘͢ΔͨΊʹ
     05F-
     $PMMFDUPSओମͰऩू +PVSOBME
     
     3FDFJWFS WBSMPHTMVSN 'JMF
     -PH
     
     3FDFJWFS ʢࣗ࡞ʣ ˞
     HJUIVCDPNZVVLJSENB@FYQPSUFS
     ˞ PQFOUFMFNFUSZ FCQGQSP fi MFS (BUFXBZ 05-1 ˞
     
     HJUIVCDPN(4*)1$MVTUSF@FYQPSUFS ˞ 100
101. ログとプロファイルに関する所感 まだ有効利 用 できていない w ཁ্݅ɺଟ͘ͷ৘ใؚ͕·ΕΔΞϓϦϩάΛऔಘෆՄ
     w ϓϥοτϑΥʔϜଆͰ؅ཧ͢Δϛυϧ΢ΣΞ͕গͳ͍
     w εέδϡʔϥʔʢ4MVSNʣ΍ڞ༗ετϨʔδʢ-VTUSF'4
     PO
     %%/ʣͷΈ ϩά w (16΍3%."௨৴ΛؚΉϓϩϑΝΠϧΛऔಘͰ͖ͳ͍
     w ෼ࢄτϨʔε͕ͳ͍ ϓϩϑΝΠϧ 101
102. Ϣʔβʔ オブザーバビリティ・ギャップ ΪϟοϓᶄɹΞϓϦ͔Πϯϑϥͷ໰୊੾Γ෼͚ ౤ࢿޮՌ؍఺ ϓϩόΠμʔ ੑೳ؍఺ ো֐ɾނো؍఺ ΪϟοϓᶃɹֶशॲཧੑೳͷϘτϧωοΫಛఆ ΪϟοϓᶅɹϚΠΫϩόʔετϞχλϦϯά
     102
103. Ϣʔβʔ ΪϟοϓᶄɹΞϓϦ͔Πϯϑϥͷ໰୊੾Γ෼͚ ౤ࢿޮՌ؍఺ ϓϩόΠμʔ ੑೳ؍఺ ো֐ɾނো؍఺ ΪϟοϓᶃɹֶशॲཧੑೳͷϘτϧωοΫಛఆ ΪϟοϓᶅɹϚΠΫϩόʔετϞχλϦϯά
     103 オブザーバビリティ・ギャップ
104. やりたいこと ϫʔΫϩʔυ෼ੳͷͨΊͷࡉཻ౓ܭଌ ϫʔΫϩʔυ
     ෼ੳ Ϧιʔε
     ෼ੳ 
105. 深層学習の処理過程をトレースしたい ֶशδϣϒ ΤϙοΫ̍ ΠςϨʔγϣϯ̍ (16 (16 ΤϙοΫ̍ ΠςϨʔγϣϯ̍ ࣌ؒ ΠςϨʔγϣϯ ΤϙοΫ ΠςϨʔγϣϯ ΤϙοΫ ܭࢉͱ௨৴ͷΦʔόʔϥοϓ ֤εύϯͷܦա࣌ؒ΍ϦιʔεফඅྔΛܭଌ ूஂ௨৴ ॱ఻೻ ٯ఻೻ ॏΈ
     ߋ৽ ूஂ௨৴ ॱ఻೻ ٯ఻೻ ॏΈ
     ߋ৽ 105
106. 集団通信の処理過程をトレースしたい (16
      (16
      (16
      (16
      (16
      (16
      (16
     / (16
     / (16
     / ࣌ؒ (16
      (16
      (16
     / εΠον αʔό̍ αʔό αʔό/ 3JOHΞϧΰϦ ζϜͷҰྫ શ(16͕ಉ࣌ʹྡʹσʔλ Λૹ৴͠ଓ͚Ϧϯά্Λपճ αʔό/ -FBG /*$
      /*$
      /*$
      /*$
      -FBG 106
107. GPUプロファイリング 107 MLPerf Training GPT-3のベンチマーク中に取得 Pytorch Pro fi lerの結果をPerfettoで可視化 NT ΠϯλʔίωΫτ௨৴ NT NT NT Ұൠతʹ͸ɺਂ૚'8಺ଂ΍/7*%*"͕ఏڙ͢ΔϓϩϑΝΠϥΛ࢖͏ $615*
     /TJHIU
     4ZTUFNT 1Z5PSI
     1SP fi MFS ,JOFUP
108. ギャップ① 　 現 行 GPUプロファイラの課題 ˞
     &
     :PVTFG[BEFI"TM.JBOEPBC
     FU
     BM
     l1SP fi MJOH
     BOE
     .POJUPSJOH
     %FFQ
     -FBSOJOH
     5SBJOJOH
     5BTLTz
     &VSP.-4ZT
      
     Ϣʔβʔ؅ཧ 
     ॏ͍Φʔόʔϔου Ϣʔβʔ͕༗ޮԽ͢Δඞཁ͕͋ΔͨΊɺ
     ϓϥοτϑΥʔϚʔཁ݅Λຬͨ͞ͳ͍ 1Z5PSDI
     1SP fi MFS͕ഒ஗ԆΛ૿Ճ ͤ͞Δใࠂ͋Γ˞ ΞϓϦέʔγϣϯʹରͯ͠ඇ৵ೖͳܗࣜͰ
     ௿Φʔόʔϔουͷ;FSP
     $PEFܭ૷Λ͍ͨ͠ 108
109. ギャップ① 　 Zero Code計装 eBPFによるZero Code計装による分散トレーシング技術は確 立 しつつあるが… ˞
     IUUQTHJUIVCDPNHSBGBOBCFZMB
     ˞
     IUUQTEFFQ fl PXJP
     • GPUの内部処理はOSカーネル内からはみえない • GPU間通信はOSカーネルのNWスタックを経由しない ˞
     ˞
     ˞ ˞
     IUUQTPQFOUFMFNFUSZJPEPDT[FSPDPEFPCJ
     
     (16ݻ༗ͷ޻෉͕ඞཁ #FZMB
     %FFQ'MPX
     0#*ͳͲ ✘ 109
110. ギャップ① 　 GPUゼロコード計装の最先端 $6%"
     "1*૚ (16υϥΠό૚ ˞
     zF#1'
     5VUPSJBM
     5SBDJOH
     $6%"
     (16
     0QFSBUJPOTz
     IUUQTFVOPNJBEFWUVUPSJBMTDVEBFWFOUT
     
     ˞
     lF#1'
     5VUPSJBM
     CZ
     &YBNQMF
     .POJUPSJOH
     (16
     %SJWFS
     "DUJWJUZ
     XJUI
     ,FSOFM
     5SBDFQPJOUTz
     IUUQTFVOPNJBEFWUVUPSJBMTYQVHQVLFSOFMESJWFS
     
     ˞
     l8SJUF
     BOE
     3VO
     F#1'
     PO
     (16
     XJUI
     CQGUJNFz
     IUUQTFVOPNJBEFWFOCQGUJNFEPDVNFOUTHQV
     VQSPCFT
     
     
     MJCDVEBSUTP (16΁ͷϝϞϦׂ౰ɾసૹɾಉظɺΧʔωϧىಈؔ਺ʹϑοΫ USBDFQPJOUT
     
     LQSPCFT ϥϯΩϡʔͷਂ͞΍9*%ΤϥʔΛܭଌՄೳ ˞ ˞ ˞ CQGUJNF ඇಉظ΍(16಺෦ͷৄࡉܭଌ͸ࠔ೉ Ϣʔβʔͷ1ZUIPOϓϩηεͱͷඥ͚ͮՄೳ 04ΧʔωϧͷൣᙝͳͷͰɺҰൠతͳLQSPCFTͳͲͰܭଌՄೳ ඇಉظͰ΋(16಺ج४Ͱͷ࣌ࠁ͕Θ͔Δ
     (16಺ͷϫʔϓ΍εϨου୯Ґཻ౓Ͱͷܭଌ 159ʢ(16தؒදݱʣίʔυ΁F#1'ίʔυΛ஫ೖ Ϣʔβʔۭؒ
     F#1'ϥϯλΠϜ <)%$4
     F(16> <04%*
     CQGUJNF> (16಺෦૚ 110
111. ギャップ①：GPUゼロコード計装の課題 $6%"
     "1*૚ (16υϥΠό૚ (16಺෦૚ ਂ૚ֶश'8૚ʢ1ZUIPOʣ ෼ࢄτϨʔγϯά΁ͷؼணʹ͸
     ֤૚ͷΠϕϯτΛ૬ؔͤ͞Δඞཁ͋Γ (16ϝϞϦؒ௨৴΋ݪཧతʹ͸ܭଌͰ͖Δ ͸ͣʜ
     ίϯςΩετͷ఻ൖΛͲ͏΍Δ͔ʁʁ ݱঢ়͸·ͩͦͷΑ͏ͳ
     πʔϧ͸ͳ͍ ݚڀ։ൃͷྖҬ 111
112. Ϣʔβʔ オブザーバビリティ・ギャップ ΪϟοϓᶄɹΞϓϦ͔Πϯϑϥͷ໰୊੾Γ෼͚ ౤ࢿޮՌ؍఺ ϓϩόΠμʔ ੑೳ؍఺ ো֐ɾނো؍఺ ΪϟοϓᶃɹֶशॲཧੑೳͷϘτϧωοΫಛఆ ΪϟοϓᶅɹϚΠΫϩόʔετϞχλϦϯά
     112
113. ギャップ②：アプリかインフラの問題切り分け [Liu+,SIGCOMM24] ωοτϫʔΫͷ໰୊͔ʁ੾Γ෼͚͕೉͍͠ ‣ ΞϓϦϩάʹ͸ू߹௨৴ϥΠϒϥϦʢ/$$-ʣ͕zFSSPS
     DPEF
     z͕Έ͑Δ͕ʜ
     ‣ ݪҼ͸ɺϗετଆͷ໰୊ʢ(16μ΢ϯɾϋϯάɾϝϞϦෆ଍ɾ/$$-ޡઃఆʣͰ ͋Δ͜ͱ΋ 113
114. ギャップ② 　 R-Pingmesh RNIC to RNICのアクティブプルービングによるRoCEネットワーク監視 114 ③ 継続的なプルービン グによるRTT・パケッ トロスの常時計測 ②RoCEパケットに よるプルービング ① サービストラフィッ クとは独 立 したRNIC 単位のプルービング
115. R-Pingmeshのシステム全体像 115 <-JV 4*($0..>
     'JHVSF
     
     31JOHNFTI
     'SBNFXPSL
     Λجʹվมͯ͠ܝࡌ 1. Agentが登録処理 2. ControllerからPinglistが届く 3. PinglistからProberがプルー ブを送信 4. RTTなどを記録しAnalyzerへ 1. eBPFでサービスジョブの通 信の5-tupleを監視 2. 専 用 のPinglistへ追加
116. yuuki/rpingmeshの技術スタック 116 • 言 語：Go • RoCE通信：libibverbs • eBPF Kprobe, cillium/ebpf • 要素間通信：gRPC • Registry: Rqlite • 計装：OpenTelemetry
117. 成果物 117 IUUQTHJUIVCDPNZVVLJSQJOHNFTI
     IUUQTHJUIVCDPNZVVLJHPJCWVEQJOHQPOH
     ෭੒Ռ෺ 3P$&ͷ6%
     QJOHQPOHπʔϧ
118. Grafanaダッシュボードの例 マトリクス表 示 118 &4/&5
     .BUSJY
     1BOFM
     1MVHJO ࣮૷্ͷ໰୊Ͱ·ͩ؂ࢹ Ͱ͖͍ͯͳ͍3/*$ͷ૊ Έ߹Θͤ͋Γ %TU
     3/*$T 4SD
     3/*$T
119. 5章 まとめ ݱঢ় ੍໿ Ϊϟοϓ 05FM (SBGBOBͰϝτϦΫεɾϩάɾϓϩϑΝΠϧج൫Λߏஙͨ͠ɻ Ϧιʔε෼ੳ͸͏·͍͍ͬͯ͘Δ͕ɺϫʔΫϩʔυ෼ੳ͕ະୡɻ ΞϓϦέʔγϣϯϩάίʔυͷܭ૷ɾऩूෆՄ ᶃ
     ֶशॲཧաఔͷ෼ࢄτϨʔε ᶄ
     ΞϓϦ͔Πϯϑϥ͔ͷ੾Γ෼͚ ᶅ
     ϚΠΫϩόʔετ؂ࢹ (16θϩίʔυܭ૷ʢF#1'Ͱ$6%"υϥΠό಺෦૚ͷΠϕϯτ૬ؔʣ ϝογϡঢ়ͷ3%."
     1JOHγεςϜͷ࣮૷ 119
120. 6. AIスパコンの障害管理に関する 研究動向 
121. 
     σʔλۦಈΞϓϩʔν 
     ߏ଄తΞϓϩʔν 
     ܭࢉϊʔυҎ֎΁ͷண໨ .JOEFS
     -
     F"$(. --.1SJTN
     "FHJT
     9165JNFS 4LFMFUPO)VOUFS
     1"$& طଘͷςϨϝτϦʔσʔλʹର ͠ʮڭࢣͳֶ͠शʯΛద༻͠ɺ ෳࡶͳҟৗΛࣗಈݕ஌͢Δɻ ෼ࢄֶशಛ༗ͷ௨৴ύλʔϯ
     ʢಉ ظɺू߹௨৴ʣͱ͍͏ʮυϝΠϯ஌ ࣝʯΛ׆༻
     ͠ɺ
     ϒϥοΫϘοΫε ͱͳΔڍಈΛղ໌͢Δɻ ܭࢉϊʔυҎ֎ͷΠϯϑϥʢίϯςφωοτϫʔΫɺϑΝγϦςΟʣͷෳࡶ ੑ΁য఺Λ౰ͯΔɻ ෼ੳख๏ ػցֶश׆༻ υϝΠϯ஌ࣝ׆༻ ϗετɾ ΞϓϦ
     ಺෦ ωοτ ϫʔΫɾ Πϯϑϥ ؍ଌ఺ 主要な研究トレンド
122. 切り 口 ① 観測点 ーどこからシステムを観測するか "
     ωοτϫʔΫத৺ #
     ࣮ߦτϨʔεɾ಺෦ঢ়ଶத৺ $
     ϊʔυத৺ %
     ͦͷଞʢϑΝγϦςΟɾ༧ଌʣ εΠον΍௨৴ϑϩʔʹண໨ɻ ιϑτ΢ΣΞελοΫ಺෦ͷڍಈ Λਂ͘௥੻ɻ --.1SJTN
     εΠονͷϛϥʔϦϯάσʔλ͔
     Β ϑϩʔΛ෼ੳ
     4LFMFUPO)VOUFS
     ίϯςφؒͷ ௨৴ύλʔϯΛਪ࿦͠ɺ1JOHͰো֐ಛఆ 9165*.&3
     Χʔωϧ಺ͷϨδελ஋ΛτϨʔε
     F"$(.
     F#1'ͰϑϧελοΫ৘ใΛऔಘ
     "FHJT
     ௨৴ϥΠϒϥϦͷ಺෦Χ΢ϯλʔΛར༻ 04΍(16͔Βग़ྗ͞Εͨ౷ܭ ৘ใ΍ϩάΛ෼ੳɻ .JOEFSʢ$16(16ར༻཰ͳͲͷ࣌ܥྻσʔ λΛ؂ࢹʣ-ʢ๲େͳςΩετϩάΛղੳʣ *5ػث֎෦΍ɺ࣮ଌҎ֎ͷσʔ λΛར༻ɻ 1"$&ʢྫྷ٫૷ஔ΍ిྗઃඋͳͲͷ ϑΝγϦςΟςϨϝτϦʔΛ෼ੳʣ
     ;IBOH
     FU
     BM
     ʢϚΠΫϩϕϯνϚʔ Ϋʹجͮ͘ੑೳ༧ଌʣ
123. 切り 口 ② 障害診断のアルゴリズム "
     ڭࢣͳֶ͠शɾ౷ܭϞσϧ #
     ϧʔϧϕʔεɾ࿦ཧਪ࿦ $
     ճؼ෼ੳɾ༧ଌ ਖ਼ৗύλʔϯͷֶश΍౷ܭతภࠩΛར༻ɻ .JOEFSʢ-45.7"&ͰϚγϯؒͷڍಈͷ ඇྨࣅ౓ΛଌఆʣɼF"$(.ʢࠞ߹Ψ΢ε ϞσϧͰੑೳ෼෍͔Βͷٯ୤Λݕ஌ʣɼ 1"$&ʢάϨϯδϟʔҼՌੑݕఆͰҼՌά ϥϑΛߏஙʣɼ-ʢ*TPMBUJPO'PSFTUͰϩά ύλʔϯͷҟৗΛݕग़ʣ υϝΠϯ஌ࣝʹجͮ͘ϩδοΫͰঢ়ଶΛ ಛఆɻ "FHJT
     ௨৴Χ΢ϯτͷෆ੔߹ΛϧʔϧͰൺ ֱʣ9165*.&3 ௨৴Χʔωϧͷϧʔϓεςο ϓ਺Λൺֱ
     --.1SJTN
     ௨৴ྔͱִ͔ؒΒฒ ྻԽઓུΛਪ࿦
     4LFMFUPO)VOUFSʢ௨৴όʔ ετͷपظੑ͔ΒεέϧτϯΛਪ࿦ʣ ਺ཧϞσϧʹΑΔੑೳ༧ଌɻ ;IBOHFUBMʢϥϯμϜϑΥϨετ౳Ͱԋࢉࢠͷ ࣮ߦ࣌ؒΛ༧ଌʣ
124. 切り 口 ③ 侵 入 性 ー システム介 入 の要求度合い ඇ৵ೖܕɾ
     ϒϥοΫϘοΫε θϩܭ૷ ϥΠϒϥϦஔ׵ɾ
     ΤʔδΣϯτܕ Ϣʔβʔίʔυ΍؀ڥ΁ͷม ߋ͕Ұ੾ෆཁɻ֎෦͔Β؍ଌ ՄೳͳσʔλͷΈΛ࢖༻ɻ --.1SJTN
     εΠονϛϥʔϦϯ άʣ.JOEFSʢطଘϝτϦΫ εʣɺ-ʢطଘϩάʣɺ1"$& ʢϑΝγϦςΟσʔλʣ ίʔυमਖ਼͸ෆཁ͕ͩɺ ࣮ߦϓϩηε΁ͷհೖ ʢΞλονʣΛߦ͏ɻ F"$(.
     F#1'ϑοΫʣ
     9165*.&3
     τϨʔγϯάσʔ ϞϯΛΞλον γεςϜίϯϙʔωϯτͷ Ұ෦Λஔ͖׵͑Δ͔ɺαΠ υΧʔΛ഑ஔ͢Δɻ "FHJT
     ΧελϜ௨৴ϥΠϒ ϥϦʹஔ׵ʣ
     4LFMFUPO)VOEFS αΠυ Χʔίϯςφͱͯ͠ΤʔδΣ ϯτΛ഑ஔʣ
125. 7. まとめ 
126. まとめ ᶃ
     ਂ૚ֶशͱܭࢉػΞʔΩςΫνϟ ᶄ
     ͘͞Β0/&ͷߏங ᶅ
     δϣϒ෼ੳͱϕϯνϚʔΩϯά ᶆ
     Մ؍ଌੑͷ޲্ͱ՝୊ (16͕උ͑Δଟ਺ͷίΞͱ)#.͕׆͖Δ େن໛Ϟσϧʹ͸෼ࢄֶशٕज़ʢ%1
     11
     51ʣ͕ඞਢ ߴ଎ΠϯλʔίωΫτ ʢ/7-JOL
     3%."ʣ 501
     ੈքҐɹҐҎ಺Ͱ͸Φʔϓϯٕज़ʢ40/*$
     04ʣΛ།Ұ࠾༻ )
     )
     #ΛͦΕͧΕ࠾༻ͨͭ͠ͷΫϥελ Ϧιʔε෼ੳ͸ཱ֬΋ɺϫʔΫϩʔυ෼ੳʹ͸ʮΪϟοϓʯ Ϧιʔεফඅ͸େن໛δϣϒ͕த৺͕ͩɺ։ൃ͕ਐΉͱখن໛Խ F#1'ʹΑΔθϩίʔυܭ૷΍3%."
     ϝογϡ؂ࢹͷݚڀ։ൃ͕ਐߦத ԋࢉޮ཰ʢ.'6ʣ͸
127. さくらインターネット 関連資料① IUUQTXXXKBOPHHSKQNFFUJOHKBOPHDBCMFEFTJHO
     127 IUUQTXXXKBOPHHSKQNFFUJOHKBOPHTBLVSB
     
128. さくらインターネット 関連資料② IUUQTTQFBLFSEFDLDPNNBSLVOFUBJJOIVSBXPLBPFSV
     IUUQTTQFBLFSEFDLDPNTPOJDTPOJDEFHPV[IVZVOZPOH TVSVTIFOHDIFOHBJYJBOHLFQBCVSJUVLVLVSBVEPOFUVUPXBLV
     
129. さくらインターネット 関連資料③ IUUQTLOPXMFEHFTBLVSBBEKQ
     IUUQTLOPXMFEHFTBLVSBBEKQ
     
130. （宣伝）さくらインターネットの 高 火 力 サービス IUUQTHQVTBLVSBBEKQHQVDMPVETFSWJDF
     130