Frugalos で使われている Erasure Coding と Raft の軽い紹介

ドワンゴ開発した分散オブジェクトストレージFrugalosで使われているErasure CodingとRaftという技術について簡単に紹介する。

注意）紹介を単純にするため、一部説明を省略している部分があります。

Transcript

1. 'SVHBMPTͰ࢖ΘΕ͍ͯΔ
   &SBTVSF
   $PEJOHͱ
   3BGUͷ͍ܰ঺հ LPTFOT
   -5
   
 !ZTBLBTJO
2. LPTFOT
   TMBDL
   UFDI
   ʹͯ
3. wυϫϯΰ੍͕࡞
   044
   w#-0#༻ͷ෼ࢄΦϒδΣΫτετϨʔδ
   wχίੜͷόοΫΤϯυͰՔಇத
   w3VTUͰॻ͔Ε͍ͯΔ
   w IUUQTEXBOHPHJUIVCJPBSUJDMFTGSVHBMPT
4. ෼ࢄΦϒδΣΫτετϨʔδ wෳ਺αʔόʔʹ·͕ͨͬͯϑΝΠϧΛอ؅͢Δ
   w4
   Կ͍ͨ͠ͷʁ
   wσʔλΛࣦ͍ͨ͘ͳ͍ʢσΟεΫ͸յΕΔʣ
   wେྔʹσʔλΛอଘ͍ͨ͠
   جຊͱͳΔૢ࡞
   w(&5
   165
   %&-&5&
5. 'SVHBMPTͷٕज़తಛ௃ w&SBTVSF
   $PSEJOH
   wσʔλফࣦ΁ͷର߅ࡦ
   w3BGU
   w෼ࢄ߹ҙΞϧΰϦζϜ
6. &SBTVSF
   $PEJOH ύϦςΟ σʔλϒϩοΫ ෼ׂ ܭࢉ ϦʔυɾιϩϞϯූ߸ͷ৔߹
   w σʔλϒϩοΫ
   Oݸͱ
 ύϦςΟ
   Lݸʹ෼ׂͯ͠อଘ
   w Oݸ࢒͍ͬͯΕ͹෮ݩՄೳ :BIPP
   +BQBO
   5FDI
   #MPH
   ΑΓ
 ը૾ΛҾ༻ɺৄࡉ͸௥هʹهࡌ
7. &SBTVSF
   $PEJOH
   ಡΈࠐΈ ܭࢉ ඞཁͳ਺͚ͩऩू ݩͷσʔλϒϩοΫ਺
8. &SBTVSF
   $PEJOH
   ಡΈࠐΈ ܭࢉ ඞཁͳ਺͚ͩऩू ݩͷσʔλϒϩοΫ਺
9. $"1ఆཧ ෼ࢄσʔλετΞ͸ɺ
 ಉ࣌ʹԼهͷͭΛอূ͢Δ͜ͱ͸Ͱ͖ͳ͍
   wҰ؏ੑ
   $POTJTUFODZ
   w ࠷৽ͷ஋͕ಡΊΔ͔ΤϥʔͷͲͪΒ͔ʹͳΔ
   wՄ༻ੑ
   "WBJMBCJMJUZ
   w Քಇதͷϊʔυ͸શͯͷϦΫΤετʹ
 ΤϥʔͰͳ͍ϨεϙϯεΛฦ͢
   w෼அମ੍
   1BSUJUJPOUPMFSBODF
   w ωοτϫʔΫ෼அ͕ىͬͯ͜΋γεςϜ͕ಈ࡞͠ଓ͚Δ
10. ωοτϫʔΫ෼அൃੜ࣌ 9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
    
11. ΫϥΠΞϯτ͕165 9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     165 9
    
12. 9
    
    ͕఻ΘΔ 165 9
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     ఻ΘΒͳ͍
13. ͜ͷ࣌(&5ͨ͠Βʁ 9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     (&5 9 165 9
    
14. γεςϜઃܭͷબ୒ 9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     9
    
     (&5 9  9
    
    
    w ࣗ෼ͷ஌͍ͬͯΔ஋Λฦ͢
    w Մ༻ੑΛબ୒
     Τϥʔ
    w ෼அΛݕ஌ͯ͠Τϥʔͱ͢Δ
    w Ұ؏ੑΛબ୒
15. 3BGU w෼ࢄ؀ڥͰ߹ҙΛಘΔΞϧΰϦζϜ
    wఏҊϦΫΤετʹରͯ͠౷ҰݟղΛ࡞Δ
    wFUDEͰ࢖ΘΕͯΔ
    w1BYPTͷπϥΈ͔Βੜ·Εͨ
 γϯϓϧͳΞϧΰϦζϜ
    w౤ථͰϦʔμʔΛܾΊɺϦʔμʔ͕ଞϊʔυʹ
 ৘ใΛෳ੡͢Δ͜ͱͰ߹ҙܗ੒Λߦ͏ɻ
16. 1BYPTখൌ ϨεϦʔɾϥϯϙʔτ
    1BYPT։ൃऀ
    -B5F9ݪ։ൃऀ
    Ϗβϯνϯক܉໰୊ఏএऀ
    ೥
    νϡʔϦϯά৆ड৆ IUUQTDPNNPOTXJLJNFEJBPSHXJLJ 'JMF-FTMJF@-BNQPSUKQH
17. 1BYPTখൌ &DIPͱ͍͏ׂͱ৴པੑͷߴ͍
    ෼ࢄϑΝΠϧγεςϜ͕͋ͬͨ ͍΍͍΍෼ࢄͰ
 ߹ҙͱ͔ແཧͰ͠ΐ
 
 ແཧͳͷূ໌ͨ͠Ζ ߹ҙΞϧΰϦζϜ
 ͕Ͱ͖ͯ͠·ͬͨʜ IUUQTDPNNPOTXJLJNFEJBPSHXJLJ 'JMF-FTMJF@-BNQPSUKQH ग़య͸௥هʹهࡌ
18. 3BGUΫϥελ Ϧʔμʔ w ΫϥελՔಇ࣌ʹ୆਺Λݻఆ
    w ա൒਺ͷαʔόʔ͕͍Ε͹
 ՔಇΛଓ͚ΒΕΔ
    w ΫϥΠΞϯτ͸Ϧʔμʔʹ
 ରͯ͠ϦΫΤετΛ౤͛Δ
    w Ϧʔμʔ͕μ΢ϯͯ͠΋
 ৽͍͠Ϧʔμʔ͕બग़͞ΕΔ ϑΥϩϫʔ ϑΥϩϫʔ ϑΥϩϫʔ ϑΥϩϫʔ
19. 3BGUͷ߹ҙ Ϧʔμʔ 165 9
      ϦʔμʔʹϦΫΤετૹ৴
20. 3BGUͷ߹ҙ Ϧʔμʔ  ϦʔμʔʹϦΫΤετૹ৴
     ϦΫΤετΛશମʹૹ৴
21. 3BGUͷ߹ҙ Ϧʔμʔ 0, 0, 0,  ϦʔμʔʹϦΫΤετૹ৴
     ϦΫΤετΛશମʹૹ৴
     ա൒਺͔ΒͷঝೝͰ׬ྃ
22. 3BGUͷ߹ҙ Ϧʔμʔ 0,  ϦʔμʔʹϦΫΤετૹ৴
     ϦΫΤετΛશମʹૹ৴
     ա൒਺͔ΒͷঝೝͰ׬ྃ 0, 0,
23. Ϧʔμʔ͕μ΢ϯͨ͠Β Ϧʔμʔ  ϋʔτϏʔτ͕Ұఆ࣌ؒ
 ૹΒΕͯདྷͳ͔ͬͨΒ
 ৽ͨͳϦʔμʔʹཱީิ
     ཱީิͨ͜͠ͱΛશһʹ௨஌
     ࠷ॳʹཱ͖ͨީิऀʹ౤ථ
     ա൒਺ͷ౤ථͰϦʔμʔܾఆ Ϧʔμʔ͸ఆظతʹ
 ϋʔτϏʔτΛશһʹૹΔ
24. Ϧʔμʔ͕μ΢ϯͨ͠Β Ϧʔμʔ Ϧʔμʔ͕μ΢ϯͨ͠Β
 ϋʔτϏʔτ͕ૹΒΕͳ͘ͳΔ ΩϟϯσΟσʔτ  ϋʔτϏʔτ͕Ұఆ࣌ؒ
 ૹΒΕͯདྷͳ͔ͬͨΒ
 ৽ͨͳϦʔμʔʹཱީิ
     ཱީิͨ͜͠ͱΛશһʹ௨஌
     ࠷ॳʹཱ͖ͨީิऀʹ౤ථ
     ա൒਺ͷ౤ථͰϦʔμʔܾఆ
25. Ϧʔμʔ͕μ΢ϯͨ͠Β Ϧʔμʔ Ϧʔμʔ͕μ΢ϯͨ͠Β
 ϋʔτϏʔτ͕ૹΒΕͳ͘ͳΔ ΩϟϯσΟσʔτ  ϋʔτϏʔτ͕Ұఆ࣌ؒ
 ૹΒΕͯདྷͳ͔ͬͨΒ
 ৽ͨͳϦʔμʔʹཱީิ
     ཱީิͨ͜͠ͱΛશһʹ௨஌
     ࠷ॳʹཱ͖ͨީิऀʹ౤ථ
     ա൒਺ͷ౤ථͰϦʔμʔܾఆ
26. Ϧʔμʔ͕μ΢ϯͨ͠Β Ϧʔμʔ Ϧʔμʔ͕μ΢ϯͨ͠Β
 ϋʔτϏʔτ͕ૹΒΕͳ͘ͳΔ ΩϟϯσΟσʔτ ౤ථ ౤ථ  ϋʔτϏʔτ͕Ұఆ࣌ؒ
 ૹΒΕͯདྷͳ͔ͬͨΒ
 ৽ͨͳϦʔμʔʹཱީิ
     ཱީิͨ͜͠ͱΛશһʹ௨஌
     ࠷ॳʹཱ͖ͨީิऀʹ౤ථ
     ա൒਺ͷ౤ථͰϦʔμʔܾఆ
27. Ϧʔμʔ͕μ΢ϯͨ͠Β Ϧʔμʔ͕μ΢ϯͨ͠Β
 ϋʔτϏʔτ͕ૹΒΕͳ͘ͳΔ ౤ථ ౤ථ  ϋʔτϏʔτ͕Ұఆ࣌ؒ
 ૹΒΕͯདྷͳ͔ͬͨΒ
 ৽ͨͳϦʔμʔʹཱީิ
     ཱީิͨ͜͠ͱΛશһʹ௨஌
     ࠷ॳʹཱ͖ͨީิऀʹ౤ථ
     ա൒਺ͷ౤ථͰϦʔμʔܾఆ Ϧʔμʔ
28. ϊʔυͷ࠶ࢀՃ Ϧʔμʔ  ϋʔτϏʔτͰ
 ϦʔμʔΛೝࣝ
     ඇࢀՃظؒͷ
 σʔλΛϦΫΤετ
29. ϊʔυͷ࠶ࢀՃ  ϋʔτϏʔτͰ
 ϦʔμʔΛೝࣝ
     ඇࢀՃظؒͷ
 σʔλΛϦΫΤετ Ϧʔμʔ
30. 'SVHBMPTͷϞσϧ #VDLFU
31. 'SVHBMPTͷϞσϧ #VDLFU 4FHNFOU 0CKFDU
32. 'SVHBMPTͷϞσϧ 4FHNFOU 3BGU
 ϊʔυ 3BGU
 ϊʔυ 3BGU
 ϊʔυ 3BGU
 ϊʔυ 3BGU
 ϊʔυ 3BGUͰϝλσʔλ౳Λ߹ҙͯ͠
 #-0#͸&SBTVSF
    $PEJOHͰ෼ׂ
33. 'SVHBMPTͷϞσϧ 4FHNFOU 3BGU
 ϊʔυ 3BGU
 ϊʔυ 3BGU
 ϊʔυ 3BGU
 ϊʔυ 3BGU
 ϊʔυ 3BGUͰϝλσʔλ౳Λ߹ҙͯ͠
 #-0#͸&SBTVSF
    $PEJOHͰ෼ׂ
34. ·ͱΊ w&SBTVSF
    $PEJOH
    wෳ੡͠ͳͯ͘΋σʔλ෮ؼͰ͖Δ͍͢͝΍ͭ
    w3BGU
    w෼ࢄ߹ҙͰ͖Δ͍͢͝΍ͭ
    w1BYPY͸ࣄނ͔Βੜ·Εͨ
    w$"1ఆཧ
    wҰ؏ੑͱՄ༻ੑͱ෼அ଱ੑ͸ಉ࣌ʹຬͨͤ·ͤΜ
    w͜͜ΒลΛ࣮૷࣮ͯ͠༻ͯ͠Δͷ͍͢͝ʂʂʂ
35. ௥ه 1BYPTখൌͷग़య
    w 0SBM
    )JTUPSZ
    PG
    -FTMJF
    -BNQPSU
    $PNQVUFS
    )JTUPSZ
    .VTFVN
    w IUUQBSDIJWFDPNQVUFSIJTUPSZPSHSFTPVSDFT BDDFTTUFYUBDDQEG
    w Q
    ը૾Ҿ༻
    w )%'4
    &SBTVSF
    $PEJOHͷ঺հͱ:BIPP
    +"1"/ʹ͓͚Δӡ ༻ࣄྫ
    w IUUQTUFDICMPHZBIPPDPKQJOGSBTUSVDUVSF IEGT@FSBTVSF@DPEJOH