Kubernetes・GCPを使った チャットボットサービスの 機械学習部分の話

Transcript

1. KubernetesɾGCPΛ࢖ͬͨ νϟοτϘοταʔϏεͷ ػցֶश෦෼ͷ࿩ kubernetesษڧձ @t10471

2. ౰νϟοτϘοταʔϏεͱ͸ʁ ࡾਓ฻Β͠ʹ͓͢͢Ίͷిؾϓϥϯ͸ʁ XXXిؾͷYYYϓϥϯ͕͓͢͢ΊͰ͢ɻ ճ౴ʹຬ଍ͨ͠৔߹͸͜ΕͰऴྃ ຬ଍͠ͳ͍৔߹ɺΦϖϨʔλʔʹ੾Γସ͑Δ ΦϖϨʔλʔ͸Ϙοτͱͷ΍ΓऔΓΛҾ͖ܧ͛Δ ΦϖϨʔλʔͷZZZʹ੾ΓସΘΓ·ͨ͠… ΦϖϨʔλʔʹ੾Γସ͑Δ(Ϙλϯ) ೲಘ͠·ͨ͠ʂ ϘοτͱਓͷϋΠϒϦου

3. ࢓૊Έ(ͬ͘͟Γ) • σʔλαΠΤϯςΟετ͕ػցֶशϞσϧΛ࡞੒ͦ͠ΕΛೖΕͨpod ΛσϓϩΠ • FAQઃܭऀ͸૝ఆ࣭໰ͱճ౴ͳͲΛCSVͰΞοϓϩʔυ • CSVΛύʔεͯ͠૝ఆ࣭໰Λ෼ࢄදݱʹม׵ͨ͠σʔλΛ࡞੒ • ࡞੒ͨ͠σʔλΛpodʹ഑෍

   • ࣭໰ऀͷ࣭໰Λ෼ࢄදݱʹม׵ͨ͠΋ͷͱɺ૝ఆ࣭໰ͷશσʔλΛ ػցֶशΛ࢖ͬͯۙ͞ܭࢉ͠ɺείΞ͕ߴ͍΋ͷΛฦ͢

4. ໰୊఺ɾରࡦ • CSVͷม׵ॲཧʹ͕͔͔࣌ؒΔ • k8sͷJobΛ࢖༻ • ϘοτAPI͸PythonͰग़དྷ͍ͯͯɺຖճɺશσʔλ͕ඞཁ • ΦϯϝϞϦͰσʔλΛอଘ͢Δ͜ͱͰߴ଎Խ •

   ม׵σʔλΛ഑෍͢Δઌͷαʔό͕Կ୆͋Δ͔ෆ໌ • Cloud PubSubΛ࢖༻ͯ͠ߋ৽Λ௨஌

5. ࢓૊Έ(k8sͷNode) • ϑϩϯτϊʔυNode • νϟοτը໘ Pod (JavaScript) • ؅ཧը໘ Pod

   (TypeScript) • αʔόNode • όοΫΤϯυAPI Pod (Scala) • Job؂ࢹ API Pod (Go) • ػցֶशNode • ػցֶशAPI Pod (Python) • Job༻Node • CSVม׵ Job (Python) • CSVม׵ Job ؂ࢹ Job (Go)

6. ࢓૊Έ(NodeҎ֎) • GCS • ม׵σʔλΛอଘ • Cloud SQL • JobͷεςʔλεΛอଘ

   • Cloud Datastore • ม׵σʔλͷϝλ৘ใΛอଘ • Cloud PubSub • ม׵σʔλͷߋ৽Λ఻͑Δ

7. ࢓૊Έ(APIɾJob) • CSVΞοϓAPI (Scala) • CSVม׵ॲཧAPI (Python) • CSVߋ৽API (Python)

   • CSVม׵ॲཧJobىಈAPI(Go) • Ϙοτ API (Python) • σʔλϦϩʔυAPI (Python) • CSVม׵ॲཧJob (Python) • CSVม׵ॲཧJobΛ؂ࢹ͢ΔJob(Go)

8. ࢓૊Έ(ৄࡉ1) • ؅ཧը໘͕CSVΞοϓAPI(Scala)Λͨͨ͘ • CSVΞοϓAPI͕CSVม׵ॲཧAPI(Python)Λͨͨ͘ • CSVม׵ॲཧAPI͸CSVͷόϦσʔγϣϯΛߦ͍ɺOKͳΒCSVม׵ॲཧ Job(k8sͷJob)Λىಈ͢Δ • CSVΞοϓAPI͸CSVม׵ॲཧAPI͕OKͩͬͨΒɺม׵ॲཧ؂ࢹAPI(Go)Λ

   ͨͨ͘(Ҿ਺ʹJobͷid౳Λઃఆ) • ม׵ॲཧ؂ࢹAPI͸CSVม׵ॲཧJobΛ؂ࢹ͢ΔJobΛىಈ͢Δ • CSVม׵ॲཧJobΛ؂ࢹ͢ΔJob͸Jobͷεςʔλε(Job࡞੒தɾॲཧத)Λ ؅ཧը໘ʹ෼͔ΔΑ͏ʹߋ৽͢Δ

9. ࢓૊Έ(ৄࡉ2) • CSVม׵ॲཧJob͸ม׵ॲཧ͕ऴΘͬͨΒɺGCSʹσʔλΛΞοϓ ͠ɺPubSubͰσʔλ͕ߋ৽͞Εͨ͜ͱΛPublish͠ɺऴྃ͢Δ • Ϙοτ API Pod(Python)͸ىಈ࣌ʹSubscribeͷϧʔϓΛߦ͏ϓϩη εΛϑΥʔΫ͍ͯͯ͠͠ΔͷͰɺϝοηʔδΛड͚औͬͨΒɺGCS ͔ΒσʔλΛऔಘ͢Δ

   • CSVม׵ॲཧJobΛ؂ࢹ͢ΔJob͸CSVม׵ॲཧJob͕ऴΘͬͨͷΛ ֬ೝͨ͠Βɺclient-goΛ࢖֤ͬͯPodͷσʔλϦϩʔυAPIΛͨͨ ͖ɺશPod͕ϦϩʔυΛऴ͑ͨΒɺεςʔλεΛ׬ྃʹมߋ͠ऴྃ ͢Δ

10. ਏ͔ͬͨ఺ • Pythonਏ͍… • Bot API͸ϦΫΤετຖʹશσʔλ(1ςφϯτ100MҐ)͕ඞཁͳͷ ͰɺͦΕΛຖճऔಘ͢Δͷ͸ແཧ͖͍ͭͷͰΦϯϝϞϦʹอଘ͠ ͨ • ΦϯϝϞϦʹอଘͨ͠Βɺ૖େͳ࢓૊Έʹͳͬͨ…

    • PythonͩͱϚϧνεϨου͸GIL͕ൃੜ͢ΔͷͰɺϚϧνϓϩηε ʹͨ͠ • αϒϓϩηεͷSignalͷϋϯυϦϯά͕໘౗…

11. ྑ͔ͬͨ఺ • Kubernetes͸ศར! • εέʔϦϯά͕؆୯ɺGood! • GCP΋ͦͦ͜͜ศར! • AWSΑΓػೳ͸ྼΔ͚ͲɺେମΑ͍LBͱGKE͕Good! •

    client-go͕௒ศར! • ྺ࢙తʹGo෦෼͸࠷ޙʹ։ൃ • PythonͰk8sͷAPIΛ͍ͨͨͯJobΛ࡞੒͢Δͷ͸ϋοΫతͳײͩͬͨ͡ͷ ͕ɺclient-goΛ࢖͏ͱશ෦ϥοϓ͞Εָ͍ͯͯ • Job༻yaml૬౰ΛgoͰهड़ग़དྷΔͷͰίϯύΠϧνΣοΫ͕ग़དྷΔ

12. ͋Γ͕ͱ͏͍͟͝ ·ͨ͠