What is service mesh?

What is service mesh? @threetreeslight on shinjuku mokumoku programming #15
1 / 24

Who VP of Engineering at Event Organizer おじさん Repro 2
/ 24

ネットワーク上の異なるコンピュータ上にコンポーネントが配置されているシステム e.g. cloud 系のmanaged service を使ったsystem Distributed System? 3
/ 24

牧歌的な分散システムシンプルなサービスであればこんなイメージで⾏けるが、考えるべきことは多い 4 / 24

1. ネットワークは落ちない 2. 遅延はゼロ 3. 無限の帯域 4. セキュア 5. 変更されないトポロジ
6. ⼀⼈の管理者 7. 転送コストはゼロ 8. 均⼀なネットワーク Fallacies of distributed computing 5 / 24

誤った考えには対策しなきゃいかん 6 / 24

さらに求められること Rapid provisioning of compute resources Basic monitoring Rapid deployment
Easy to provision storage Easy access to the edge Authentication/Authorisation Standardised RPC etc... 7 / 24

これはやばい 8 / 24

対策としての 1. service discovery 2. circuit breakers 9 / 24

Service Discovery 10 / 24

What's Service Discovery 特定の要求を満たすサービスのインスタンスやコンテナを⾃動的に⾒つけるプロセスのこと 11 / 24

Typically Service Discovery 以下のhealth check によって実現される事が多い 1. DNS 2. load
balancer 12 / 24

more complex requirement 1. client の負荷分散 2. staging, production などの異なる環境
3. 別リージョン、クラウドに散らばるとなると典型的な⽅法では苦しい、、、 13 / 24

circuit brakers 14 / 24

concern of remote request Remote Request は、timeout になるまでhang するその状態で多数のrequest
がくるとresource を⾷いつぶして死ぬかもしれない ref Martin Fowler - CircuitBreaker 15 / 24

何度も同じことをするすべてのサービスにおいて同じようなコードを同じように書きまくる必要がある 16 / 24

こんな感じ開発者はこれを意識しなければいけない 17 / 24

上記を踏まえた昨今 18 / 24

サービス規模・⼈員規模がそれなりになってくると出てくることマイクロサービスいっぱい AWS, GCP の楽しいマルチクラウドいわゆる distributed microservice architecture
19 / 24

開発者もDevOps も死ぬ可搬性・スケーラビリティを考えたマイクロサービス設計必要とされている知識は利⽤するクラウドとサービス数だけある監視のための各種サービスのlog, metrics の収集、そのフォーマットの共通化
サービス間の認証・認可によるアクセス制御 20 / 24

特に認証認可は、、、上記の問題を解決するために⾔語向けSDK を提供していた。がサービスごとにリリースサイクルは異なる SDK 提供する⾔語でしか効果がない結果、SDK が揃わない。開発者はこれを意識しなければいけない
21 / 24

しょうがないから、、、 service と分離し、sidecar でいく 22 / 24

そこでIstio 1. 勝⼿にサイドカー⽴てる 2. 上記の問題を解決するための設定を外部から注⼊ provides a uniform way to
secure, connect, and monitor microservices. 23 / 24

ref SOTA - Service mesh とは何か Phil Calçado - Pattern:
Service Mesh The mechanics of deploying Envoy at Lyft Orilly - seeking SRE Introducing Istio Service Mesh for Microservices Martin Fowler - CircuitBreaker 24 / 24

What is service mesh?

What is service mesh?

threetreeslight

More Decks by threetreeslight

Featured

Transcript