Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
CyberAgent adtechstudioにおける ServiceMeshへのモチベーションと課題 / cloud native deep dive about istio at CyberAgent
Search
Masaya Aoyama (@amsy810)
August 06, 2018
Technology
0
310
CyberAgent adtechstudioにおける ServiceMeshへのモチベーションと課題 / cloud native deep dive about istio at CyberAgent
Cloud Native Deep Dive #2
CyberAgent adtechstudioにおける ServiceMeshへのモチベーションと課題
Masaya Aoyama (@amsy810)
August 06, 2018
Tweet
Share
More Decks by Masaya Aoyama (@amsy810)
See All by Masaya Aoyama (@amsy810)
KubeCon + CloudNativeCon EU 2024 Overview / k8sjp64-kubecon-overview
masayaaoyama
0
82
KubeCon + CloudNativeCon NA 2023 Sessions for Site Reliability Engineers / amsy810-srett08
masayaaoyama
2
470
KubeCon + CloudNativeCon NA 2023 Overview+Recap for Gateway API Cloud Native Community Japan Kickoff meetup / amsy810_cncj1
masayaaoyama
0
1.5k
Kubernetes as a Service の利用者を支える機能 - Platform Engineering Meetup #1 / pfem01-amsy810-k8s
masayaaoyama
1
1.9k
Kubernetes基盤を自律的に支えるController化の実装Tips / forkwell-202303-amsy810-k8s
masayaaoyama
7
3.5k
CyberAgentにおけるKubernetes as a Serviceの歩みと利用者を支える機能 / cainfra01-amsy810-kubernetes
masayaaoyama
2
1.5k
KubeClarityで始めるSBOM管理 @3-shake SRE Tech Talk / 3-shake-sre-teck-talk-202212
masayaaoyama
0
680
KubeCon + CNCon NA 2022 Overview & Towards Something Better Than CRDs In a Post-Operator World / k8sjp54-kubecon-recap
masayaaoyama
0
860
KubeCon + CloudNativeCon NA 2022帰国後即日 Recap LT TechFeed Experts Night #7 / techfeed-expert-night-7-amsy810
masayaaoyama
0
470
Other Decks in Technology
See All in Technology
「スニダン」開発組織の構造に込めた意図 ~組織作りはパッションや政治ではない!~
rinchsan
3
570
Gitlab本から学んだこと - そーだいなるプレイバック / gitlab-book
soudai
4
440
自己改善からチームを動かす! 「セルフエンジニアリングマネージャー」のすゝめ
shoota
6
780
Google Cloud Next '24 Recap(Cloud Run/k8s)
mokocm
0
240
複雑な構成要素を持つUIとの向き合い方 〜新・支出グラフでの実例〜 / B43 TECH TALK
nakamuuu
0
140
推しは推せるときに推せ! プロダクトにフィードバックしていこう
nakasho
0
320
元インフラエンジニアに成る / Human Resources to Human Relations
bobtani
4
930
Delivering Millions of Messages within seconds @ Duolingo
pelelgrino
0
350
ServiceNow Knowledge Learning Rise up
manarobot
0
210
ゼロから始めるVue.jsコミュニティ貢献 / first-vuejs-community-contribution-link-and-motivation
lmi
1
130
どうするコスト最適化のトレードオフ
tetsuyaooooo
1
530
よく聞くけど使ったことないソフトウェアNo.1 KafkaとSnowflake
foursue
4
360
Featured
See All Featured
A Philosophy of Restraint
colly
197
16k
In The Pink: A Labor of Love
frogandcode
138
21k
Done Done
chrislema
178
15k
A Modern Web Designer's Workflow
chriscoyier
689
190k
GitHub's CSS Performance
jonrohan
1025
450k
Optimizing for Happiness
mojombo
370
69k
Making Projects Easy
brettharned
108
5.5k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
20
1.9k
The Illustrated Children's Guide to Kubernetes
chrisshort
31
46k
Into the Great Unknown - MozCon
thekraken
10
990
What's in a price? How to price your products and services
michaelherold
237
11k
Adopting Sorbet at Scale
ufuk
68
8.6k
Transcript
Masaya Aoyama CyberAgent adtech studio CyberAgent adtechstudioʹ͓͚Δ ServiceMeshͷϞνϕʔγϣϯͱ՝ @Cloud Native
Deep Dive #2 MasayaAoyama @amsy810
連載「今こそ始めよう!Kubernetes 入門」 @ThinkIT Japan Container Days v18.04 Keynote 登壇 Cloud Native
Meetup Tokyo Organizer (+ KubeCon日本人会 + JKD) CKA #138、CKAD #2 OpenStack / Kubernetes Contributor Masaya Aoyama (@amsy810) Infrastructure Engineer
2018年9⽉21⽇発売予定 https://bit.ly/k8s-amsy810 Kubernetesの各リソースについて体系的かつ網羅的に説明 Cloud Nativeな開発を促進させる周辺エコシステムについても紹介 ▪⽬次案 第1章 なぜKubernetesが必要なのか? 第2章 Kubernetes環境の選択肢
第3章 APIリソースとkubectl 第4章 Workloadsリソース 第5章 Discovery & LBリソース 第6章 Config & Storageリソース 第7章 ClusterリソースとMetadataリソース 第8章 リソース管理とオートスケーリング 第9章 ヘルスチェックとコンテナのライフサイクル 第10章 メンテナンスとノードの停⽌ 第11章 ⾼度で柔軟なスケジューリング 第12章 セキュリティ 第13章 マニフェストの汎⽤化を⾏うオープンソースソフトウェア 第14章 モニタリング 第15章 コンテナログの集約 第16章 CI/CD環境 第17章 マイクロサービスとServiceMesh 第18章 Kubernetesのアーキテクチャ 第19章 Kubernetesとこれから 付録
導入に向けたモチベーション 1.レイテンシのモニタリング 2.ロジックの Canary Release Circuit Brakeとかももちろんしたい
端末でWebページを開いたとき DSP Demand Side Platform SSP Supply Side Platform Yahooで検索をしようと
Yahooのページを開く 広告枠を埋めるよう SSPにリクエスト
SSPからDSPsに対してオークションを実施 DSP Demand Side Platform SSP Supply Side Platform この端末で
この広告枠買う?
ad-technology system DSP Demand Side Platform SSP Supply Side Platform
この端末で この広告枠買う? 男性でYahooをよく利用する人 Yahooだからアダルト広告はだめだな…健全なのがいい すごいコーラ好きな人みたい 広告主にサントミーがいるから100円で入札して 新商品のウルトラコーラを宣伝しよう…
ad-technology system DSP Demand Side Platform SSP Supply Side Platform
この端末で この広告枠買う? 100円で買う
ad-technology system DSP Demand Side Platform SSP Supply Side Platform
この端末で この広告枠買う? いつまでも全DSPを待っているとユーザビリティが低下する = オークションは 100ms で締め切り うーん・・・・ まだ?
ad-technology system DSP Demand Side Platform SSP Supply Side Platform
この端末で この広告枠買う? マイクロサービスアーキテクチャでは どのコンポーネントがボトルネックになっているか判別しづらい 広告主に関するサービス 予算に関するサービス SSPに関するサービス 広告枠に関するサービス 入札ロジックに関するサービス ユーザに関するサービス ※ イメージ
導入に向けたモチベーション 1.レイテンシのモニタリング 100msを超えたリクエストは棄却される = 売上0(サーバ代はかさむ) マイクロサービスアーキテクチャ内のボトルネック把握 2.ロジックの Canary Release 売上に大きく影響するロジック
= 売上マイナス数百万 徐々にロジックを導入できるように 可能ならPod数はそこまで増やしたくない(≠ BlueGreen Deploy)
ロジック変更前 DSP Demand Side Platform SSP Supply Side Platform この端末で
この広告枠買う? 男性でYahooをよく利用する人 Yahooだからアダルト広告はだめだな…健全なのがいい すごいコーラ好きな人みたい 広告主にサントミーがいるから100円で入札して 新商品のウルトラコーラを宣伝しよう…
ロジック変更後 DSP Demand Side Platform SSP Supply Side Platform この端末で
この広告枠買う? 男性! 男性はみんな筋トレ好きだからダンベル100%買う! 広告主にマッスル株式会社がいるから 10000円で入札してダンベルを宣伝しよう…
Canaryリリースの必要性 DSP Demand Side Platform SSP Supply Side Platform この端末で
この広告枠買う? 男性! 男性はみんな筋トレ好きだからダンベル100%買う! 広告主にマッスル株式会社がいるから 10000円で入札してダンベルを宣伝しよう… DSPは多売薄利 ロジックやシステムに問題があるとインパクトが大きい Canaryリリースが必要
導入に向けたモチベーション 1.レイテンシのモニタリング 100msを超えたリクエストは棄却される = 売上0(サーバ代はかさむ) マイクロサービスアーキテクチャ内のボトルネック把握 2.ロジックの Canary Release 売上に大きく影響するロジック
= 売上マイナス数百万 徐々にロジックを導入できるように 可能ならPod数はそこまで増やしたくない(≠ BlueGreen Deploy)
導入に向けた課題 1.マイクロサービス間のレイテンシをモニタリングするためにレイテンシが増える そもそもEnvoyプロキシが挟まるのでしょうがない StgなどではConduitでモニタリングのみ行い傾向調査? Istio Performance and Scalability WG が対応中
Throughput が + 142 %、Latency (p50) が - 59 % 2.CI/CDのつくりこみ Deploymentを複数作って Traffic Shiftingする場合 VirtualServiceとDestinationRuleの管理…Deployment削除…
Pilot Mixer Istio-Auth Envoy App a Envoy App b Envoy
App c Deployment a Deployment b Deployment c Data Plane Control Plane Istioの場合
導入に向けた課題 1.マイクロサービス間のレイテンシをモニタリングするためにレイテンシが増える そもそもEnvoyプロキシが挟まるのでしょうがない StgなどではConduitでモニタリングのみ行い傾向調査? Istio Performance and Scalability WG が対応中
Throughput が + 142 %、Latency (p50) が - 59 % 2.CI/CDのつくりこみ Deploymentを複数作って Traffic Shiftingする場合 VirtualServiceとDestinationRuleの管理…Deployment削除…
CI/CDの作り込み 新しいDeploymentを作成(replica=x) DestinationRuleを更新する(subsetを登録) Virtual ServiceでTraffic Shifting(Replica数も可能なら制御) Trafficの割合を徐々に制御 古いDeploymentを削除(or replica=0にする) ロールバック時の挙動どうする?
弊社はGitOps風、Spinnakerや別のツールを使っている場合は?