Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
CyberAgent adtechstudioにおける ServiceMeshへのモチベーションと課題 / cloud native deep dive about istio at CyberAgent
Search
Masaya Aoyama (@amsy810)
August 06, 2018
Technology
0
330
CyberAgent adtechstudioにおける ServiceMeshへのモチベーションと課題 / cloud native deep dive about istio at CyberAgent
Cloud Native Deep Dive #2
CyberAgent adtechstudioにおける ServiceMeshへのモチベーションと課題
Masaya Aoyama (@amsy810)
August 06, 2018
Tweet
Share
More Decks by Masaya Aoyama (@amsy810)
See All by Masaya Aoyama (@amsy810)
Cloud Nativeを支える要素技術・プロダクト・プラクティスの歩み / infrastudy-returns-01-amsy810
masayaaoyama
4
470
KubeCon + CloudNativeCon EU 2024 Overview / k8sjp64-kubecon-overview
masayaaoyama
0
130
KubeCon + CloudNativeCon NA 2023 Sessions for Site Reliability Engineers / amsy810-srett08
masayaaoyama
2
550
KubeCon + CloudNativeCon NA 2023 Overview+Recap for Gateway API Cloud Native Community Japan Kickoff meetup / amsy810_cncj1
masayaaoyama
0
1.6k
Kubernetes as a Service の利用者を支える機能 - Platform Engineering Meetup #1 / pfem01-amsy810-k8s
masayaaoyama
1
2.1k
Kubernetes基盤を自律的に支えるController化の実装Tips / forkwell-202303-amsy810-k8s
masayaaoyama
7
3.6k
CyberAgentにおけるKubernetes as a Serviceの歩みと利用者を支える機能 / cainfra01-amsy810-kubernetes
masayaaoyama
2
1.7k
KubeClarityで始めるSBOM管理 @3-shake SRE Tech Talk / 3-shake-sre-teck-talk-202212
masayaaoyama
0
760
KubeCon + CNCon NA 2022 Overview & Towards Something Better Than CRDs In a Post-Operator World / k8sjp54-kubecon-recap
masayaaoyama
0
880
Other Decks in Technology
See All in Technology
サービスの持続的な成長と技術負債について
siva_official
PRO
10
4.4k
What if...? 처음부터 다시 LLM 어플리케이션을 개발한다면
huffon
0
1k
成長期に歩みを止めないための創業期の開発文化形成
mayah
6
420
エンジニアの生存戦略 〜クラウド潮流の経験から紐解く技術トレンドのメカニズムと乗りこなし方〜
shimy
9
1.9k
E2Eテスト自動化プラットフォームにおけるAIの活用
shift_evolve
0
190
地理情報とAPIのトレンド
nagix
0
160
コンテナ・K8s研修 - 前半 コンテナ基礎・ハンズオン【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
170
AutomatedLabを使って内部ペンテストを勉強しよう! -やられ社内ネットワークの自動構築-
n_etupirka
1
610
MySQLのロックの種類とその競合
yoku0825
6
1.6k
[2024最新版]AWS Control Towerを使ったセキュアなマルチアカウント環境の作り方
hiashisan
0
270
データ分析を支える技術 生成AI再入門
ishikawa_satoru
0
380
ゆめみのアクセシビリティの現在地と今後
ryokatsuse
3
290
Featured
See All Featured
RailsConf 2023
tenderlove
16
720
GraphQLの誤解/rethinking-graphql
sonatard
59
9.6k
GraphQLとの向き合い方2022年版
quramy
36
13k
GitHub's CSS Performance
jonrohan
1026
450k
Why Our Code Smells
bkeepers
PRO
332
56k
Gamification - CAS2011
davidbonilla
78
4.9k
The Invisible Side of Design
smashingmag
294
50k
Reflections from 52 weeks, 52 projects
jeffersonlam
346
19k
In The Pink: A Labor of Love
frogandcode
139
22k
Rebuilding a faster, lazier Slack
samanthasiow
78
8.5k
Designing for Performance
lara
604
67k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
248
20k
Transcript
Masaya Aoyama CyberAgent adtech studio CyberAgent adtechstudioʹ͓͚Δ ServiceMeshͷϞνϕʔγϣϯͱ՝ @Cloud Native
Deep Dive #2 MasayaAoyama @amsy810
連載「今こそ始めよう!Kubernetes 入門」 @ThinkIT Japan Container Days v18.04 Keynote 登壇 Cloud Native
Meetup Tokyo Organizer (+ KubeCon日本人会 + JKD) CKA #138、CKAD #2 OpenStack / Kubernetes Contributor Masaya Aoyama (@amsy810) Infrastructure Engineer
2018年9⽉21⽇発売予定 https://bit.ly/k8s-amsy810 Kubernetesの各リソースについて体系的かつ網羅的に説明 Cloud Nativeな開発を促進させる周辺エコシステムについても紹介 ▪⽬次案 第1章 なぜKubernetesが必要なのか? 第2章 Kubernetes環境の選択肢
第3章 APIリソースとkubectl 第4章 Workloadsリソース 第5章 Discovery & LBリソース 第6章 Config & Storageリソース 第7章 ClusterリソースとMetadataリソース 第8章 リソース管理とオートスケーリング 第9章 ヘルスチェックとコンテナのライフサイクル 第10章 メンテナンスとノードの停⽌ 第11章 ⾼度で柔軟なスケジューリング 第12章 セキュリティ 第13章 マニフェストの汎⽤化を⾏うオープンソースソフトウェア 第14章 モニタリング 第15章 コンテナログの集約 第16章 CI/CD環境 第17章 マイクロサービスとServiceMesh 第18章 Kubernetesのアーキテクチャ 第19章 Kubernetesとこれから 付録
導入に向けたモチベーション 1.レイテンシのモニタリング 2.ロジックの Canary Release Circuit Brakeとかももちろんしたい
端末でWebページを開いたとき DSP Demand Side Platform SSP Supply Side Platform Yahooで検索をしようと
Yahooのページを開く 広告枠を埋めるよう SSPにリクエスト
SSPからDSPsに対してオークションを実施 DSP Demand Side Platform SSP Supply Side Platform この端末で
この広告枠買う?
ad-technology system DSP Demand Side Platform SSP Supply Side Platform
この端末で この広告枠買う? 男性でYahooをよく利用する人 Yahooだからアダルト広告はだめだな…健全なのがいい すごいコーラ好きな人みたい 広告主にサントミーがいるから100円で入札して 新商品のウルトラコーラを宣伝しよう…
ad-technology system DSP Demand Side Platform SSP Supply Side Platform
この端末で この広告枠買う? 100円で買う
ad-technology system DSP Demand Side Platform SSP Supply Side Platform
この端末で この広告枠買う? いつまでも全DSPを待っているとユーザビリティが低下する = オークションは 100ms で締め切り うーん・・・・ まだ?
ad-technology system DSP Demand Side Platform SSP Supply Side Platform
この端末で この広告枠買う? マイクロサービスアーキテクチャでは どのコンポーネントがボトルネックになっているか判別しづらい 広告主に関するサービス 予算に関するサービス SSPに関するサービス 広告枠に関するサービス 入札ロジックに関するサービス ユーザに関するサービス ※ イメージ
導入に向けたモチベーション 1.レイテンシのモニタリング 100msを超えたリクエストは棄却される = 売上0(サーバ代はかさむ) マイクロサービスアーキテクチャ内のボトルネック把握 2.ロジックの Canary Release 売上に大きく影響するロジック
= 売上マイナス数百万 徐々にロジックを導入できるように 可能ならPod数はそこまで増やしたくない(≠ BlueGreen Deploy)
ロジック変更前 DSP Demand Side Platform SSP Supply Side Platform この端末で
この広告枠買う? 男性でYahooをよく利用する人 Yahooだからアダルト広告はだめだな…健全なのがいい すごいコーラ好きな人みたい 広告主にサントミーがいるから100円で入札して 新商品のウルトラコーラを宣伝しよう…
ロジック変更後 DSP Demand Side Platform SSP Supply Side Platform この端末で
この広告枠買う? 男性! 男性はみんな筋トレ好きだからダンベル100%買う! 広告主にマッスル株式会社がいるから 10000円で入札してダンベルを宣伝しよう…
Canaryリリースの必要性 DSP Demand Side Platform SSP Supply Side Platform この端末で
この広告枠買う? 男性! 男性はみんな筋トレ好きだからダンベル100%買う! 広告主にマッスル株式会社がいるから 10000円で入札してダンベルを宣伝しよう… DSPは多売薄利 ロジックやシステムに問題があるとインパクトが大きい Canaryリリースが必要
導入に向けたモチベーション 1.レイテンシのモニタリング 100msを超えたリクエストは棄却される = 売上0(サーバ代はかさむ) マイクロサービスアーキテクチャ内のボトルネック把握 2.ロジックの Canary Release 売上に大きく影響するロジック
= 売上マイナス数百万 徐々にロジックを導入できるように 可能ならPod数はそこまで増やしたくない(≠ BlueGreen Deploy)
導入に向けた課題 1.マイクロサービス間のレイテンシをモニタリングするためにレイテンシが増える そもそもEnvoyプロキシが挟まるのでしょうがない StgなどではConduitでモニタリングのみ行い傾向調査? Istio Performance and Scalability WG が対応中
Throughput が + 142 %、Latency (p50) が - 59 % 2.CI/CDのつくりこみ Deploymentを複数作って Traffic Shiftingする場合 VirtualServiceとDestinationRuleの管理…Deployment削除…
Pilot Mixer Istio-Auth Envoy App a Envoy App b Envoy
App c Deployment a Deployment b Deployment c Data Plane Control Plane Istioの場合
導入に向けた課題 1.マイクロサービス間のレイテンシをモニタリングするためにレイテンシが増える そもそもEnvoyプロキシが挟まるのでしょうがない StgなどではConduitでモニタリングのみ行い傾向調査? Istio Performance and Scalability WG が対応中
Throughput が + 142 %、Latency (p50) が - 59 % 2.CI/CDのつくりこみ Deploymentを複数作って Traffic Shiftingする場合 VirtualServiceとDestinationRuleの管理…Deployment削除…
CI/CDの作り込み 新しいDeploymentを作成(replica=x) DestinationRuleを更新する(subsetを登録) Virtual ServiceでTraffic Shifting(Replica数も可能なら制御) Trafficの割合を徐々に制御 古いDeploymentを削除(or replica=0にする) ロールバック時の挙動どうする?
弊社はGitOps風、Spinnakerや別のツールを使っている場合は?