Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
サーバサイドの技術スタック・アーキテクチャ総ざらい - SmartNews Tech Night in Fukuoka Vol.1
Search
Nobutoshi Ogata
May 28, 2019
Technology
1
17k
サーバサイドの技術スタック・アーキテクチャ総ざらい - SmartNews Tech Night in Fukuoka Vol.1
Nobutoshi Ogata
May 28, 2019
Tweet
Share
More Decks by Nobutoshi Ogata
See All by Nobutoshi Ogata
SmartNews x PLAID - Cost cut and AWS Enterprise Support
nobu666
0
210
Why Slack?
nobu666
0
250
A Complete Work of SmartNews's SRE
nobu666
2
2.5k
SRE at SmartNews
nobu666
0
7.3k
SmartNews の最近の取り組みについて
nobu666
4
3.3k
Introducing in-hourse PaaS
nobu666
1
230
Monitoring of SmartNews
nobu666
0
120
The story becase happy with itamae
nobu666
0
84
sensuとその周辺のはなし
nobu666
0
97
Other Decks in Technology
See All in Technology
巨大なテーブルのテーブル定義を無停止で安全に誰でも変更できるようにする / Table-definitions-for-huge-tables-can-be-modified-by-anyone-safely-and-non-disruptively
freee
1
740
AIQ株式会社 エンジニア向け会社紹介資料
aiqlab
0
370
Janus
bkuhlmann
1
490
Aurora MySQL v3(MySQL8.0互換)の オンラインDDLの罠挙動を全バージョンで検証した
yutakikai
1
150
開発生産性向上サービスを作るFindyが自分たちで開発生産性を爆上げした組織づくりの歩み / Findy's path to boosting its own development productivity 2024-04-17
ma3tk
3
330
Algyan イベント振り返り
linyixian
0
190
HEXA OSINT CTF V3 作戦会議
meow_noisy
0
110
人間の尊厳、幸福、アクセシビリティ / 第116回「WEB TOUCH MEETING」アクセシビリティSP
nulabinc
PRO
2
180
Hands-on / Kaname Frusawa / Cloud Compare Users Meetup 2024 at University of Tokyo on April 17
paraworld
2
470
自動生成を活用した、運用保守コストを抑える Error/Alert/Runbook の一元集約管理 / Centralized management of Error/Alert/Runbook to minimize operational costs using automated code generation
biwashi
9
2.1k
検証を通して見えてきたTiDBの性能特性
lycorptech_jp
PRO
6
3.3k
元インフラエンジニアに成る / Human Resources to Human Relations
bobtani
3
800
Featured
See All Featured
Faster Mobile Websites
deanohume
297
30k
Thoughts on Productivity
jonyablonski
57
3.8k
A Tale of Four Properties
chriscoyier
150
22k
Clear Off the Table
cherdarchuk
83
310k
The Cost Of JavaScript in 2023
addyosmani
14
3.8k
GraphQLとの向き合い方2022年版
quramy
31
12k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
154
14k
Raft: Consensus for Rubyists
vanstee
132
6.2k
In The Pink: A Labor of Love
frogandcode
138
21k
4 Signs Your Business is Dying
shpigford
175
21k
How To Stay Up To Date on Web Technology
chriscoyier
782
250k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
352
28k
Transcript
Nobutoshi Ogata Engineering Manager, Site Reliability Engineering SmartNews, Inc. サーバサイドの
技術スタック・アーキテクチャ総ざらい
1. はじめに 2. 自己紹介 3. SmartNews とは 4. SmartNews の技術スタック
5. ニュースが配信される流れと規模 6. ニュース配信のアーキテクチャ 7. おわりに Agenda
はじめに
• SmartNews のサーバサイドで利用している技術スタック・アーキテクチャに ついてざっとご紹介 • ニュース選定などのアルゴリズムに関する話はしません はじめに
自己紹介
尾形暢俊 (Nobutoshi Ogata) • Engineering Manager, Site Reliability Engineering •
2015 年 5 月に入社し、開発基盤やインフラ周りの整備を担当 • 2016 年より SRE チームを立ち上げ、Engineering Manager に • ゲームと車と猫と酒で出来ています 自己紹介 @nobu666
SmartNews とは
SmartNews とは
• スマートフォン・タブレット向けニュースアプリ • 日米 4,000 万以上のダウンロード • 月間利用者数 (MAU) 1,000
万人以上 • マスコットキャラクターは地球くん SmartNews とは http://about.smartnews.com/ja/2019/02/20/20190220/
SmartNews の 技術スタック
本日は、ニュース配信基盤にしぼってお話をします SmartNews の技術スタック ニュース配信基盤 広告配信基盤
• 基本的には AWS + Amazon Linux • CDN は Akamai(一部
CloudFront) + WAF • Java 8 → 11 ◦ 一部 Ruby, Golang, Scala, Kotlin SmartNews の技術スタック
• Online ◦ ALB(CLB) + ASG + EC2 ▪ nginx
+ Spring Boot embedded Tomcat ◦ ALB + ECS ▪ nginx + Consul Template ◦ EKS (検証中) • DMP ◦ EMR, Airflow, Hive LLAP, Presto ◦ Chartio, Superset, Jupyter SmartNews の技術スタック
• Instance Provisioning ◦ AMI に共通で必要なものを焼き込み ◦ インスタンスがタグによって自律的に必要なものを Provisioning ◦
Code Deploy によりアプリケーションを Deploy • itamae, Terraform, CircleCI, Jenkins, VAddy SmartNews の技術スタック
• 監視・通知 ◦ Datadog + PagerDuty ◦ Runscope ◦ New
Relic SmartNews の技術スタック
• PipelineDB ◦ News 側では内部利用のみ • Hazelcast ◦ 後述 ちょっと珍しいかもしれないもの
ニュースが配信される 流れと規模
ニュース配信基盤のデータの流れ Publishers SNS
ニュース配信基盤が扱う トラフィック・データの規模 Online 30k+ requests / second Push Notification 25M+
users / 5 minutes Index 100k+ articles / day Log Aggregation 500M+ logs / day
ニュース配信基盤が扱う トラフィック・データの規模 CDN(Akamai) 480k+ hits / second 35G+ bits /
second 120T+ bits / day
ニュース配信の アーキテクチャ
Online のアーキテクチャ • メインのサービスは ◦ API gateway under L7 LB
(ALB) ◦ search engine ◦ personalized engine • API gateway では ◦ 複数のデータソースから非同期に結果を取得 ◦ I/O を極力減らして non-blocking に
Online のアーキテクチャ • Auto Scaling Group (ASG) で制御される EC2 群に
よるサービス ◦ ASG, Lambda, Simple Notification Service (SNS) を組み合わせて scale out を自動化 ◦ scale out が前提なので、scalable なアーキテク チャである必要がある
Online のアーキテクチャ • search engine は cache layer で守る ◦
L1: in-memory ◦ L2: Memcached cache cluster • cache hit rate が重要 ◦ offline 処理で絶えず L1/L2 cache を作成
Online のアーキテクチャ • cache が効きづらい personalized engine には、 in-memory data
grid を採用し高速化 ◦ Hazelcast cluster • Application Framework には Reactive Streams (Reactor) を採用 • 負荷状態に応じて自律的に処理内容を変更
おわりに
• プロダクト・開発組織・サービス提供範囲の全てがより成長します ◦ それに対して scalable なアーキテクチャが必要です ◦ さらに高速で安定した分析基盤が必要です ◦ 時差を超えて、より簡単・スムーズに開発できる環境が必要です
• もっとたくさんの仲間が必要です、ぜひ一緒にとりくみませんか! おわりに
We are hiring! https://smartnews.workable.com/
None
ご静聴ありがとう ございました