Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
JAWS-UG情シス支部#13/efs
Search
Ichiro Nishiuma
August 27, 2018
Technology
1
630
JAWS-UG情シス支部#13/efs
Amazon EFSについて。JAWS-UG情シス支部 勉強会「チョコっとEFSのI/O性能を計測してみました」
Ichiro Nishiuma
August 27, 2018
Tweet
Share
More Decks by Ichiro Nishiuma
See All by Ichiro Nishiuma
2025年の挑戦 コーポレートエンジニアの技術広報/techpr5
nishiuma
0
220
社外コミュニティで学び社内に活かす共に学ぶプロジェクトの実践/backlogworld2024
nishiuma
0
360
社内の学びの場・コミュニティ形成とエンジニア同士のリレーションシップ構築/devreljapan2024
nishiuma
4
390
日経電子版から始まった内製開発の現在地と向き合っている課題/inhouse
nishiuma
0
360
エンジニア採用を起点に取り組む組織の改善活動と課題、中長期のタスク管理/ #HRmethod
nishiuma
4
3.9k
みんなで盛り上げ築くリレーション、日経の新卒エンジニア研修 #chiyoda_tech
nishiuma
1
320
回り回って効いてくる副次的効果としての技術広報/techpr
nishiuma
2
440
自らを知り外と繋がる、日経のエンジニア採用とDevRel活動/devreljp92
nishiuma
3
380
技術イベントはなんとかひねり出す 日経の技術広報の取り組み/techpr3
nishiuma
1
540
Other Decks in Technology
See All in Technology
Ruby on Railsで持続可能な開発を行うために取り組んでいること
am1157154
3
160
クラウド関連のインシデントケースを収集して見えてきたもの
lhazy
9
1.8k
Qiita Organizationを導入したら、アウトプッターが爆増して会社がちょっと有名になった件
minorun365
PRO
1
220
エンジニアリング価値を黒字化する バリューベース戦略を用いた 技術戦略策定の道のり
kzkmaeda
7
3.2k
AI自体のOps 〜LLMアプリの運用、AWSサービスとOSSの使い分け〜
minorun365
PRO
9
760
ディスプレイ広告(Yahoo!広告・LINE広告)におけるバックエンド開発
lycorptech_jp
PRO
0
510
OPENLOGI Company Profile for engineer
hr01
1
20k
どちらかだけじゃもったいないかも? ECSとEKSを適材適所で併用するメリット、運用課題とそれらの対応について
tk3fftk
2
240
AIエージェント元年@日本生成AIユーザ会
shukob
1
250
【内製開発Summit 2025】イオンスマートテクノロジーの内製化組織の作り方/In-house-development-summit-AST
aeonpeople
2
1.1k
あなたが人生で成功するための5つの普遍的法則 #jawsug #jawsdays2025 / 20250301 HEROZ
yoshidashingo
2
320
【5分でわかる】セーフィー エンジニア向け会社紹介
safie_recruit
0
19k
Featured
See All Featured
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
11
1.3k
RailsConf 2023
tenderlove
29
1k
How to train your dragon (web standard)
notwaldorf
91
5.9k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
280
13k
Automating Front-end Workflow
addyosmani
1369
200k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
7k
Optimising Largest Contentful Paint
csswizardry
34
3.1k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
666
120k
Designing for Performance
lara
605
68k
Building Flexible Design Systems
yeseniaperezcruz
328
38k
Code Reviewing Like a Champion
maltzj
521
39k
Six Lessons from altMBA
skipperchong
27
3.6k
Transcript
チョコっとEFSのI/O性能を 計測してみました JAWS-UG 情シス支部 第13回 2018/08/27(月) 日本経済新聞社 デジタル事業 BtoCユニット 西馬一郎
きょうお話したいこと (エンタープライズ的に)既存のものをそのま まEFSに置き換えようとしましたが、扱う ファイルサイズにより性能が違うので気をつ けましょう 対象 • ファイルサイズ100KB以下、Web配信 • プロビジョンド
IOPSは測定していない • 計測対象は書き込み
自己紹介 • 西馬 一郎(にしうま いちろう) – 西からきた馬ヅラのオトコ • 電子版インフラエンジニア –
2010年、電子版創刊 – 2015年、電子版AWS移行 – 2017年、電子版完全https化対応 – 直近は、API開発や認証システム • Backlog(JBUG)のコミュニティ活動 • サウナが大好き
日経電子版、日経の紹介 • 2018年に有料会員60万人 • 技術ブログ https://hack.nikkei.com/blog • レガシーな会社がテクノロジーメディア • デジタルファーストで電子版サービスの利
便性、品質向上
5 速さに磨きをかける 最新ニュースを お客様に早く届け る速報性 応答時間の向上
検討したEFSの用途 • 本番公開前のプレビュー用環境 • 記事に付随する画像の配置場所 • Webサーバで共有 • 設定ファイルの配置場所 •
バッチ処理でメール本文の作成 • 全体で150GB • https://docs.aws.amazon.com/ja_jp/efs/latest/ug/pe rformance.html > ファイルシステムが大きくなるに従って Amazon EFS によってスループットが拡張
EC2構成とEFSの構成 7 Web サーバ Web サーバ Web サーバ Web サーバ
NFSマウント 業務 サーバ 業務 サーバ CMS サーバ NFSマウント NFSマウント NFSマウント EC2 NFS サーバ EFS コンテンツファイル転送 ※きょうのプレゼ ンで、オンプレの 名残でNASサー バと呼んだり、 NFSサーバと呼ん だりします NFSクライアント はLinux系 8台程度
めちゃくちゃ簡単にEFSが作れた 大船に乗った気分でいた EFSのファイルシステムを作成するのは 約5分。NFSクライアントからマウントも すぐできた。「めっちゃ簡単やん」 mountのオプションもいい具合。 あとは、ファイルをrsyncコピーするだけ。 150GBのファイル転送で1週間要した (EFS File
Syncは使っていない)
EFSでのIO性能を測定してみた EC2のNFS (t2.micro) ↓ EFSに大容量 ダミーファイル を作り、ファイ ルシステム全 体を1TB、2TB にしても変わら
ず →バースト性 能でると思っ たが EC2のNFS (t2.micro) ↓ ddコマンド ブロック単位 でコピー dd if=/dev/zero of=/share/tmp/1000M bs=1K count=1000
画像ファイルサイズの分布 10
処理時間の比較で検証 • 日経電子版の朝刊紙面イメージデータ – 毎日深夜、3500画像ファイルのFTP転送 • EC2NASの場合 2分30秒 • EFSの場合
5分53秒 • 日経電子版のメール作成処理 • EC2NASの場合 約1時間 • EFSの場合 約2時間
日経電子版で扱う ファイルサイズの特性 • 平均的なファイルサイズ – 100KB以下のファイルが8割を占める • なぜ速さが重要か – 編集者が操作したものを即時反映
– 現行の書き込み速度から落とせない
まとめ • オンプレNFSサーバやEC2のNFSサーバから EFSに置き換える時、特に性能に注意 – 100KB以下の小さいファイルの場合、特にファイ ル数が多い場合は性能がでないのかも知れない • 用途や扱うファイルサイズに左右されると思 われる
以上おしまいです