Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
JAWS-UG情シス支部#13/efs
Search
Ichiro Nishiuma
August 27, 2018
Technology
1
620
JAWS-UG情シス支部#13/efs
Amazon EFSについて。JAWS-UG情シス支部 勉強会「チョコっとEFSのI/O性能を計測してみました」
Ichiro Nishiuma
August 27, 2018
Tweet
Share
More Decks by Ichiro Nishiuma
See All by Ichiro Nishiuma
社内の学びの場・コミュニティ形成とエンジニア同士のリレーションシップ構築/devreljapan2024
nishiuma
3
330
日経電子版から始まった内製開発の現在地と向き合っている課題/inhouse
nishiuma
0
280
エンジニア採用を起点に取り組む組織の改善活動と課題、中長期のタスク管理/ #HRmethod
nishiuma
4
3.6k
みんなで盛り上げ築くリレーション、日経の新卒エンジニア研修 #chiyoda_tech
nishiuma
1
250
回り回って効いてくる副次的効果としての技術広報/techpr
nishiuma
2
360
自らを知り外と繋がる、日経のエンジニア採用とDevRel活動/devreljp92
nishiuma
3
340
技術イベントはなんとかひねり出す 日経の技術広報の取り組み/techpr3
nishiuma
1
460
日経におけるエンジニア組織づくりで直面した課題と施策/engineerorganization #nikkei_tech_talk
nishiuma
0
330
日経におけるクラウド人材育成と 技術コミュニティ/human-resource-dev
nishiuma
0
53
Other Decks in Technology
See All in Technology
エンジニアのドメイン知識獲得コストを低減するアプリケーションデザイン
ryo_nagata_
3
150
【㈱アイモバイル】エンジニア向け会社説明資料
imobile
0
480
ReSTIRの数理と実装 (rtcamp10)
yumcyawiz
1
470
From naive to advanced RAG: the complete guide
glaforge
0
650
Bluesky 2019〜2022
yamarten
1
120
最新のWasm事情
askua
5
2.5k
Transforming Event Attendees into Lifelong Donors: Insights from Claire Axelrad
auctria
PRO
1
110
自然言語処理を役立てるのはなぜ難しいのか
pfn
PRO
16
4.3k
Amplify Gen 2ではじめる 生成AIアプリ開発入門
tsukuboshi
0
400
v-modelの歩みを振り返る
bengo4com
5
1.9k
Oracle Base Database Service 技術詳細
oracle4engineer
PRO
5
48k
RAG: from dumb implementation to serious results
glaforge
0
640
Featured
See All Featured
Designing Dashboards & Data Visualisations in Web Apps
destraynor
228
52k
For a Future-Friendly Web
brad_frost
174
9.4k
Visualization
eitanlees
143
15k
Six Lessons from altMBA
skipperchong
26
3.4k
Building Better People: How to give real-time feedback that sticks.
wjessup
363
19k
Speed Design
sergeychernyshev
23
540
BBQ
matthewcrist
85
9.2k
10 Git Anti Patterns You Should be Aware of
lemiorhan
653
59k
Reflections from 52 weeks, 52 projects
jeffersonlam
346
20k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
3
330
Thoughts on Productivity
jonyablonski
67
4.3k
How To Stay Up To Date on Web Technology
chriscoyier
788
250k
Transcript
チョコっとEFSのI/O性能を 計測してみました JAWS-UG 情シス支部 第13回 2018/08/27(月) 日本経済新聞社 デジタル事業 BtoCユニット 西馬一郎
きょうお話したいこと (エンタープライズ的に)既存のものをそのま まEFSに置き換えようとしましたが、扱う ファイルサイズにより性能が違うので気をつ けましょう 対象 • ファイルサイズ100KB以下、Web配信 • プロビジョンド
IOPSは測定していない • 計測対象は書き込み
自己紹介 • 西馬 一郎(にしうま いちろう) – 西からきた馬ヅラのオトコ • 電子版インフラエンジニア –
2010年、電子版創刊 – 2015年、電子版AWS移行 – 2017年、電子版完全https化対応 – 直近は、API開発や認証システム • Backlog(JBUG)のコミュニティ活動 • サウナが大好き
日経電子版、日経の紹介 • 2018年に有料会員60万人 • 技術ブログ https://hack.nikkei.com/blog • レガシーな会社がテクノロジーメディア • デジタルファーストで電子版サービスの利
便性、品質向上
5 速さに磨きをかける 最新ニュースを お客様に早く届け る速報性 応答時間の向上
検討したEFSの用途 • 本番公開前のプレビュー用環境 • 記事に付随する画像の配置場所 • Webサーバで共有 • 設定ファイルの配置場所 •
バッチ処理でメール本文の作成 • 全体で150GB • https://docs.aws.amazon.com/ja_jp/efs/latest/ug/pe rformance.html > ファイルシステムが大きくなるに従って Amazon EFS によってスループットが拡張
EC2構成とEFSの構成 7 Web サーバ Web サーバ Web サーバ Web サーバ
NFSマウント 業務 サーバ 業務 サーバ CMS サーバ NFSマウント NFSマウント NFSマウント EC2 NFS サーバ EFS コンテンツファイル転送 ※きょうのプレゼ ンで、オンプレの 名残でNASサー バと呼んだり、 NFSサーバと呼ん だりします NFSクライアント はLinux系 8台程度
めちゃくちゃ簡単にEFSが作れた 大船に乗った気分でいた EFSのファイルシステムを作成するのは 約5分。NFSクライアントからマウントも すぐできた。「めっちゃ簡単やん」 mountのオプションもいい具合。 あとは、ファイルをrsyncコピーするだけ。 150GBのファイル転送で1週間要した (EFS File
Syncは使っていない)
EFSでのIO性能を測定してみた EC2のNFS (t2.micro) ↓ EFSに大容量 ダミーファイル を作り、ファイ ルシステム全 体を1TB、2TB にしても変わら
ず →バースト性 能でると思っ たが EC2のNFS (t2.micro) ↓ ddコマンド ブロック単位 でコピー dd if=/dev/zero of=/share/tmp/1000M bs=1K count=1000
画像ファイルサイズの分布 10
処理時間の比較で検証 • 日経電子版の朝刊紙面イメージデータ – 毎日深夜、3500画像ファイルのFTP転送 • EC2NASの場合 2分30秒 • EFSの場合
5分53秒 • 日経電子版のメール作成処理 • EC2NASの場合 約1時間 • EFSの場合 約2時間
日経電子版で扱う ファイルサイズの特性 • 平均的なファイルサイズ – 100KB以下のファイルが8割を占める • なぜ速さが重要か – 編集者が操作したものを即時反映
– 現行の書き込み速度から落とせない
まとめ • オンプレNFSサーバやEC2のNFSサーバから EFSに置き換える時、特に性能に注意 – 100KB以下の小さいファイルの場合、特にファイ ル数が多い場合は性能がでないのかも知れない • 用途や扱うファイルサイズに左右されると思 われる
以上おしまいです