JAWS-UG情シス支部#13/efs

 JAWS-UG情シス支部#13/efs

Amazon EFSについて。JAWS-UG情シス支部 勉強会「チョコっとEFSのI/O性能を計測してみました」

Cbc9561ae10a196ca473048980db31d0?s=128

Ichiro Nishiuma

August 27, 2018
Tweet

Transcript

  1. チョコっとEFSのI/O性能を 計測してみました JAWS-UG 情シス支部 第13回 2018/08/27(月) 日本経済新聞社 デジタル事業 BtoCユニット 西馬一郎

  2. きょうお話したいこと (エンタープライズ的に)既存のものをそのま まEFSに置き換えようとしましたが、扱う ファイルサイズにより性能が違うので気をつ けましょう 対象 • ファイルサイズ100KB以下、Web配信 • プロビジョンド

    IOPSは測定していない • 計測対象は書き込み
  3. 自己紹介 • 西馬 一郎(にしうま いちろう) – 西からきた馬ヅラのオトコ • 電子版インフラエンジニア –

    2010年、電子版創刊 – 2015年、電子版AWS移行 – 2017年、電子版完全https化対応 – 直近は、API開発や認証システム • Backlog(JBUG)のコミュニティ活動 • サウナが大好き
  4. 日経電子版、日経の紹介 • 2018年に有料会員60万人 • 技術ブログ https://hack.nikkei.com/blog • レガシーな会社がテクノロジーメディア • デジタルファーストで電子版サービスの利

    便性、品質向上
  5. 5 速さに磨きをかける 最新ニュースを お客様に早く届け る速報性 応答時間の向上

  6. 検討したEFSの用途 • 本番公開前のプレビュー用環境 • 記事に付随する画像の配置場所 • Webサーバで共有 • 設定ファイルの配置場所 •

    バッチ処理でメール本文の作成 • 全体で150GB • https://docs.aws.amazon.com/ja_jp/efs/latest/ug/pe rformance.html > ファイルシステムが大きくなるに従って Amazon EFS によってスループットが拡張
  7. EC2構成とEFSの構成 7 Web サーバ Web サーバ Web サーバ Web サーバ

    NFSマウント 業務 サーバ 業務 サーバ CMS サーバ NFSマウント NFSマウント NFSマウント EC2 NFS サーバ EFS コンテンツファイル転送 ※きょうのプレゼ ンで、オンプレの 名残でNASサー バと呼んだり、 NFSサーバと呼ん だりします NFSクライアント はLinux系 8台程度
  8. めちゃくちゃ簡単にEFSが作れた 大船に乗った気分でいた EFSのファイルシステムを作成するのは 約5分。NFSクライアントからマウントも すぐできた。「めっちゃ簡単やん」 mountのオプションもいい具合。 あとは、ファイルをrsyncコピーするだけ。 150GBのファイル転送で1週間要した (EFS File

    Syncは使っていない)
  9. EFSでのIO性能を測定してみた EC2のNFS (t2.micro) ↓ EFSに大容量 ダミーファイル を作り、ファイ ルシステム全 体を1TB、2TB にしても変わら

    ず →バースト性 能でると思っ たが EC2のNFS (t2.micro) ↓ ddコマンド ブロック単位 でコピー dd if=/dev/zero of=/share/tmp/1000M bs=1K count=1000
  10. 画像ファイルサイズの分布 10

  11. 処理時間の比較で検証 • 日経電子版の朝刊紙面イメージデータ – 毎日深夜、3500画像ファイルのFTP転送 • EC2NASの場合 2分30秒 • EFSの場合

    5分53秒 • 日経電子版のメール作成処理 • EC2NASの場合 約1時間 • EFSの場合 約2時間
  12. 日経電子版で扱う ファイルサイズの特性 • 平均的なファイルサイズ – 100KB以下のファイルが8割を占める • なぜ速さが重要か – 編集者が操作したものを即時反映

    – 現行の書き込み速度から落とせない
  13. まとめ • オンプレNFSサーバやEC2のNFSサーバから EFSに置き換える時、特に性能に注意 – 100KB以下の小さいファイルの場合、特にファイ ル数が多い場合は性能がでないのかも知れない • 用途や扱うファイルサイズに左右されると思 われる

  14. 以上おしまいです