新しい画像フォーマットHEIFを 用いたiOSアプリの通信量削減/iosdc-heif

253696343a018052ff394eb1f63e3d6f?s=47 Taketo Yoshida
September 17, 2017

新しい画像フォーマットHEIFを 用いたiOSアプリの通信量削減/iosdc-heif

9/16 10:30 ~ 10:45 Track A で発表した資料です

253696343a018052ff394eb1f63e3d6f?s=128

Taketo Yoshida

September 17, 2017
Tweet

Transcript

  1. 新しい画像フォーマットHEIFを ⽤いたiOSアプリの通信量削減 iOSDC 2017 Sun Sep 16 Taketo Yoshida

  2. 2 Taketo Yoshida @TamaObject12 ⽇本経済新聞社のiOSエンジニア ⽇経電⼦版アプリ、紙⾯ビューアーアプリの開発

  3. 3 HEIFとは…

  4. 4 High Efficiency Image File Format

  5. 5 次世代の画像フォーマット

  6. 6 WWDC17にてiOS11から HEIFを使⽤できる事が分かりました

  7. 7 H.265/HEVCでエンコードされた イントライメージを利⽤している 特徴その1

  8. 8 Live Photosなどの シーケンス画像を効率よく保存 特徴その2

  9. 9 深度マップや透明度などの 補助データに対応 特徴その3

  10. 10 本⽇話す事 HEIFがどのようにmacOSやiOSで使⽤されているか 紙⾯ビューアアプリのHEIFの導⼊実験の話

  11. 11 HEIFに触れてみる

  12. iOS11のiPhone7(A10 chip)で写真を撮る

  13. 13 PHAssetのrequestContentEditingInput を使ってファイルのパスを取得してみる

  14. // Photo image url: file:///var/mobile/Media/DCIM/102APPLE/IMG_2252.HEIC

  15. 15 取った写真はHEIFで保存されています

  16. 16 Webにアップロードする時は どうすればいいん?

  17. 17 HEIFからJPEGに⾃動で変換されます※ HEIF to JPEG ※ PhotoKitやUIImagePickerControllerを普通に使えば問題ないです

  18. Previewで普通に閲覧できる (なおSafariでは無理な模様)

  19. 19 HEIF Decode サポート iPhone Mac Hardware Decode A9 Chip

    (iPhone 6S, iPad Pro) 6th Generation Intel Core (Skylake family of processors.) Software Decode All iOS Devices All Macs HEIF Encode サポート iPhone Mac Hardware Decode A10 Chip (iPhone7) None
  20. 20 ⽇経の朝刊画像をHEIF/WebP/JPEG に変換して⽐べた話

  21. 21 その前に紙⾯ビューアーアプリの話を

  22. 22 紙⾯ビューアーアプリの歴史 2012年3⽉ リリース 当時は外注開発 JPEG画像で紙⾯配信

  23. 内製開発、Swift移⾏ 23 紙⾯ビューアーアプリの歴史 WebP画像で紙⾯配信 サーバレスアーキテクチャが少し話題に 2016年3⽉ リニューアル

  24. 24 2016年3⽉ 2012年3⽉ 201?年??⽉ JPEG時代 WebP時代 HEIF時代?

  25. 25 HEIF導⼊のために評価を⾏う

  26. 26 HEIF/WebP/JPEGでSSIMの値を⾒て同程度の画質に※ 朝刊画像⼀週間分を変換 HEIFの作成はffmpeg, GPAC/MP4Boxを利⽤ ※ SSIMの値が⼤体0.963 ~ 0.998の間に収まるように JPEGとWebPはImageMagickで作成

  27. 27 JPEG HEIF HEVC intra image ffmpeg GPAC/MP4Box HEIF作成の流れ

  28. $ ffmpeg -i {source.png} -y -pix_fmt yuv420p \ -codec:v libx265

    -crf 13 -preset slower \ -x265-params ssim=1 -f hevc {output.hvc} 画質測定のためにx265のオプションにSSIMする HEIFのHEVCイントライメージを作成
  29. $ MP4Box -add-image {source.hvc} -ab heic \ -new {output.heic} GPAC/MP4BoxでHEIFを作成する

  30. 30 実験結果

  31. 31 0 30 60 90 120 8/21 8/22 8/23 8/24

    8/25 8/26 8/27 HEIF [MB] WebP [MB] JPEG [MB] 朝刊画像の各フォーマットの合計サイズ
  32. 32 0 30 60 90 120 8/21 8/22 8/23 8/24

    8/25 8/26 8/27 HEIF [MB] WebP [MB] JPEG [MB] 朝刊画像の各フォーマットの合計サイズ 32%削減
  33. 33 0 30 60 90 120 8/21 8/22 8/23 8/24

    8/25 8/26 8/27 HEIF [MB] WebP [MB] JPEG [MB] 朝刊画像の各フォーマットの合計サイズ 52%削減
  34. 34 JPEGと⽐べて、約50%通信量を削減可能 A9 chip以降ならばハードウェアデコード可能

  35. 35 HEIF最⾼や!JPEG、WebPなんて 最初っからいらんかったんや!

  36. 36 しかし…

  37. 37 商業⽬的でffmpeg, GPAC/MP4Box を使うのは特許使⽤の観点から 正直怪しい IANAL ɹɹɹɹɹɹɹɹ㱸㱸 ɹɹɹɹɹɹʋ ŋТŋ ɹɹţƄŠŖ

    ɹɹɹɹɹʘ ʘϊ ɹɹɹɹŊŰ Ŋɹʉ ɹɹɹɹʉ
  38. 38 ffmpegなどを使ってHEIF 作成しても商業利⽤できないので 気をつけてくださいね

  39. 39 それでも僕はHEIFを使いたいので ⼒技でも実現できるように考えてみました

  40. 紙⾯ビューアーアプリ朝刊⾃動ダウンロード 紙⾯画像⽣成

  41. 紙⾯ビューアーアプリ朝刊⾃動ダウンロード 紙⾯画像⽣成 これだ!!

  42. 42 ※ デバイストークンの管理については⼀度無視 紙⾯画像確認 メタデータ更新 朝刊のページ分 ✕ N 回 SQSに積む

    Polling Notifier Download HEIF Encode & Upload 社内のiPhone Cluster Silent Remote Notification 紙⾯画像置き場 ①画像確認 ② ③ ④ ⑤ ⑥
  43. 43 ※ デバイストークンの管理については⼀度無視 紙⾯画像⽣成 朝刊のページ分 ✕ N 回 SQSに積む Polling

    Notifier Download HEIF Encode & Upload 社内のiPhone Cluster Silent Remote Notification 紙⾯画像置き場 ①画像確認 ② ③ ④ ⑤ ⑥ 取りこぼし防⽌のために⼀つの端末に通知をN回送る スケジューラが何度も起動して反映されてるか確認 iPhoneの台数は朝刊の最⼤ページ数の48個程度⽤意
  44. 44 問題点 画像反映スピード システム全体の可⽤性 iPhone爆買いを上に説得すること

  45. 45 最後に

  46. 46 High SierraとiOS11からHEIFの利⽤が可能 AppleがServerSide-HEIFに対応するのを期待 HEVCやHEIFは特許問題でドロドロしてる 1 2 3

  47. 47 ありがとうございました